ollama3 [Local LLM] Qwen3.8(27B) 오!! 생각보다 좋네요. 근데 사용이 어렵습니다. 최근 Local LLM 에서 Qwen3.8:27b가 새로 출시했는데 저와 유사한 성능의 PC를 사용하는 분들께 참고가 되시도록 간단 테스트 결과를 공유하고자 합니다. 저는 평소에 문서 파일을 많이 사용하고 있어서 문서 파일로 테스트를 해보면 좋겠다 생각이 들어, 얼마전 발표된 2026 세제 개편안 상세본 pdf 로 테스트를 해 보았습니다. 이번 세제 개편안 상세본은 250 Page로 이걸 일일이 읽어보기에는 시간이 많이 들어 세제 개편안 중 우선 부동산 세제 합리화에 대한 부분에 대해 AI를 통해 상세 요약을 진행해 보았습니다. 1. 테스트 환경 및 조건- 하드웨어 사양: VRAM 16GB(5060Ti), 물리 메모리 32GB.- 구동 환경: Ollama (버전:Latest), Context Length.. 2026. 8. 18. [초보의 내 PC 집 밖 접속 분투기1] 외부 접속을 위한 투자비용 15,400원!! 시놀로지 NAS를 구매하였을 때, 별도 비용 없이 QuickConnect를 통해 쉽게 외부에서 접속할 수 있었기에 PC도 어렵지 않게 외부 접속이 가능할 것으로 생각하였으나, 전혀 아니었습니다. Ollama 기본 설치 상태에서는 보안상 로컬(127.0.0.1) 접속만 허용되어 별도의 환경 변수(OLLAMA_HOST=0.0.0.0) 설정 없이는 외부 접속이 차단된다는 점을 몰라서 한참 헤매다가 삭제하였고, Docker와 Ollama 조합의 경우에도 WebUI, AnythingLLM이나 Dify와 같은 별도의 도구가 필요했습니다. IP는 공유기가 재부팅될 때마다 변경되어 IP 입력 접속하는 방식은 사용하기 어려웠고, 결국 도메인까지 구입하게 되었습니다. 내부 포트 충돌로 삭제, 재 설치를 반복했고, 공유기 .. 2026. 8. 4. [개인 Agentic 비서 만들기 1부] 14,183건의 메일, LLM + Dify 로 활용 가능할까요? 개인사업을 하거나 바쁜 직장 생활을 하다 보면 누구나 한 번쯤 겪는 고통이 있습니다. "그때 그 메일, 도대체 어디 있지?" 급할 땐 보이지 않고, 나중에야 발견되는 데이터의 미스터리. Outlook의 검색 기능만으로는 해결되지 않는 이슈를 해결하기 위해, Synology Mailplus, Ollama, Anything LLM을 거쳐 최종적으로 Dify에 정착하기까지의 생존기를 기록합니다. 이번 1부에서는 하드웨어 한계를 극복하고 맵 리듀스(Map-Reduce) 아키텍처로 최적화한 데이터 분석 워크플로우 구축 과정을 작성해 보고자 합니다. ① 7주일간의 퇴근 후 시간을 DIfy가 가져갔습니다. 처음에는 큰 생각 없이 접근하였습니다. AnythingLLM 에서 인덱싱에 이슈가 발생한 이후, 검색을 하다.. 2026. 7. 12. 이전 1 다음 반응형
