[Local LLM] Qwen3.8(27B) 오!! 생각보다 좋네요. 근데 사용이 어렵습니다.

최근 Local LLM 에서 Qwen3.8:27b가 새로 출시했는데 저와 유사한 성능의 PC를 사용하는 분들께 참고가 되시도록 간단 테스트 결과를 공유하고자 합니다. 

저는 평소에 문서 파일을 많이 사용하고 있어서 문서 파일로 테스트를 해보면 좋겠다 생각이 들어, 얼마전 발표된 2026 세제 개편안 상세본 pdf 로 테스트를 해 보았습니다. 이번 세제 개편안 상세본은 250 Page로 이걸 일일이 읽어보기에는 시간이 많이 들어 세제 개편안 중 우선 부동산 세제 합리화에 대한 부분에 대해 AI를 통해 상세 요약을 진행해 보았습니다.

 

1. 테스트 환경 및 조건

- 하드웨어 사양: VRAM 16GB(5060Ti), 물리 메모리 32GB.

- 구동 환경: Ollama (버전:Latest), Context Length 64K 설정.

- 비교 대조군: Gemini 3.7 Flash (클라우드 기반 모델과의 결과 대조 목적).

- 테스트 문서: 정부 세제 개편안 PDF (총 250페이지 中 부동산 세제 합리화 부분 19,000 자,41Page)

 

2. 프롬프트

문서를 분석하여 금번 변경되는 세제 개편안의 주요 사항(세금 비율)을 다음 3가지 대상자 기준으로 분류하여 표로 정리할 수 있도록 해 보았습니다. 

- 1주택자이면서 실제 거주자.

- 1주택자이면서 비거주자.

- 다주택자.

 

3. 결과

판단 기준은 '결과 도출 속도'와 '의도한 결과의 도출 여부(내용의 정확성)'로 설정하여 확인해 보았습니다. 다만 의도한 결과의 도출 여부는 주관적일 수 있는 부분이 있기에 참조 부탁드립니다. 

 

- Gemma4:26b

. 속도: 상 (Thinking 90.0초).

. 내용: 중. 핵심 쟁점인 장기보유특별공제(장특공제) 변경 사항은 요약했으나, 양도세 특례 요건 단축과 같은 기타 세부 사항은 요약 결과에서 누락이 되었습니다. 

- Qwen3.8:27b

. 속도: 하 (Thinking 2756.0초, 답변 출력까지 10분 이상 추가 소요).

. 내용: 상. 지정한 조건에 맞춰 매우 상세하게 내용을 정리해 내는 것을 확인하였습니다. 

솔직히, Qwen3.8:27b 의 테스트 결과물을 보면서 제가 VRAM 용량이 더 컸다면 제가 주로 사용하는 pdf 정리는 얼마든지 가능할 것으로 보였습니다. 하지만, 16G VRAM에서는 실 사용은 어렵다고 판단이 되었고, 이 정도 문서를 분석하려면 적어도 24G VRAM 혹은, Apple MAC을 사용해야 겠다고 생각이 되었습니다. 

. 

첨부로, Gemini 3.7 Flash와, 각 LLM이 분석한 자료를 pdf로 첨부하였으니, 궁금하신 분들께서는 참조하셔도 좋을거 같습니다. 

 

추가로 테스트 Context length 32K로 줄여 메모리 스와핑를 최소화하고, pdf 문서의 페이지를 20Page 수준으로 나눴을 경우 실 사용이 가능한지 해보고 공유드리겠습니다. 

1. 2026 부동산 세제 개편 - Gemini 3.7 Flash 요약본.pdf

0.07MB

2. 2026 부동산 세제 개편 - Qwen3.7.27b 요약본.pdf

0.13MB

3. 2026 부동산 세제 개편 - Gemma4.26b 요약본.pdf

0.18MB

이전글. Local LLM PC 구축기. 집에서 놀던 6년된 DELL Optiplex.