Ollama, LM Studio, AnythingLLM 모두 채팅에 파일을 넣을 수 있지만, 각각 일부 형식만 읽습니다. 스캔본이나 긴 문서는 비어 있거나 잘린 채로 모델에 전달될 수 있습니다. 먼저 문서를 Markdown으로 변환하고 텍스트를 확인한 다음, Markdown 파일을 모델에 주세요.
이 가이드는 자신의 Windows PC에서 모델을 실행하고, 계약서, 매뉴얼, 노트, 책에 관한 질문에 답하게 하려는 분을 위한 것입니다.
각 앱이 읽는 형식
2026년 10월 기준으로 각 앱의 문서나 소스 코드에 나와 있는 내용입니다.
| 앱 | 읽는 파일 | 스캔한 PDF |
|---|---|---|
| Ollama | .md를 포함한 텍스트 파일과 PDF, 파일당 최대 10 MB | 언급 없음 |
| LM Studio | .docx, .pdf, .txt | 언급 없음 |
| AnythingLLM | .md, .txt, .pdf, .docx, .pptx, .xlsx, .epub, .csv, .html 등 | OCR 내장 |
Windows용 Ollama 앱 은 끌어다 놓기로 파일을 받으며, 발표 글에서는 텍스트 파일과 PDF를 언급합니다. 버전 0.40.8의 앱 소스 코드에서는 PDF에서만 텍스트를 추출하는 것, 그리고 10 MB가 넘는 파일을 거부하는 것을 확인할 수 있습니다. Word, PowerPoint, Excel 파일은 추가하기 전에 변환하세요.
LM Studio 문서 에는 첨부 파일로 .docx, .pdf, .txt가 나와 있습니다. AnythingLLM의 지원 파일 목록 은 셋 중 가장 길고, 버전 1.7.4에서는 스캔한 PDF용 OCR이 추가되었습니다.
셋 모두 FB2, MOBI, EML 파일은 받지 않습니다. 이런 파일은 먼저 Markdown으로 변환하세요.
스캔한 PDF가 비어 있는 채로 모델에 전달되는 이유
스캔한 페이지는 텍스트를 찍은 그림입니다. PDF 안의 텍스트만 읽는 앱은 그 페이지에서 아무것도 찾지 못합니다. Ollama 앱에서는 이때 모델이 페이지 대신 텍스트 내용을 찾을 수 없다는 짧은 메모를 받습니다. 그러면 모델의 답은 문서에서 나온 것이 아닙니다.
PDF에 텍스트가 있는지 확인하려면 파일을 열고 한 줄을 선택해 보세요. 선택되지 않으면 스캔본입니다. 모델에 주기 전에 OCR을 거치고, 이름, 숫자, 날짜를 원본과 비교하세요. 저희의 스캔한 PDF 가이드 에서 확인할 내용을 설명합니다.
문서를 모델의 컨텍스트에 맞추기
컨텍스트는 모델이 한 번에 담아 두는 텍스트의 양으로, 질문, 지금까지의 대화, 문서가 모두 들어갑니다. 단위는 토큰이며, 영어에서는 1토큰이 대개 단어 하나의 4분의 3 정도입니다.
Ollama는 그래픽 카드 메모리에 따라 컨텍스트를 정합니다: 메모리가 24 GB 미만인 카드에서는 4k 토큰으로, 영어로 약 3,000단어입니다. 20페이지짜리 보고서는 들어가지 않습니다. Ollama 설정의 슬라이더로 컨텍스트 길이를 늘릴 수 있으며, 컨텍스트가 클수록 메모리가 더 필요합니다.
나머지 두 앱은 문서가 너무 길 때 어떻게 할지 알아서 정합니다.
- LM Studio 는 짧은 문서를 통째로 추가합니다. 긴 문서는 검색을 거칩니다. 앱이 질문과 관련 있어 보이는 구절을 골라내고, 모델은 그 구절만 봅니다.
- AnythingLLM 은 기본적으로 전체 텍스트를 추가하고, 들어가지 않으면 어떻게 할지 묻습니다. Embed는 문서를 조각으로 나누고 관련 있는 조각을 가져옵니다. Continue Anyway는 텍스트를 잘라 맞추는데, AnythingLLM 문서에서는 이 방법을 권하지 않습니다.
검색은 질문에 문서 속 표현이 그대로 들어 있을 때 잘 작동합니다. "모든 마감일을 나열해 줘"처럼 문서 전체에 관한 질문에는 일부만 답합니다.
여기서 Markdown이 도움이 되는 이유는 텍스트와 그 길이를 직접 볼 수 있기 때문입니다. 책이 들어가지 않으면 질문하려는 장만 모델에 주세요. Markdown 파일은 제목을 기준으로 쉽게 자를 수 있지만, PDF는 그렇지 않습니다.
문서 변환하고 확인하기
- MD Factory에 파일이나 폴더 전체를 추가하세요. 각 Markdown 파일은 원본 옆에 저장되고, 이미지는 그 옆 폴더에 들어갑니다. 스캔한 PDF는 PC에서 OCR을 거칩니다.
- 파일 옆의 검토 필요를 클릭하면 OCR이 텍스트 일부를 읽지 못한 페이지 등 확인할 내용을 볼 수 있습니다.
- 결과 몇 개를 열어 보세요. 제목, 표, 그림을 살펴보고 중요한 숫자를 원본과 비교하세요.
오류는 Markdown 파일에서 고치세요. 모델은 거기에 적힌 내용을 모두 사실로 받아들입니다.
각 앱에 Markdown 파일 추가하기
Ollama. .md 파일을 채팅에 끌어다 놓고 질문하세요.
LM Studio. 파일을 채팅에 첨부하세요. 파일 선택 창에서 .md 파일을 고를 수 없다면 확장자를 .txt로 바꾼 사본을 만드세요. 어느 쪽이든 내용은 일반 텍스트입니다. 질문에는 문서에 나오는 용어를 넣으세요. LM Studio 문서 에 따르면 이렇게 하면 검색이 알맞은 구절을 찾는 데 도움이 됩니다.
AnythingLLM. 문서가 하나라면 채팅에 끌어다 놓으세요. 자주 다시 보는 문서 모음은 워크스페이스에 업로드하고 임베딩하세요. 그러면 그 워크스페이스의 모든 스레드에서 사용할 수 있습니다. 다른 문서보다 중요하고 컨텍스트에 들어가는 문서가 있다면 고정하세요. 그러면 모델이 모든 답변에서 그 전체 텍스트를 받습니다.
문서를 PC 안에 두기
로컬 모델이라도 텍스트가 PC 안에 머무는 것은 모든 단계가 로컬일 때뿐입니다. 다음 두 가지 설정을 확인하세요.
- Ollama는 로컬 모델과 함께 클라우드 모델도 제공합니다. 클라우드 모델은 Ollama 클라우드에서 실행됩니다. 따라서 첨부한 문서도 질문과 함께 그곳으로 전송됩니다. 다운로드한 모델을 선택하거나 Ollama의 클라우드 기능을 끄세요.
- AnythingLLM은 웹 검색이 기본으로 켜져 있습니다. 모델이 웹을 검색하면 검색어가 PC 밖으로 나갑니다. 기밀 문서라면 다음 위치에서 웹 검색을 끄세요: Settings > Agent Skills.
MD Factory는 문서를 업로드하지 않고 PC에서 변환합니다. 저희의 업로드 없이 문서를 변환하는 가이드 에서 파일을 어디에 보관할지 설명합니다.