本地 LLM 文档：Ollama、LM Studio、AnythingLLM

Ollama、LM Studio 和 AnythingLLM 都能把文件加入聊天，但各自只读部分格式，扫描件或长文档送到模型时可能是空的，或者被截断。先把文档转换为 Markdown，检查文字，再把 Markdown 文件交给模型。

本指南适合在自己的 Windows 电脑上运行模型，并希望它回答合同、手册、笔记或图书相关问题的人。

各应用能读什么

以下是截至 2026 年 10 月各应用的文档或源代码显示的内容。

应用	可读取的文件	扫描版 PDF
Ollama	文本文件（包括 .md）和 PDF，每个不超过 10 MB	未提及
LM Studio	.docx、.pdf 和 .txt	未提及
AnythingLLM	.md、.txt、.pdf、.docx、.pptx、.xlsx、.epub、.csv、.html 等	内置 OCR

Ollama 的 Windows 应用支持拖放文件；它的发布公告提到了文本文件和 PDF。在该应用 0.40.8 版的源代码中，可以看到只从 PDF 提取文字的逻辑和拒绝超过 10 MB 文件的限制。添加 Word、PowerPoint 和 Excel 文件之前，请先转换。

这三个应用都不支持 FB2、MOBI 或 EML 文件。请先把它们转换为 Markdown。

扫描页是文字的图片。只读取 PDF 内文字的应用在上面什么也找不到。在 Ollama 的应用里，模型收到的不是这些页面，而是一条简短的说明：未找到文本内容。这时它给出的任何回答都不是来自文档。

要判断 PDF 是否包含文字，打开它并试着选中一行。如果选不中，它就是扫描件。在交给模型之前先进行 OCR，并对照原件核对姓名、数字和日期。我们的扫描 PDF 指南介绍了需要检查什么。

上下文是模型一次能容纳的文字量：你的问题、之前的对话和文档。它以词元计算；在英语中，一个词元通常约相当于四分之三个单词.

Ollama 会根据显卡显存设置上下文：显存低于 24 GB 的显卡为 4k 词元，约合 3,000 个英文单词。一份 20 页的报告放不下。可以用 Ollama 设置中的滑块提高上下文长度；上下文越大，需要的内存越多。

另外两个应用会在文档过长时替你决定怎么处理：

LM Studio 会完整加入短文档。长文档则走检索：应用挑出看起来与你的问题相关的段落，模型只能看到这些段落。
AnythingLLM 默认加入全文，放不下时会询问如何处理。Embed 会把文档拆成多个片段，并检索相关片段。Continue Anyway 会截断文字以适应上下文，AnythingLLM 的文档不建议这样做。

当你的问题使用文档本身的措辞时，检索效果最好。针对整份文档的问题，例如“列出所有截止日期”，只能得到部分答案。

Markdown 在这里有用，是因为你能看到文字和它的长度。如果一本书放不下，就只把你要问的那一章交给模型。Markdown 文件很容易按标题切分，PDF 则不然。

在 MD Factory 中添加文件或整个文件夹。每个 Markdown 文件都保存在原文件旁边，图片放在它旁边的文件夹里。扫描 PDF 会在你的电脑上进行 OCR。
点击文件旁边的需要检查，查看要检查什么，例如 OCR 无法读取部分文字的页面。
打开几份结果。查看标题、表格和插图，并对照原件核对重要数字。

在 Markdown 文件中改正错误。模型会把文件里的内容都当作事实。

Ollama： 把 .md 文件拖进聊天，然后提问。

LM Studio： 把文件附加到聊天中。如果文件对话框不能选择 .md 文件，就复制一份并把扩展名改为 .txt：两者内容都是纯文本。在问题中提到文档里的术语； LM Studio 的文档指出，这有助于检索找到正确的段落。

AnythingLLM： 单个文档直接拖进聊天即可。对于会反复使用的一组文档，把文件上传到工作区并嵌入；这样该工作区中的每个对话线程都能使用它们。如果某份文档比其他文档更重要，而且能放进上下文，就把它固定，模型在每次回答时都会获得它的全文。

只有整个链条的每个环节都在本地，本地模型才能让文字留在你的电脑上。请检查两项设置：

Ollama 在本地模型旁边还提供云端模型。云端模型在 Ollama 的云端运行，所以你附加的文档会随问题一起发送到那里。请选择已下载的模型，或者关闭 Ollama 的云功能.
AnythingLLM 默认开启网络搜索。模型搜索网络时，它的搜索词会离开你的电脑。处理机密文档时，请在以下位置关闭网络搜索： Settings > Agent Skills.

MD Factory 在你的电脑上转换文档，不会上传。我们的无需上传即可转换文档的指南介绍了文件应该放在哪里。