Ollama, LM Studio и AnythingLLM умеют добавлять файл в чат, но каждое приложение читает только часть форматов, а скан или длинный документ может дойти до модели пустым или обрезанным. Сначала сконвертируйте документы в Markdown, проверьте текст, а затем дайте модели файл Markdown.
Эта статья для тех, кто запускает модель на своём компьютере с Windows и хочет, чтобы она отвечала на вопросы по договорам, инструкциям, заметкам или книгам.
Что читает каждое приложение
Так написано в документации или исходном коде каждого приложения на октябрь 2026 года.
| Приложение | Какие файлы читает | Сканированные PDF |
|---|---|---|
| Ollama | Текстовые файлы, включая .md, и PDF до 10 МБ каждый | Не упоминается |
| LM Studio | .docx, .pdf и .txt | Не упоминается |
| AnythingLLM | .md, .txt, .pdf, .docx, .pptx, .xlsx, .epub, .csv, .html и другие | Встроенный OCR |
Приложение Ollama для Windows принимает файлы перетаскиванием; в анонсе упомянуты текстовые файлы и PDF. В исходном коде приложения версии 0.40.8 текст извлекается только из PDF и файлы больше 10 МБ отклоняются. Конвертируйте файлы Word, PowerPoint и Excel, прежде чем добавлять их.
Документация LM Studio перечисляет вложения .docx, .pdf и .txt. Список поддерживаемых файлов AnythingLLM самый длинный из трёх, а в версии 1.7.4 появился OCR для сканированных PDF.
Ни одно из трёх приложений не принимает файлы FB2, MOBI и EML. Сначала сконвертируйте их в Markdown.
Почему сканированный PDF доходит до модели пустым
Сканированная страница — это картинка с текстом. Приложение, которое читает только текст внутри PDF, ничего на ней не находит. В приложении Ollama модель тогда получает вместо страниц короткую заметку о том, что текстовое содержимое не найдено. Любой её ответ после этого взят не из документа.
Чтобы узнать, есть ли в PDF текст, откройте его и попробуйте выделить строку. Если не получается, это скан. Пропустите его через OCR до того, как его увидит модель, и сверьте имена, числа и даты с оригиналом. В нашем руководстве по сканированным PDF показано, что проверять.
Как уместить документ в контекст модели
Контекст — это объём текста, который модель держит одновременно: ваш вопрос, переписка в чате и документ. Он измеряется в токенах; один токен часто равен примерно трём четвертям слова.
Ollama задаёт размер контекста по объёму памяти видеокарты: 4k токенов на карте с памятью меньше 24 ГБ, это около 3 000 слов. Отчёт на 20 страниц не поместится. Увеличьте длину контекста ползунком в настройках Ollama; для большего контекста нужно больше памяти.
Два других приложения сами решают, что делать, если документ слишком длинный:
- LM Studio добавляет короткий документ целиком. Длинный проходит через поиск фрагментов: приложение выбирает отрывки, которые выглядят подходящими для вашего вопроса, и модель видит только их.
- AnythingLLM по умолчанию добавляет полный текст и спрашивает, что делать, если он не помещается. Embed делит документ на части и находит подходящие. Continue Anyway обрезает текст под размер контекста, и документация AnythingLLM не советует так делать.
Поиск фрагментов работает, когда в вашем вопросе есть слова из самого документа. На вопросы обо всём документе, например «перечисли все сроки», вы получите неполный ответ.
Здесь помогает Markdown: вы видите текст и его длину. Если книга не помещается, дайте модели главу, о которой спрашиваете. Файл Markdown легко разрезать по заголовкам, а PDF — нет.
Конвертируйте и проверьте документы
- Добавьте в MD Factory файлы или всю папку. Каждый файл Markdown сохраняется рядом с оригиналом, а изображения — в папке рядом с ним. Сканированные PDF проходят OCR на вашем компьютере.
- Нажмите «Требуется проверка» рядом с файлом, чтобы увидеть, что проверить, например страницы, где OCR не смог прочитать часть текста.
- Откройте несколько результатов. Посмотрите на заголовки, таблицы и рисунки и сверьте важные числа с оригиналом.
Исправьте ошибки в файле Markdown. Модель считает правдой всё, что в нём написано.
Добавьте файлы Markdown в каждое приложение
Ollama. Перетащите файл .md в чат и задайте вопрос.
LM Studio. Прикрепите файл к чату. Если в окне выбора файла нельзя выбрать файл .md, сделайте копию с расширением .txt: содержимое в обоих случаях — обычный текст. Используйте в вопросе термины из документа. Документация LM Studio пишет, что так поиску проще найти нужные отрывки.
AnythingLLM. Один документ перетащите в чат. Для подборки, к которой вы будете возвращаться, загрузите файлы в рабочее пространство и создайте для них эмбеддинги; тогда их сможет использовать любая ветка чата в этом пространстве. Если один документ важнее остальных и помещается в контекст, закрепите его, и модель будет получать его полный текст в каждом ответе.
Храните документы на своём компьютере
Локальная модель оставляет текст на вашем компьютере, только пока каждое звено цепочки локальное. Проверьте две настройки:
- Ollama предлагает облачные модели рядом с локальными. Облачная модель работает в облаке Ollama, поэтому прикреплённый документ уходит туда вместе с вопросом. Выберите модель, которую вы скачали, или отключите облачные функции Ollama.
- В AnythingLLM веб-поиск включён по умолчанию. Когда модель ищет в интернете, её поисковые запросы уходят с вашего компьютера. Для конфиденциальных документов отключите веб-поиск в разделе Settings > Agent Skills.
MD Factory конвертирует документы на вашем компьютере и никуда их не загружает. В нашем руководстве по конвертации без загрузки рассказано, где хранить файлы.