Ollama, LM Studio und AnythingLLM nehmen alle Dateien in den Chat auf, aber jede App liest nur bestimmte Formate, und ein Scan oder ein langes Dokument kann leer oder gekürzt beim Modell ankommen. Konvertieren Sie die Dokumente zuerst in Markdown, prüfen Sie den Text und geben Sie dem Modell dann die Markdown-Datei.
Diese Anleitung richtet sich an alle, die ein Modell auf dem eigenen Windows-PC ausführen und Antworten zu ihren Verträgen, Handbüchern, Notizen oder Büchern möchten.
Was jede App liest
Das zeigen die Dokumentation oder der Quellcode jeder App mit Stand Oktober 2026.
| App | Gelesene Dateien | Gescannte PDFs |
|---|---|---|
| Ollama | Textdateien, einschließlich .md, und PDFs, bis zu 10 MB pro Datei | Nicht erwähnt |
| LM Studio | .docx, .pdf und .txt | Nicht erwähnt |
| AnythingLLM | .md, .txt, .pdf, .docx, .pptx, .xlsx, .epub, .csv, .html und weitere | Integrierte OCR |
Die Ollama-App für Windows nimmt Dateien per Drag-and-drop an; die Ankündigung nennt Textdateien und PDFs. Im Quellcode der App in Version 0.40.8 wird Text nur aus PDFs extrahiert und werden Dateien über 10 MB abgelehnt. Konvertieren Sie Word-, PowerPoint- und Excel-Dateien, bevor Sie sie hinzufügen.
Die Dokumentation von LM Studio nennt Anhänge im Format .docx, .pdf und .txt. Die Liste der unterstützten Dateien von AnythingLLM ist die längste der drei, und Version 1.7.4 hat OCR für gescannte PDFs ergänzt.
Keine der drei Apps nimmt FB2-, MOBI- oder EML-Dateien an. Konvertieren Sie diese zuerst in Markdown.
Warum ein gescanntes PDF leer beim Modell ankommt
Eine gescannte Seite ist ein Bild von Text. Eine App, die nur den Text in einem PDF liest, findet darauf nichts. In der Ollama-App erhält das Modell dann statt der Seiten nur einen kurzen Hinweis, dass kein Textinhalt gefunden wurde. Jede Antwort, die es dann gibt, stammt nicht aus dem Dokument.
Um zu prüfen, ob ein PDF Text enthält, öffnen Sie es und versuchen Sie, eine Zeile zu markieren. Wenn das nicht geht, ist es ein Scan. Lassen Sie es durch OCR laufen, bevor das Modell es sieht, und vergleichen Sie Namen, Zahlen und Daten mit dem Original. Unsere Anleitung zu gescannten PDFs zeigt, worauf Sie achten sollten.
Das Dokument an den Kontext des Modells anpassen
Der Kontext ist die Textmenge, die das Modell auf einmal verarbeitet: Ihre Frage, der bisherige Chat und das Dokument. Er wird in Tokens gemessen; ein Token entspricht oft etwa drei Vierteln eines Wortes.
Ollama legt den Kontext anhand des Grafikspeichers fest: 4k Tokens bei einer Karte mit weniger als 24 GB, also etwa 3.000 Wörter. Ein Bericht mit 20 Seiten passt nicht hinein. Erhöhen Sie die Kontextlänge mit dem Schieberegler in den Einstellungen von Ollama; ein größerer Kontext braucht mehr Speicher.
Die beiden anderen Apps entscheiden selbst, wenn ein Dokument zu lang ist:
- LM Studio fügt ein kurzes Dokument vollständig hinzu. Ein langes durchläuft Retrieval: Die App wählt die Passagen aus, die zu Ihrer Frage zu passen scheinen, und das Modell sieht nur diese.
- AnythingLLM fügt standardmäßig den vollständigen Text hinzu und fragt nach, wenn er nicht passt. Embed teilt das Dokument in Abschnitte und ruft die relevanten ab. Continue Anyway kürzt den Text auf die passende Länge, und die Dokumentation von AnythingLLM rät davon ab.
Retrieval funktioniert, wenn Ihre Frage die Wörter des Dokuments selbst verwendet. Fragen zum ganzen Dokument, etwa „liste alle Fristen auf“, bekommen eine unvollständige Antwort.
Hier hilft Markdown, weil Sie den Text und seine Länge sehen. Wenn ein Buch nicht passt, geben Sie dem Modell das Kapitel, nach dem Sie fragen. Eine Markdown-Datei lässt sich leicht an den Überschriften teilen, ein PDF nicht.
Dokumente konvertieren und prüfen
- Fügen Sie in MD Factory die Dateien oder den ganzen Ordner hinzu. Jede Markdown-Datei wird neben ihrem Original gespeichert, die Bilder in einem Ordner daneben. Gescannte PDFs durchlaufen OCR auf Ihrem PC.
- Klicken Sie neben einer Datei auf „Überprüfung erforderlich“, um zu sehen, was zu prüfen ist, etwa Seiten, auf denen OCR einen Teil des Textes nicht lesen konnte.
- Öffnen Sie einige Ergebnisse. Sehen Sie sich Überschriften, Tabellen und Abbildungen an und vergleichen Sie wichtige Zahlen mit dem Original.
Korrigieren Sie Fehler in der Markdown-Datei. Das Modell hält alles, was dort steht, für wahr.
Die Markdown-Dateien zu jeder App hinzufügen
Ollama. Ziehen Sie die .md-Datei in den Chat und stellen Sie Ihre Frage.
LM Studio. Hängen Sie die Datei an den Chat an. Wenn der Dateidialog keine .md-Datei zulässt, erstellen Sie eine Kopie mit der Endung .txt: Der Inhalt ist in beiden Fällen reiner Text. Verwenden Sie in Ihrer Frage Begriffe aus dem Dokument. Die Dokumentation von LM Studio sagt, dass das dem Retrieval hilft, die richtigen Passagen zu finden.
AnythingLLM. Ein einzelnes Dokument ziehen Sie in den Chat. Für eine Sammlung, auf die Sie wieder zurückgreifen, laden Sie die Dateien in einen Workspace hoch und betten sie ein; danach kann jeder Thread in diesem Workspace sie nutzen. Wenn ein Dokument wichtiger ist als die übrigen und in den Kontext passt, heften Sie es an, dann erhält das Modell bei jeder Antwort den vollständigen Text.
Die Dokumente auf dem eigenen PC behalten
Ein lokales Modell hält den Text nur dann auf Ihrem Computer, wenn jedes Glied der Kette lokal ist. Prüfen Sie zwei Einstellungen:
- Ollama bietet neben lokalen auch Cloud-Modelle an. Ein Cloud-Modell läuft in der Cloud von Ollama, daher geht das angehängte Dokument zusammen mit Ihrer Frage dorthin. Wählen Sie ein Modell, das Sie heruntergeladen haben, oder deaktivieren Sie die Cloud-Funktionen von Ollama.
- In AnythingLLM ist die Websuche standardmäßig aktiviert. Wenn das Modell im Web sucht, verlassen seine Suchanfragen Ihren PC. Für vertrauliche Dokumente deaktivieren Sie die Websuche unter Settings > Agent Skills.
MD Factory konvertiert Dokumente auf Ihrem PC, ohne sie hochzuladen. Unsere Anleitung zum Konvertieren ohne Hochladen beschreibt, wo Sie die Dateien aufbewahren.