De meeste AI-schrijftools werken onder de motorkap op dezelfde manier: wat je typt wordt naar een server gestuurd, een groot model verwerkt het en via het netwerk krijg je een antwoord terug. Dat geldt of de tool nu een alinea herschrijft, een e-mail opstelt of alleen de volgende paar woorden voorstelt. Het is ook het onderdeel waar mensen het minst bij stilstaan — totdat ze bedenken wat 'naar een server verstuurd' eigenlijk betekent voor een persoonlijk bericht of een e-mail aan een klant.
Een offline AI-schrijfassistent keert dat model om: het taalmodel draait rechtstreeks op je pc, waardoor er helemaal geen server aan te pas komt. Dit artikel legt uit hoe dat technisch mogelijk is, welke afwegingen je maakt en waar Typeahead als voorbeeld bij past.
Hoe AI-schrijven op je apparaat daadwerkelijk werkt
Cloud-AI-tools draaien doorgaans grote modellen — tientallen miljarden parameters — op datacenterhardware, omdat zulke modellen alleen daar passen. Tools die op het apparaat draaien, gebruiken veel kleinere, gecomprimeerde modellen die slechts enkele honderden megabytes tot enkele gigabytes aan opslagruimte innemen en op de CPU of GPU van een normale pc draaien. De afweging bij een kleinere omvang is een wat kleiner model. Maar voor een beperkte taak zoals het voorspellen van de volgende woordgroep in een zin kan een compact model echt snel en nauwkeurig zijn, zonder de schaal van een chatbot voor algemene doeleinden nodig te hebben.
De inferentie zelf — het daadwerkelijke proces waarbij een model een suggestie genereert — vindt plaats via een lokale runtime. Typeahead gebruikt bijvoorbeeld llama.cpp, een opensource-engine om taalmodellen efficiënt op consumentenhardware uit te voeren, in combinatie met een klein meertalig model genaamd Qwen 3.5. Er verlaat nooit een verzoek het apparaat, omdat er nergens naartoe kan — zowel het model als de runtime staan op je schijf.
Geen heen-en-terugcommunicatie met een server
Suggesties worden berekend op je CPU/GPU en niet naar een datacenter gestuurd en terug — er is niets dat op afstand kan worden onderschept, gelogd of opgeslagen.
Werkt zonder verbinding
Zodra het model is gedownload, blijft de assistent werken met wifi uit — in een vliegtuig, in een trein, waar dan ook.
Geen account nodig
Er is geen account gekoppeld aan wat je schrijft, omdat er geen server is die bijhoudt wie de tool gebruikt.
De afwegingen, eerlijk bekeken
Lokale modellen zijn kleiner dan de grootste cloudmodellen, en kleiner betekent doorgaans minder geschikt voor open taken zoals lange teksten schrijven of complex redeneren. Voor een beperkte, duidelijk omschreven taak — voorspellen hoe de zin die je al aan het schrijven bent waarschijnlijk verdergaat — doet dat verschil er veel minder toe dan bijvoorbeeld bij het schrijven van een essay op basis van een opdracht van één regel. Het model neemt ook schijfruimte in beslag (de drie opties van Typeahead lopen uiteen van ongeveer 600 MB tot 2,5 GB) en moet eenmalig worden gedownload voordat het kan werken; een cloudtool is daarentegen meteen klaar zodra je je aanmeldt. Balanced vereist 8 GB systeemgeheugen; maximum vereist een afzonderlijke grafische kaart met 8 GB eigen geheugen en 16 GB systeemgeheugen.
Typeahead als praktijkvoorbeeld
Typeahead is een hulpprogramma in het systeemvak dat een suggestie geeft voor de rest van de zin die je aan het typen bent, in vrijwel elke desktopapp van Windows: WhatsApp, Telegram, Slack, Chrome, Edge, Firefox, Outlook, Thunderbird, Word, Notepad, Notepad++ en de chat- en tekstvensters van VS Code. Het werkt met een lokaal LLM (Qwen 3.5 via llama.cpp) of met eigen fragmenten — volledig offline, zonder account en zonder telemetrie van tekst. Eigen fragmenten en woordenboekgebaseerde automatische aanvulling werken zelfs voordat er een model is gedownload.
Je kunt kiezen uit drie modelgroottes, afhankelijk van de afweging die je wilt maken tussen snelheid en kwaliteit: fast (~600 MB, de standaardoptie), balanced (~1,2 GB) en maximum (~2,5 GB). Het model is meertalig, ondersteunt meer dan 100 talen en doet suggesties in de taal waarin je op dat moment typt. Suggesties verschijnen als spooktekst bij de cursor; druk op Tab of de pijl-rechts om een suggestie te accepteren. Het is een eenmalige aankoop van $9.99 via de Microsoft Store, met een gratis proefperiode van 7 dagen. Wachtwoordbeheerders en financiële apps zijn standaard uitgesloten van suggesties. Balanced vereist 8 GB systeemgeheugen; maximum vereist een afzonderlijke grafische kaart met 8 GB eigen geheugen en 16 GB systeemgeheugen.
Voor een verwante, niet op AI gebaseerde manier om sneller te typen, biedt GagarinSoft ook Text Replacements, een tekstuitbreider die wordt geactiveerd door wat je typt — handig als je exacte, voorspelbare fragmenten wilt in plaats van door AI gegenereerde suggesties voor een bepaalde woordgroep.
Veelgestelde vragen
Wat betekent 'offline AI' eigenlijk?
Is een lokaal model net zo goed als een cloudmodel zoals ChatGPT?
Verstuurt Typeahead mijn tekst ooit ergens naartoe?
Hoeveel schijfruimte heeft een lokale AI-schrijfassistent nodig?
Kan het werken zonder een model te downloaden?
Wat zijn de systeemvereisten?
Download Typeahead
Eenmalige aankoop, geen abonnement. Windows 10 / Windows 11. 7 dagen gratis uitproberen.
Downloaden op Microsoft Store