Je kunt gemakkelijk aannemen dat betere suggesties een groter model vereisen — meer parameters, meer rekenkracht en een datacenter-GPU achter een API-aanroep. Voor het genereren van open teksten geldt die aanname vaak. Maar autocomplete voor de volgende woordgroep is een fundamenteel andere, beperktere taak, waarvoor een compact, gekwantiseerd model op de processor van een laptop goed geschikt is.

Autocomplete is een afgebakende taak, geen open taak

Wanneer je een groot taalmodel vraagt om vanaf een lege pagina een essay te schrijven, moet het duizenden keuzes maken over structuur, argumentatie en toon, met vrijwel geen beperkingen. Daar loont een grotere modelschaal: meer parameters betekenen over het algemeen een breder scala aan aannemelijke uitvoer waaruit het model kan kiezen.

Voorspelling van de volgende woordgroep is een ander probleem. Het model heeft de zin waaraan je bent begonnen al, de omringende context en (in het geval van Typeahead) de app waarin je typt als sterke aanwijzingen. Het genereert niet vanuit het niets, maar maakt een korte, al afgebakende voortzetting af. Juist die beperking maakt een klein model haalbaar: doordat er minder aannemelijke aanvullingen zijn om uit te kiezen, is er minder ruwe capaciteit nodig om een goede keuze te maken.

Vergelijking: de volgende regel van een zin voorspellen lijkt meer op het afmaken van de gedachte van iemand anders dan op zelf iets vanaf nul schrijven. Het tweede is open; bij het eerste is de ruimte aan redelijke antwoorden veel kleiner.

Wat kwantisering doet

De gewichten van een onbewerkt taalmodel worden doorgaans opgeslagen als getallen met drijvende komma van 16 of 32 bits. Kwantisering comprimeert die gewichten naar een lagere precisie — bijvoorbeeld 4- of 8-bitsrepresentaties — met een klein, doorgaans aanvaardbaar compromis in nauwkeurigheid. Het resultaat is een modelbestand dat maar een fractie van de oorspronkelijke grootte heeft en snel genoeg is om nuttige inferentie uit te voeren op gewone consumentenhardware, waaronder een laptop zonder speciale GPU.

Hierdoor is het realistisch om een model te leveren dat volledig op iemands Windows-pc staat in plaats van op een serverrek: een gekwantiseerd model van enkele honderden megabytes tot een paar gigabyte past gemakkelijk op schijf en in het geheugen, naast alles wat verder al draait.

Hoe Typeahead de grootte van zijn modellen bepaalt

Typeahead voor Windows biedt drie optionele modellen, zodat je de afweging tussen snelheid en suggestiekwaliteit kunt kiezen die bij je computer past:

Snel (~600 MB) — standaard

Het kleinste model, afgestemd op een lage vertraging. Dit is standaard actief en volstaat voor de meeste alledaagse aanvullingen van zinnen.

Gebalanceerd (~1,2 GB)

Een stapje hoger qua modelcapaciteit voor computers die extra geheugen en schijfruimte over hebben. Je ruilt wat snelheid in voor een breder scala aan suggesties. Vereist 8 GB systeemgeheugen.

Maximaal (~2,5 GB)

De grootste van de drie opties, voor gebruikers die de beste suggestiekwaliteit willen die Typeahead biedt en voldoende hardwarecapaciteit hebben. Vereist een afzonderlijke grafische kaart met 8 GB eigen geheugen en 16 GB systeemgeheugen.

Alle drie draaien via llama.cpp, een inferentie-engine die speciaal is ontwikkeld om taalmodellen efficiënt uit te voeren op gewone processors en consumentenvideokaarten. Alle drie zijn gebaseerd op Qwen 3.5, een meertalige modelfamilie die meer dan 100 talen ondersteunt — de suggestietaal volgt dus de taal waarin je op dat moment typt, zonder dat je handmatig van taal hoeft te wisselen.

Waarom dit ook betekent dat je niet afhankelijk bent van de cloud

Omdat het model klein genoeg is om lokaal te draaien, heeft Typeahead geen server nodig om het zware werk te doen. Dat heeft directe gevolgen voor je privacy — niets wat je typt wordt ergens naartoe verzonden — maar ook praktische voordelen: suggesties werken zonder internetverbinding, zonder API-limieten en zonder afhankelijkheid van een externe dienst die online moet blijven.

Model Geschatte grootte Afweging
Snel ~600 MB De laagste vertraging, standaardkeuze
Balanced ~1,2 GB Meer capaciteit, nog steeds lichtgewicht
Maximaal ~2,5 GB De best beschikbare suggestiekwaliteit

Wat je al krijgt voordat je überhaupt een model downloadt

Typeahead hoeft geen model te hebben om vanaf dag één nuttig te zijn. Aangepaste snippets en woordenboekgebaseerde autocomplete werken direct na de installatie, voordat er een model is gedownload — de AI-gestuurde zinsuggesties worden daaraan toegevoegd zodra je een van de drie modellen kiest.

Veelgestelde vragen

Is een model van 600 MB echt goed genoeg voor nuttige suggesties?
Voor voorspelling van de volgende woordgroep — het afmaken van een zin waaraan je al bent begonnen — wel. Dat is een beperktere taak dan open schrijven, en precies daarom is het snelle model de standaardinstelling van Typeahead.
Wat betekent kwantisering in gewone woorden?
Het is een techniek die de interne getallen van een model comprimeert naar een lagere precisie. Daardoor wordt het bestand kleiner en verloopt de inferentie sneller, met een klein compromis in nauwkeurigheid dat voor dit soort taken doorgaans aanvaardbaar is.
Welk model moet ik kiezen?
Begin met de standaardinstelling Snel (~600 MB). Als je computer voldoende geheugen en schijfruimte heeft en je uitgebreidere suggesties wilt, probeer dan Gebalanceerd of Maximaal — je kunt op elk moment wisselen.
Moet ik een model downloaden om Typeahead überhaupt te kunnen gebruiken?
Nee. Aangepaste snippets en woordenboekgebaseerde autocomplete werken al voordat er een model is gedownload. De AI-functie voor het aanvullen van zinnen wordt beschikbaar zodra je een model kiest.
Welke inferentie-engine gebruikt Typeahead?
llama.cpp, met de Qwen 3.5-modelfamilie. Deze is specifiek gekozen voor efficiënte inferentie op gewone consumentenprocessors en -videokaarten, zonder gespecialiseerde hardware te vereisen.

Download Typeahead

Kies Snel, Gebalanceerd of Maximaal. Allemaal inbegrepen, geen extra kosten. Eenmalige aankoop van $9.99.

 Downloaden op Microsoft Store