De flesta AI-skrivverktyg fungerar på samma sätt under huven: det du skriver skickas till en server, en stor modell bearbetar det och ett svar skickas tillbaka över nätverket. Det gäller oavsett om verktyget skriver om ett stycke, utformar ett mejl eller bara föreslår de närmaste orden. Det är också den del som folk tänker minst på – tills de funderar över vad ”skickas till en server” faktiskt innebär för ett personligt meddelande eller ett mejl till en kund.

En AI-skrivassistent offline vänder på upplägget: språkmodellen körs direkt på din dator, så ingen server är inblandad. Den här artikeln förklarar hur det är tekniskt möjligt, vad du avstår från och hur Typeahead passar in som exempel.

Så fungerar AI-skrivande på enheten

Molnbaserade AI-verktyg kör vanligtvis stora modeller – med tiotals miljarder parametrar – på datacenterutrustning, eftersom det är den enda platsen där sådana modeller ryms. Verktyg som körs på enheten använder mycket mindre, komprimerade modeller som ryms på några hundra megabyte till några gigabyte lagringsutrymme och körs på en vanlig dators processor eller grafikkort. Kompromissen för ett mindre fotavtryck är en något mindre modell – men för en avgränsad uppgift som att förutsäga nästa fras i en mening kan en kompakt modell vara verkligt snabb och träffsäker utan att behöva en generell chattbots skala.

Själva inferensen – den faktiska processen att skapa ett förslag från en modell – sker genom en lokal körmiljö. Typeahead använder till exempel llama.cpp, en motor med öppen källkod för att köra språkmodeller effektivt på konsumenthårdvara, tillsammans med en liten flerspråkig modell som heter Qwen 3.5. Ingen förfrågan lämnar någonsin datorn, eftersom det inte finns någonstans att skicka den – både modellen och körmiljön finns på din disk.

Ingen tur-och-retur-överföring till en server

Förslagen beräknas på din processor eller ditt grafikkort i stället för att skickas till och från ett datacenter – inget att fånga upp, logga eller lagra på distans.

Fungerar utan anslutning

När modellen väl har laddats ner fortsätter assistenten att fungera med wifi avstängt – på ett flyg, ett tåg, var som helst.

Inget konto behövs

Det finns ingen inloggning kopplad till det du skriver, eftersom ingen server håller reda på vem som använder verktyget.

Kompromisserna – ärligt talat

Lokala modeller är mindre än de största molnmodellerna, och mindre innebär i allmänhet mindre förmåga att hantera öppna uppgifter som längre texter eller komplexa resonemang. För ett avgränsat och tydligt definierat jobb – att förutsäga hur meningen du redan skriver sannolikt fortsätter – spelar den skillnaden mycket mindre roll än för exempelvis att skriva en uppsats utifrån en instruktion på en rad. Modellen tar också upp diskutrymme (Typeahead:s tre alternativ är ungefär 600 MB till 2,5 GB) och måste laddas ned en gång innan den kan köras, till skillnad från ett molnverktyg som är redo så fort du loggar in. Balanced kräver 8 GB systemminne; maximum kräver ett separat grafikkort med 8 GB eget minne och 16 GB systemminne.

När offline är bäst: om det du skriver är känsligt – kundkorrespondens, privata meddelanden, sådant som omfattas av ett sekretessavtal – är integritetsavvägningen själva poängen. Om du behöver en modell som skriver ett femsidigt utlåtande från grunden gör en större molnmodell i allmänhet ett mer grundligt jobb.

Typeahead som exempel

Typeahead är ett verktyg i systemfältet som föreslår fortsättningen på meningen du skriver, i nästan alla Windows-skrivbordsappar: WhatsApp, Telegram, Slack, Chrome, Edge, Firefox, Outlook, Thunderbird, Word, Notepad, Notepad++ och VS Codes chatt- och textfält. Det körs med en lokal LLM (Qwen 3.5 via llama.cpp) eller med egna textsnuttar – helt offline, utan konto och utan telemetri av text. Egna textsnuttar och ordboksbaserad komplettering fungerar även innan någon modell har laddats ned.

Du kan välja mellan tre modellstorlekar beroende på vilken avvägning mellan hastighet och kvalitet du vill ha: fast (~600 MB, standard), balanced (~1,2 GB) och maximum (~2,5 GB). Modellen är flerspråkig och stöder över 100 språk. Den föreslår text på det språk du skriver för tillfället. Förslagen visas som grå spöktext vid markören; tryck på Tab eller högerpil för att godta ett förslag. Det är ett engångsköp av $9.99 via Microsoft Store med en kostnadsfri provperiod på 7 dagar. Lösenordshanterare och finansappar undantas som standard från förslagen. Balanced kräver 8 GB systemminne; maximum kräver ett separat grafikkort med 8 GB eget minne och 16 GB systemminne.

För ett närbesläktat, icke-AI-baserat sätt att skriva snabbare gör GagarinSoft också Text Replacements, en textutvidgare som utlöses av det du skriver – användbar om du vill ha exakta, förutsägbara textsnuttar i stället för AI-genererade förslag för en viss fras.

Vanliga frågor

Vad betyder ”AI offline” egentligen?
Det betyder att språkmodellen körs på din egen enhet i stället för på en fjärrserver. Ingen nätverksförfrågan skickar din text någonstans – modellen, beräkningen och resultatet stannar lokalt.
Är en lokal modell lika bra som en molnmodell som ChatGPT?
För öppna uppgifter har stora molnmodeller i allmänhet ett övertag tack vare sin storlek. För en avgränsad uppgift som att förutsäga nästa fras i en mening du redan skriver kan en liten lokal modell prestera bra utan att behöva den skalan.
Skickar Typeahead någonsin min text någonstans?
Nej. Text du skriver lämnar aldrig enheten. Den enda nätverksaktiviteten är att ladda ner en modell eller söka efter appuppdateringar – det finns inget konto och ingen texttelemetri.
Hur mycket diskutrymme behöver en lokal AI-skrivassistent?
För Typeahead är det ungefär 0,6–2,5 GB, beroende på vilken av de tre modellerna du väljer: snabb, balanserad eller högsta kvalitet.
Kan den fungera utan att en modell laddas ner?
Ja, delvis. Anpassade textsnuttar och ordboksbaserad autokomplettering fungerar direkt, innan någon modell har laddats ner. Förslag som fortsätter hela meningar kräver en modell.
Vilka är systemkraven?
Windows 10 eller senare, eller Windows 11, med 8 GB RAM och 0,6–2,5 GB ledigt diskutrymme beroende på vilken modell du väljer.

Skaffa Typeahead

Engångsköp, ingen prenumeration. Windows 10 / Windows 11. 7 dagars kostnadsfri provperiod.

 Skaffa det på Microsoft Store