Alla verktyg för autoslutförande måste köra en språkmodell någonstans. Hela frågan handlar om var detta ”någonstans” är. Kör den på en server måste dina tangenttryckningar först skickas dit. Kör den på din egen maskin lämnar de aldrig den. Förslaget du ser på skärmen kan se identiskt ut i båda fallen — skillnaden är osynlig tills du frågar var beräkningen faktiskt ägde rum.

Det här är ingen abstrakt skillnad. Den avgör vad ett företag tekniskt sett kan göra med din text, vad ett intrång i företagets servrar kan röja och om ditt verktyg för autoslutförande fungerar på ett flygplan med Wi-Fi avstängt. Så här skiljer sig tekniken faktiskt åt under ytan.

Så fungerar molnbaserat autoslutförande

En molnbaserad skrivassistent består vanligtvis av en lätt klient — ett webbläsartillägg eller en liten bakgrundsprocess — kopplad till en stor modell som körs på en fjärrserver. Flödet ser ut så här:

  1. Du skriver några ord i ett textfält.
  2. Klienten fångar upp den omgivande texten och skickar den över nätverket till leverantörens API.
  3. En stor modell på leverantörens infrastruktur genererar en fortsättning.
  4. Förslaget skickas tillbaka och visas som spöktext i fältet.

Den här rundresan sker vid varje paus i tangenttryckningarna, vilket innebär att ett kontinuerligt flöde av det du skriver — utkast till e-postmeddelanden, chattmeddelanden, interna anteckningar — passerar via en tredje parts servrar. Vissa leverantörer loggar trafiken för att förbättra modeller, upptäcka missbruk eller felsöka. Andra gör det inte. Som användare kan du i allmänhet inte kontrollera utifrån vilket som gäller, och villkoren kan ändras när sekretesspolicyn uppdateras.

Så fungerar en lokal LLM

Ett verktyg som körs på enheten vänder på arkitekturen. Själva modellen — inte bara klienten — finns på din maskin.

Modellen laddas ner en gång

En kompakt, kvantiserad modellfil laddas ner till disken under installationen. Därefter behövs ingen nätverksåtkomst för att den ska fungera.

Inferensen körs på din CPU/GPU

När du pausar skrivandet körs modellen lokalt via en inferensmotor och läser den närliggande texten direkt från minnet — den lämnar aldrig processen.

Ingen tur och retur över nätverket

Det finns ingen server att skicka text till, så det finns ingen förfrågan att fånga upp, logga eller spara. Förslaget beräknas och kasseras i samma lokala process.

Typeahead för Windows är byggt på det här sättet. Det kör en lokal modell — Qwen 3.5, via llama.cpp — direkt på din PC. Den enda nätverksaktivitet som behövs är att ladda ner modellfilen och söka efter appuppdateringar; för att generera förslag behövs ingen anslutning alls, och texten du skriver överförs aldrig någonstans.

Vad ”ingen telemetri” faktiskt innebär

”Integritetsvänlig” är en fras som används om många produkter med väldigt olika lösningar under ytan. Det är värt att vara specifik om vad en genuint lokal arkitektur tekniskt sett utesluter, inte bara vad den lovar i avtal:

Testet som spelar roll: koppla bort internet och fortsätt skriva. Om förslagen fortsätter att fungera har texten aldrig lämnat din maskin — det fanns ingen server som den kunde nå. Om de slutar fungera är verktyget beroende av ett nätverksanrop, vilket innebär att dina tangenttryckningar var innehållet i det anropet.

Utan en server inblandad finns det ingen pipeline för textloggning som kan konfigureras fel, ingen analyspanel där meddelandeinnehåll av misstag kan hamna och ingen datamängd med användartext som senare kan beröras av ett dataintrång, ett företagsförvärv eller en ändrad policy för dataanvändning. Att det saknas en molnväg är inget policyåtagande — det är en egenskap hos arkitekturen.

Avvägningen: modellstorlek och kapacitet

Inget av det här är gratis. En modell som körs helt och hållet inom 600 MB–2.5 GB diskutrymme på en bärbar dators CPU är mindre än de massiva modeller som molntjänster kör på datacenter-GPU:er. För uppgifter med öppet slut, som att skriva en hel uppsats från grunden, har en enorm molnmodell fortfarande ett övertag när det gäller kreativ bredd. Balanserad kräver 8 GB systemminne; maximal kräver ett separat grafikkort med 8 GB eget minne och 16 GB systemminne.

Men autoslutförande av nästa fras är en mer begränsad uppgift än generering med öppet slut — det handlar om att förutsäga en rimlig kort fortsättning på en mening du redan har börjat, inte om att skapa nytt innehåll från ingenting. Det är en uppgift som en liten, vältrimmad lokal modell klarar bra, vilket är anledningen till att avvägningen kring storlek är mycket mindre för det här användningsområdet än för chatt med allmänna ändamål.

Egenskap Lokal LLM (Typeahead) Molnbaserat autoslutförande
Var inferensen körs Din enhet Leverantörens server
Text som skickas över nätverket Aldrig Vid varje förslag
Fungerar offline Ja Nej
Konto krävs Nej Vanligtvis
Exponering om leverantören utsätts för intrång Ingen — ingen text lagras på serversidan Beror på lagringspolicyn

När det här spelar störst roll

Skillnaden mellan lokalt och molnbaserat är inte bara teoretisk för den som skriver känsligt material — till exempel supportpersonal som hanterar kontouppgifter, personal inom vård eller juridik som utformar anteckningar eller någon som skriver under ett sekretessavtal. Det är också relevant om du helt enkelt skriver på ett tåg, på ett kontor i en källare eller någon annanstans där uppkopplingen är opålitlig: ett molnverktyg tystnar, medan ett lokalt verktyg inte märker något.

Typeahead behandlar detta som standard, inte som en inställning. Lösenordsfält ignoreras alltid, och lösenordshanterare och finansappar skyddas direkt från start, utan något reglage som kan stänga av skyddet — utöver det faktum att texten du skriver ändå aldrig lämnar enheten.

Vanliga frågor

Skickar Typeahead någonsin min skrivna text någonstans?
Nej. Förslagen genereras av en lokal modell som körs på din PC. De enda nätverksförfrågningar Typeahead gör är för att ladda ner en modellfil eller söka efter appuppdateringar — inget av detta berör texten du skriver.
Kan jag kontrollera att ett verktyg verkligen körs lokalt och inte bara påstår det?
Det enklaste testet är att koppla bort internet efter installationen och fortsätta använda verktyget. Om det fortsätter att generera förslag utan anslutning finns det ingen server som det skulle kunna skicka text till.
Är en liten lokal modell lika bra som en stor molnmodell?
För skrivuppgifter med öppet slut har stora molnmodeller i allmänhet bredare förmåga. För att förutsäga de närmaste orden i en mening som du redan skriver fungerar en kompakt lokal modell bra, eftersom själva uppgiften är mer begränsad och förutsägbar.
Kräver Typeahead ett konto eller en inloggning?
Nej. Det finns inget konto, ingen inloggning och ingen profil av något slag på serversidan. Appen arbetar helt och hållet med lokala filer och en lokal modell.
Vad laddar Typeahead ner från internet, om något?
Bara själva modellfilen under installationen och regelbundna kontroller av appuppdateringar. Inget av detta berör innehållet du skriver.

Skaffa Typeahead

Förslag genereras på din enhet, inte på en server. Engångsprovperiod på 7 dagar för $9.99,, gratis.

 Skaffa det på Microsoft Store