Her otomatik tamamlama aracının bir dil modelini bir yerde çalıştırması gerekir. Bütün mesele, o “yer”in neresi olduğudur. Modeli bir sunucuda çalıştırırsanız tuş vuruşlarınızın önce oraya gitmesi gerekir. Kendi makinenizde çalıştırırsanız hiç dışarı çıkmazlar. Ekranda gördüğünüz öneri her iki durumda da aynı görünebilir; aradaki fark, hesaplamanın gerçekte nerede yapıldığını sormadığınız sürece görünmez.
Bu soyut bir ayrım değildir. Bir şirketin metninizle teknik olarak neler yapabileceğini, sunucularının ihlal edilmesinin neleri açığa çıkaracağını ve otomatik tamamlama aracınızın Wi-Fi kapalıyken uçakta çalışıp çalışmayacağını belirler. İşin arka planında gerçekte nelerin farklı olduğuna bakalım.
Bulut Tabanlı Otomatik Tamamlama Nasıl Çalışır?
Bulut tabanlı bir yazım asistanı genellikle hafif bir istemciden —tarayıcı uzantısı veya küçük bir arka plan işleminden— ve uzak bir sunucuda çalışan büyük bir modelden oluşur. İşleyiş şöyledir:
- Bir metin alanına birkaç sözcük yazarsınız.
- İstemci, çevresindeki metni alır ve ağ üzerinden sağlayıcının API'sine gönderir.
- Sağlayıcının altyapısındaki büyük bir model, metni tamamlar.
- Öneri geri gönderilir ve alanınızda hayalet metin olarak gösterilir.
Bu gidiş dönüş her yazma duraklamasında gerçekleşir; yani yazmakta olduklarınızın —taslak e-postalar, sohbet mesajları, kurum içi notlar— sürekli bir akışı üçüncü tarafın sunucularından geçer. Bazı sağlayıcılar bu trafiği model geliştirme, kötüye kullanım tespiti veya hata ayıklama amacıyla kaydeder. Bazıları kaydetmez. Kullanıcı olarak dışarıdan hangisinin doğru olduğunu genellikle doğrulayamazsınız; ayrıca gizlilik politikası güncellendiğinde koşullar değişebilir.
Yerel LLM Nasıl Çalışır?
Cihaz üzerinde çalışan araç, mimariyi tersine çevirir. Yalnızca istemci değil, modelin kendisi de makinenizdedir.
Model bir kez indirilir
Kurulum sırasında kompakt, kuantize edilmiş bir model dosyası diske indirilir. Bundan sonra çalışması için başka bir ağ erişimi gerekmez.
Çıkarım CPU/GPU'nuzda gerçekleşir
Yazmaya ara verdiğinizde model, yakındaki metni doğrudan bellekten okuyarak bir çıkarım motoru aracılığıyla yerel olarak çalışır; metin süreçten hiçbir zaman çıkmaz.
Ağ üzerinden gidiş dönüş yok
Metnin gönderileceği bir sunucu olmadığından, ele geçirilecek, kaydedilecek veya saklanacak bir istek de yoktur. Öneri aynı yerel süreçte hesaplanır ve silinir.
Windows için Typeahead bu şekilde tasarlanmıştır. Yerel bir modeli —llama.cpp üzerinden sunulan Qwen 3.5'i— doğrudan bilgisayarınızda çalıştırır. Gereken tek ağ etkinliği, model dosyasını indirmek ve uygulama güncellemelerini kontrol etmektir; öneri oluşturmak için bağlantı gerekmez ve yazdığınız metin hiçbir yere iletilmez.
“Telemetri Yok” Gerçekte Ne Anlama Gelir?
“Gizliliğe önem veren” ifadesi, arka planda birbirinden çok farklı uygulamalara sahip pek çok ürüne eklenir. Gerçekten yerel bir mimarinin yalnızca sözleşme gereği değil, teknik olarak neleri olanaksız kıldığını açıkça belirtmekte fayda var:
Sunucu olmadığında, yanlış yapılandırılabilecek bir metin kaydı hattı, mesaj içeriklerini yanlışlıkla içerebilecek bir analiz panosu veya sonradan bir veri ihlaline, satın almaya ya da veri kullanım politikasındaki değişikliğe konu olabilecek bir kullanıcı metni veri kümesi de yoktur. Bulut yolunun bulunmaması bir politika vaadi değil, mimarinin bir özelliğidir.
Denge: Model Boyutu ve Yetenek
Bunun da bazı ödünleşimleri var. Bir dizüstü bilgisayarın CPU'sunda, 600 MB–2,5 GB disk alanında bütünüyle çalışan bir model, bulut hizmetlerinin veri merkezi GPU'larında çalıştırdığı devasa modellerden küçüktür. Sıfırdan tam bir deneme yazmak gibi açık uçlu görevlerde, devasa bir bulut modeli yaratıcılık yelpazesinin genişliği açısından hâlâ üstündür. Dengeli seçenek için 8 GB sistem belleği; maksimum seçenek içinse kendine ait 8 GB belleği olan ayrık ekran kartı ve 16 GB sistem belleği gerekir.
Ancak sıradaki ifadeyi otomatik tamamlama, açık uçlu içerik üretmekten daha dar kapsamlı bir iştir: Hiç yoktan yeni içerik yazmak değil, başlamış olduğunuz bir cümleye makul ve kısa bir devam tahmin etmektir. İyi ayarlanmış küçük bir yerel model bu işi iyi yapar; bu nedenle bu kullanımda boyut farkının önemi, genel amaçlı sohbet kullanımına kıyasla çok daha azdır.
| Özellik | Yerel LLM (Typeahead) | Bulut tabanlı otomatik tamamlama |
|---|---|---|
| Çıkarımın gerçekleştiği yer | Cihazınız | Sağlayıcının sunucusu |
| Ağ üzerinden gönderilen metin | Hiçbir zaman | Her öneride |
| Çevrimdışı çalışır | Evet | Hayır |
| Hesap gerekir | Hayır | Genellikle |
| Sağlayıcının sistemine izinsiz erişim olursa maruz kalma | Yok — sunucu tarafında saklanan metin yok | Saklama politikasına bağlıdır |
Bu Farkın En Önemli Olduğu Durumlar
Hassas içerik yazanlar için yerel ve bulut tabanlı araçlar arasındaki fark yalnızca kuramsal değildir: hesap bilgilerini işleyen destek temsilcileri, not hazırlayan sağlık veya hukuk çalışanları ya da gizlilik sözleşmesi kapsamında yazı yazan herkes için önemlidir. Tren, bodrum kattaki bir ofis veya bağlantının güvenilmez olduğu başka bir yerde yazı yazıyorsanız da önem taşır: bulut aracı susar, yerel araç ise bunu fark etmez.
Typeahead bunu bir ayar değil, varsayılan davranış olarak ele alır. Parola alanları her zaman yok sayılır; parola yöneticisi ve finans uygulamalarıysa bu korumayı kapatmaya yönelik bir seçenek olmadan, varsayılan olarak korunur. Üstelik yazılan metin zaten ilk başta cihazdan çıkmaz.
Sıkça Sorulan Sorular
Typeahead yazdığım metni herhangi bir yere gönderiyor mu?
Bir aracın gerçekten yerel çalıştığını, yalnızca öyle olduğunu iddia etmediğini doğrulayabilir miyim?
Küçük bir yerel model büyük bir bulut modeli kadar iyi mi?
Typeahead hesap veya oturum açma gerektiriyor mu?
Varsa, Typeahead internetten ne indiriyor?
Typeahead'i edinin
Öneriler sunucuda değil, cihazınızda oluşturulur. Tek seferlik $9.99, 7 günlük ücretsiz deneme.
Microsoft Store'de edinin