Setiap alat pelengkapan otomatis harus menjalankan model bahasa di suatu tempat. "Di suatu tempat" itulah inti persoalannya. Jika dijalankan di server, ketikan Anda harus dikirim ke sana terlebih dahulu. Jika dijalankan di perangkat Anda sendiri, ketikan itu tidak pernah meninggalkan perangkat. Saran yang Anda lihat di layar bisa tampak sama dalam kedua kasus—perbedaannya tidak terlihat sampai Anda bertanya di mana komputasinya benar-benar berlangsung.

Ini bukan perbedaan yang abstrak. Perbedaan ini menentukan apa yang secara teknis dapat dilakukan perusahaan terhadap teks Anda, apa yang bisa terungkap jika server mereka dibobol, dan apakah alat pelengkapan otomatis Anda berfungsi di pesawat saat Wi-Fi mati. Berikut perbedaan sebenarnya di balik layar.

Cara Kerja Pelengkapan Otomatis Cloud

Asisten penulisan berbasis cloud biasanya berupa klien ringan—ekstensi browser atau proses latar belakang kecil—yang terhubung dengan model besar di server jarak jauh. Alurnya seperti ini:

  1. Anda mengetik beberapa kata di kolom teks.
  2. Klien mengambil teks di sekitarnya dan mengirimkannya melalui jaringan ke API penyedia.
  3. Model besar di infrastruktur mereka menghasilkan kelanjutan.
  4. Saran dikirim kembali dan ditampilkan sebagai teks bayangan di kolom Anda.

Pertukaran bolak-balik ini terjadi setiap kali Anda berhenti sejenak saat mengetik. Artinya, aliran terus-menerus dari apa yang Anda tulis—draf email, pesan obrolan, catatan internal—melewati server pihak ketiga. Beberapa penyedia mencatat lalu lintas ini untuk meningkatkan model, mendeteksi penyalahgunaan, atau melakukan debugging. Beberapa lainnya tidak. Dari sisi pengguna, pada umumnya Anda tidak dapat memverifikasi mana yang benar, dan ketentuannya bisa berubah saat kebijakan privasi diperbarui.

Cara Kerja LLM Lokal

Alat yang berjalan di perangkat membalik arsitekturnya. Model itu sendiri—bukan hanya kliennya—berada di perangkat Anda.

Model diunduh satu kali

File model terkuantisasi yang ringkas diunduh ke penyimpanan saat penyiapan. Setelah itu, model tidak memerlukan akses jaringan lagi untuk berfungsi.

Inferensi berlangsung di CPU/GPU Anda

Saat Anda berhenti mengetik sejenak, model berjalan secara lokal melalui mesin inferensi dan membaca teks di sekitarnya langsung dari memori—teks itu tidak pernah keluar dari proses tersebut.

Tanpa komunikasi bolak-balik melalui jaringan

Tidak ada server tujuan untuk mengirim teks, sehingga tidak ada permintaan yang bisa disadap, dicatat, atau disimpan. Saran dihitung dan dihapus dalam proses lokal yang sama.

Typeahead untuk Windows dibangun dengan cara ini. Aplikasi ini menjalankan model lokal—Qwen 3.5, melalui llama.cpp—langsung di PC Anda. Aktivitas jaringan yang diperlukan hanya untuk mengunduh file model dan memeriksa pembaruan aplikasi; pembuatan saran sama sekali tidak memerlukan koneksi, dan teks yang Anda ketik tidak pernah dikirim ke mana pun.

Apa Arti Sebenarnya dari "Tanpa Telemetri"

"Ramah privasi" adalah frasa yang disematkan pada banyak produk dengan penerapan yang sangat berbeda di baliknya. Sebaiknya kita menjelaskan secara spesifik hal-hal yang secara teknis tidak mungkin dilakukan dengan arsitektur yang benar-benar lokal, bukan sekadar hal-hal yang dilarang oleh kontrak:

Uji yang penting: putuskan koneksi internet dan teruslah mengetik. Jika saran tetap berfungsi, teks tidak pernah meninggalkan perangkat Anda—tidak ada server yang dapat menerima teks tersebut. Jika saran berhenti berfungsi, berarti alat itu bergantung pada panggilan jaringan, yang artinya ketikan Anda menjadi isi panggilan tersebut.

Tanpa keterlibatan server, tidak ada alur pencatatan teks yang bisa salah dikonfigurasi, tidak ada dasbor analitik yang tanpa sengaja dapat memuat isi pesan, dan tidak ada kumpulan data teks pengguna yang kelak bisa terlibat dalam pembobolan, akuisisi, atau perubahan kebijakan penggunaan data. Tidak adanya jalur cloud bukanlah janji dalam kebijakan—melainkan sifat arsitekturnya.

Kompromi: Ukuran dan Kemampuan Model

Semua ini bukan tanpa kompromi. Model yang sepenuhnya berjalan dalam ruang penyimpanan 600 MB–2,5 GB di CPU laptop berukuran lebih kecil daripada model raksasa yang dijalankan layanan cloud pada GPU pusat data. Untuk tugas terbuka seperti menyusun esai lengkap dari awal, model cloud raksasa masih unggul dalam cakupan kreativitas mentah. Mode seimbang memerlukan memori sistem 8 GB; mode maksimum memerlukan kartu grafis diskret dengan memori tersendiri 8 GB dan memori sistem 16 GB.

Namun, pelengkapan frasa berikutnya lebih sempit cakupannya daripada pembuatan teks terbuka—tugasnya memprediksi kelanjutan singkat yang masuk akal untuk kalimat yang sudah Anda mulai, bukan menyusun konten baru dari nol. Model lokal kecil yang disetel dengan baik mampu menangani tugas tersebut dengan baik. Itulah sebabnya kompromi ukuran untuk penggunaan ini jauh lebih kecil daripada untuk obrolan serbaguna.

Aspek LLM lokal (Typeahead) Pelengkapan otomatis cloud
Lokasi inferensi berlangsung Perangkat Anda Server penyedia
Teks yang dikirim melalui jaringan Tidak pernah Setiap kali memberikan saran
Berfungsi offline Ya Tidak
Perlu akun Tidak Biasanya
Paparan jika penyedia dibobol Tidak ada—tidak ada teks yang disimpan di sisi server Bergantung pada kebijakan retensi

Kapan Perbedaan Ini Paling Penting

Perbedaan antara sistem lokal dan cloud bukan sekadar teori bagi siapa pun yang mengetik materi sensitif—agen dukungan yang menangani detail akun, tenaga kesehatan atau hukum yang menyusun catatan, atau siapa pun yang bekerja berdasarkan perjanjian kerahasiaan. Perbedaan ini juga relevan jika Anda menulis di kereta, di kantor bawah tanah, atau di tempat lain dengan koneksi yang tidak andal: alat cloud akan berhenti berfungsi, sedangkan alat lokal tidak terpengaruh.

Typeahead menjadikan perlindungan ini sebagai pengaturan bawaan, bukan pilihan. Kolom kata sandi selalu diabaikan, dan aplikasi pengelola kata sandi serta keuangan terlindungi sejak awal tanpa opsi untuk menonaktifkan perlindungan tersebut—di samping fakta bahwa teks yang diketik memang tidak pernah meninggalkan perangkat.

Pertanyaan yang Sering Diajukan

Apakah Typeahead pernah mengirim teks yang saya ketik ke mana pun?
Tidak. Saran dihasilkan oleh model lokal yang berjalan di PC Anda. Satu-satunya permintaan jaringan yang dilakukan Typeahead adalah untuk mengunduh file model atau memeriksa pembaruan aplikasi—keduanya tidak melibatkan teks yang Anda ketik.
Bisakah saya memastikan bahwa suatu alat benar-benar berfungsi secara lokal, bukan sekadar mengaku demikian?
Cara termudah untuk memeriksanya adalah memutus koneksi internet setelah penyiapan, lalu terus menggunakan alat tersebut. Jika alat itu terus menghasilkan saran tanpa koneksi, berarti tidak ada server yang dapat digunakan untuk mengirimkan teks.
Apakah model lokal kecil sama bagusnya dengan model cloud yang besar?
Untuk tugas menulis terbuka, model cloud yang besar umumnya memiliki cakupan kemampuan yang lebih luas. Untuk memprediksi beberapa kata berikutnya dalam kalimat yang sedang Anda ketik, model lokal yang ringkas bekerja dengan baik karena tugasnya sendiri lebih sempit dan lebih mudah diprediksi.
Apakah Typeahead memerlukan akun atau proses masuk?
Tidak. Tidak ada akun, tidak perlu masuk, dan tidak ada profil apa pun di sisi server. Aplikasi ini sepenuhnya bekerja menggunakan file lokal dan model lokal.
Apa yang diunduh Typeahead dari internet, jika ada?
Hanya file model saat penyiapan dan pemeriksaan pembaruan aplikasi secara berkala. Keduanya tidak melibatkan konten yang Anda ketik.

Dapatkan Typeahead

Saran dihasilkan di perangkat Anda, bukan di server. Pembelian satu kali sebesar $9.99, dengan uji coba gratis selama 7 hari.

Dapatkan di Microsoft Store