每种自动补全工具都必须在某处运行语言模型。“某处”正是问题的关键。如果模型在服务器上运行，你的按键就必须先传到那里。如果模型在自己的设备上运行，你的按键就不会离开设备。无论哪种方式，屏幕上显示的建议看起来都可能一模一样——只有追问计算实际发生在哪里时，两者的区别才会显现。

这不是抽象的区别。它决定了一家公司在技术层面上能够如何处理你的文本、服务器遭到入侵时会泄露什么，以及关闭 Wi-Fi 后你能否在飞机上使用自动补全工具。下面介绍其底层架构的实际差异。

云端自动补全如何运作

云端写作助手通常由一个轻量级客户端（浏览器扩展或小型后台进程）和运行在远程服务器上的大型模型组成。流程如下：

  1. 你在文本字段中输入几个词。
  2. 客户端捕获周围的文本，并通过网络将其发送到供应商的 API。
  3. 供应商基础设施上的大型模型生成补全文本。
  4. 建议被发回，并以幽灵文本的形式显示在你的输入字段中。

每次你在按键输入间歇停顿时，都会发生这样一次往返传输。这意味着你正在撰写的内容——草拟的电子邮件、聊天消息、内部笔记——会持续经过第三方服务器。有些供应商会记录这些流量，用于改进模型、检测滥用行为或排查问题；有些则不会。作为用户，你通常无法从外部验证实际情况，而相关条款也可能随着隐私政策更新而改变。

本地大语言模型如何运作

设备端工具会颠倒这一架构。模型本身——而不仅仅是客户端——都保存在你的设备上。

模型只需下载一次

设置期间会将一个紧凑的量化模型文件下载到磁盘。此后，模型运行无需再访问网络。

推理在你的 CPU/GPU 上进行

当你暂停输入时，模型会通过推理引擎在本地运行，直接从内存读取附近的文本——文本绝不会离开该进程。

没有网络往返

没有服务器可供发送文本，因此也就没有请求可被拦截、记录或保留。建议会在同一个本地进程中生成并丢弃。

适用于 Windows 的 Typeahead 就是以这种方式构建的。它通过 llama.cpp 在你的 PC 上直接运行本地模型 Qwen 3.5。它唯一需要的网络活动是下载模型文件和检查应用更新；生成建议完全不需要连接网络，你输入的文本也绝不会被传送到任何地方。

“无遥测”究竟意味着什么

“注重隐私”这句话被用在许多产品上，但这些产品背后的实现方式各不相同。值得具体说明，真正的本地架构在技术上排除了什么，而不只是合同条款上的承诺：

关键测试： 断开互联网连接并继续输入。如果建议仍然有效，文本就从未离开你的设备——没有服务器可以接收它。如果建议停止工作，这个工具就依赖网络调用，这意味着你的按键输入就是该调用所传送的数据。

不涉及服务器，就没有可能配置错误的文本记录流程，没有可能意外包含消息内容的分析仪表板，也没有可能在日后遭遇数据泄露、公司收购或数据使用政策变更时被牵涉其中的用户文本数据集。没有云端传输路径并非政策承诺，而是架构本身的属性。

权衡之处：模型大小与能力

这一切并非毫无代价。一个完全运行在 600 MB–2.5 GB 磁盘空间内、由笔记本电脑 CPU 驱动的模型，比云服务运行在数据中心 GPU 上的庞大模型小得多。对于从零开始起草整篇文章这类开放式任务，大型云端模型在创造力的广度上仍然更胜一筹。均衡模式需要 8 GB 系统内存；最高模式需要一张拥有 8 GB 独立显存的独立显卡，以及 16 GB 系统内存。

但预测下一个短语比开放式生成的任务范围更窄——它要预测的是你已经开始输入的句子后面可能出现的简短续写，而不是从零创作新内容。这类任务小型且经过良好调优的本地模型就能胜任，因此在这一用途下，模型大小带来的权衡远小于通用聊天场景。

属性 本地 LLM (Typeahead) 云端自动补全
推理运行位置 你的设备 服务商的服务器
通过网络发送文本 从不 每次生成建议时
可离线使用 是 否
需要账户 否 通常会
服务商遭遇数据泄露时的暴露风险 没有——服务器端不存储文本 取决于保留政策

这最重要的场景

对于任何输入敏感内容的人来说，本地与云端之间的差别并非纸上谈兵——例如处理账户详情的客服人员、撰写记录的医疗或法律从业人员，或任何受保密协议约束的人。如果你只是在火车上、地下室办公室里，或在其他网络连接不可靠的地方写作，这一点同样重要：云端工具会停止响应，本地工具则不会察觉到连接问题。

Typeahead 将这一点设为默认行为，而不是一项设置。密码字段始终会被忽略；密码管理器和金融应用也默认受到保护，而且没有开关可以关闭这项保护——更何况，你输入的文本从一开始就不会离开设备。

常见问题

Typeahead 会把我输入的文本发送到任何地方吗？
不会。建议由在你的 PC 上运行的本地模型生成。Typeahead 发出的网络请求仅用于下载模型文件或检查应用更新，这两种请求都不涉及你输入的文本。
我能验证某个工具确实在本地运行，而不只是口头声称吗？
最简单的方法是在完成设置后断开互联网，然后继续使用该工具。如果它在没有网络连接的情况下仍能生成建议，就说明它没有可用于发送文本的服务器。
小型本地模型能和大型云端模型一样好吗？
对于开放式写作任务，大型云端模型通常适用范围更广。但对于预测你正在输入的句子接下来的几个词，紧凑型本地模型表现良好，因为任务本身范围更窄，也更容易预测。
Typeahead 需要账户或登录吗？
不需要。无需账户，无需登录，也不存在任何服务器端个人资料。应用完全基于本地文件和本地模型运行。
Typeahead 会从互联网下载什么内容吗？
只会在设置期间下载模型文件，并定期检查应用更新。这两项都不涉及你输入的内容。

获取 Typeahead

在你的设备上而非服务器上生成建议。一次性购买 $9.99,，免费试用 7 天。

在 Microsoft Store 上获取