如果你想在 Windows 上借助 AI 写作,显而易见的选择是 Copilot。它在任务栏中,也在 Word 和 Outlook 中,而且新款键盘上还有专用按键。

但它是一种特定形态的工具,而这种形态并不适合所有类型的写作。

Copilot 究竟是什么

Windows 上的 Copilot 分为几个容易混淆的层面。

  • Copilot 应用和任务栏入口。 一个聊天窗口:你提问,它回答,然后你把结果复制到别处。基础版免费。
  • Microsoft 365 应用中的 Copilot。 在 Word、Outlook、Excel、PowerPoint 和 Teams 中起草、改写、总结和调整语气;这些功能越来越多地以选中文本后的建议形式出现,让你可以选中一个段落并要求精简。这需要包含 Copilot 的 Microsoft 365 订阅,并且只能在这些应用中使用。
  • Copilot+ PC 功能。 这是又一个独立的部分:需要特定硬件、由本地神经处理器运行的功能——Recall、Click to Do、支持翻译的实时字幕、Windows Studio Effects、改进的本地搜索。Microsoft 对该标识的基本要求一直是大约 40 TOPS 的神经处理器和 16 GB 内存,而设备端功能的适用范围也一直在扩展,不再局限于这类硬件。请注意,列表中没有的一项是:这些功能都不是能在任意应用中进行的行内写作预测。

三个层面,对“我有 Copilot 吗”这个问题有三种答案,而大多数人所说的写作帮助属于第二种。

它的使用方式:请求与回应

使用 Copilot 帮助写作需要你主动提出请求。你需要停下来,选择文本或打开侧边窗格,描述你想要什么,然后等待、阅读结果,再接受或编辑。对于以文档为单位的工作,这种方式很合适:例如你正在撰写的草稿、正在撰写的长邮件,或一段讨论串的摘要。

但它不适合另一类写作,而对大多数人来说,这类写作占了大部分:每天在聊天窗口里发送四十条简短消息、回复两行内容、填写网页表单中的字段、给工单添加评论,或者在非 Microsoft 应用中记笔记。在这些情况下,停下来提出请求所花的时间,比直接打完句子还多。

两者处理文本的位置也不同。Copilot 的生成式功能在 Microsoft 云端运行。对企业租户而言,这意味着 Microsoft 作出了商业数据保护承诺,这确实很重要,但这说明的是服务器如何处理你的文本,而不是你的文本是否留在了自己的设备上。在某些情境中,这一区别至关重要。

功能缺口

把两者放在一起看,缺口就很具体了:

  • Slack、Teams 聊天、WhatsApp Desktop、Telegram 中的短消息
  • Microsoft 网页应用之外的任何浏览器内容:CRM 备注、支持控制台、管理面板、表单
  • 第三方编辑器:Notepad++、VS Code、Obsidian、笔记应用
  • 非 Microsoft 邮件客户端
  • 离线、在飞机上或网络状况不佳时的任何打字场景
  • 因监管或合同要求而不能离开本机的文本输入

对许多人来说,一天中大部分文字都是在这些地方逐字敲出的,却完全没有任何辅助。

另一种方式:行内预测

另一种选择不是聊天窗口,而是在打字时显示在光标旁边的预测内容。它会提供句子的后续部分,你可以按一个键接受,也可以继续输入来忽略它。

Microsoft 365 中的 Copilot 本地行内预测
如何调用 你提出请求 它提供建议;你接受或忽略
输出单位 一段文字、一篇草稿、一段改写内容 接下来的几个词
适用范围 Microsoft 365 应用 任何可输入文本的应用
文本处理位置 Microsoft 的云端 你的设备
可离线使用 否 是
费用模式 订阅 各不相同;提供一次性购买选项
最擅长 生成你尚未写出的内容 接续你已经开始写的内容
不擅长 快速、简短、重复的消息 从零开始撰写长篇内容

最后一行说出了实情。它们不能互相替代。让预测引擎起草备忘录是选错了工具,而让聊天助手帮你写两行回复,花的时间会比省下的还多。

小型本地模型足以胜任这项任务吗?

对于接续你已经开始写的句子,大体上足够,原因在于任务本身,而不是模型。

预测句子的后续内容是一项受到严格限制的任务。光标前的文字已经确定了主题、语气、语体和词汇,而所需输出也很短。这和根据一句提示生成论点完全是另一项工作,不需要同等的模型能力。

实际的限制在于延迟,而非质量。无论建议多么出色,如果它在你已经输入完那些词之后才出现,就毫无价值。这为模型大小设定了上限——而小到足以在笔记本电脑上不到一秒就作出回应的模型,也足以在笔记本电脑上运行。

Typeahead 基于这种取舍构建:通过 llama.cpp 在本地运行紧凑模型,在光标旁建议句子的后续内容,并按 Tab 键接受。它能在普通 Windows 应用中实现系统级运行,而不只限于某一款编辑器;无需账户,下载模型后也无需网络连接。它采用一次性购买,而非订阅;即使尚未下载任何模型,片段和词典补全功能也可使用。

该选哪个

如果选择 Copilot, 那是因为你会撰写文档、已经在为 Microsoft 365 付费、工作主要在 Word、Outlook 和 Teams 中进行,并且需要起草、改写和总结功能。

如果选择本地行内预测, 那是因为你的大部分打字分散在许多应用中、内容较短;你希望获得帮助而无需停下来提出请求;你需要离线使用;或者你的文本不能发送到服务器。

两者都用,也说得通。 它们适用于一天中的不同场景,并不冲突。如果你已经有 Copilot,问题不在于是否要替换它,而在于它无法处理的那四百条简短消息对你是否有价值。

常见问题

Copilot 在 Windows 上免费吗?
Copilot 应用有免费版本。Word、Outlook 和其他 Microsoft 365 应用中的写作功能,则需要包含 Copilot 的订阅。两者很容易混淆,因为它们都叫 Copilot。
Copilot 能在 Slack、Chrome 或记事本中使用吗?
不能。它的应用内写作功能仅限 Microsoft 365 应用。你可以在任何应用旁边打开 Copilot 聊天窗口并粘贴结果,但这属于复制粘贴,并非应用内辅助。
Copilot+ PC 能让我离线使用 AI 写作吗?
不能进行行内写作预测。Copilot+ 的设备端功能包括 Recall、Click to Do、实时字幕和 Studio Effects 等。Microsoft 365 应用中的文本生成仍在云端运行。
Copilot 会利用我写的内容训练模型吗?
Microsoft 表示,Microsoft 365 Copilot 不会使用企业租户数据训练其基础模型,并且符合条件的账户享有商业数据保护。个人版和免费版的条款有所不同;请阅读适用于你自己的条款,不要依赖任何摘要,包括本摘要。
没有显卡的话,我能使用本地模型吗?
可以,用于这项任务没问题。小型量化模型能以足以接续句子的速度在处理器上运行。独立显卡能让你使用更大的模型,但它并不是能否使用模型的必要条件。
行内预测和自动更正是一回事吗?
不是。自动更正会修改你已经输入的内容。预测则会提供你尚未输入的内容,除非你接受,否则它不会进行任何操作。