WindowsでAIに文章作成を手伝ってもらうなら、まず思い浮かぶのはCopilotでしょう。タスクバーにも、WordやOutlookにもあり、新しいキーボードには専用キーも付いています。
ただし、Copilotは特定の形をしたツールであり、その形があらゆる文章作成に合うわけではありません。
具体的にはどんなツール？Copilotの仕組み
WindowsのCopilotには、混同しやすい複数のレイヤーがあります。
- Copilotアプリとタスクバーのエントリー。 チャットウィンドウです。質問すると回答が返り、その結果を別の場所にコピーします。基本プランは無料です。
- Microsoft 365アプリ内のCopilot。 Word、Outlook、Excel、PowerPoint、Teams内での下書き作成、書き換え、要約、トーンの変更などを行います。選択したテキストへの提案機能も順次追加されており、段落を選んで、より簡潔な表現を依頼できます。Copilotを含むMicrosoft 365サブスクリプションが必要で、これらのアプリ内で動作します。
- Copilot+ PCの機能。 これも別の機能です。ローカルのニューラルプロセッサ上で動作し、ハードウェア要件によって利用できる機能です。Recall、Click to Do、翻訳機能付きLive Captions、Windows Studio Effects、強化されたローカル検索などがあります。このバッジの基本要件としてMicrosoftが定めてきたのは、約40 TOPSのニューラルプロセッサと16 GBのメモリーですが、デバイス上で実行できる機能は、そうしたハードウェア以外にも広がりつつあります。リストに含まれていないものに注目してください。これらの機能に、任意のアプリで使えるインライン文章予測はありません。
3つのレイヤーがあり、「自分はCopilotを使えるのか」という問いへの答えも3通りあります。多くの人が意味しているライティング支援は、2つ目のレイヤーにあります。
基本的な仕組み：依頼して回答を受け取る
Copilotのライティング支援は、依頼して使います。いったん手を止め、テキストを選択するかペインを開き、希望を説明して、回答を待ちます。結果を読んで、採用するか編集します。作成中の原稿、長文のメール、スレッドの要約など、単位が文書になる仕事には適しています。
もうひとつのタイプの文章作成には、あまり向いていません。多くの人にとって、そのタイプが日常の大半を占めています。チャットウィンドウで1日に送る短いメッセージが40件、2行の返信、Webフォームの入力欄、チケットへのコメント、Microsoft製ではないアプリのメモなどです。そこでは、依頼するために手を止めるより、文章をそのまま入力したほうが早く済みます。
2つの違いは、テキストが送られる場所にもあります。Copilotの生成機能はMicrosoftのクラウドで動作します。企業テナントでは商用データ保護の取り組みが適用され、それは実質的な意味を持つ重要なものです。しかし、これはサーバーがテキストをどう扱うかについての説明であり、テキストがマシン内にとどまることを意味するものではありません。環境によっては、その違いがすべてを左右します。
そのギャップ
この2種類を並べると、ギャップは次のように具体的になります。
- Slack、Teamsのチャット、WhatsApp Desktop、Telegramでの短いメッセージ
- ブラウザー内のMicrosoft製Webアプリ以外のあらゆるもの：CRMのメモ、サポートコンソール、管理パネル、フォーム
- サードパーティ製エディター：Notepad++、VS Code、Obsidian、メモアプリ
- Microsoft製以外のメールクライアント
- オフライン、飛行機の中、または接続状態が悪いときのあらゆる入力
- 規制上または契約上の理由で、端末の外に出せない文章の入力
多くの人にとって、1日の入力の大半はこのような場所で、何の支援もなく、キーを一つずつ押しながら行われています。
もう一つの形式：インライン予測
もう一つの選択肢はチャット画面ではありません。入力中にキャレットの横に予測が表示され、文の続きを提案します。キーを一つ押して採用するか、そのまま入力を続けて無視できます。
| Microsoft 365のCopilot | インラインのローカル予測 | |
|---|---|---|
| 呼び出し方 | 指示を出す | 提案が表示され、採用するか無視する |
| 出力の単位 | 段落、下書き、書き換え | 次の数語 |
| 動作する場所 | Microsoft 365アプリ | テキスト入力を受け付けるあらゆるアプリ |
| テキストの処理場所 | Microsoftのクラウド | 自分の端末 |
| オフラインで動作 | いいえ | はい |
| 料金体系 | サブスクリプション | さまざま。一回限りの購入も可能 |
| 得意なこと | まだ書いていないものを作成する | 書き始めたものを完成させる |
| 苦手なこと | 短く、素早く、繰り返し送るメッセージ | 何もないところから長文を書くこと |
最後の行こそが、率直に言うべき点です。これらは互いの代替品ではありません。予測エンジンにメモの下書きを頼むのは用途違いですし、2行の返信を手伝ってもらうためにチャットアシスタントを使うと、節約できる時間よりも時間がかかります。
小型のローカルモデルで、これには十分ですか？
すでに書き始めた文の続きを予測する用途なら、概ね十分です。その理由はモデルの性能ではなく、タスクの性質にあります。
文の続きを予測する作業には、強い制約があります。キャレットの前にある言葉によって、主題、語調、文体、語彙はすでに定まっており、必要な出力も短いものです。これは、1行のプロンプトから論旨を組み立てるのとはまったく異なる作業であり、同等の能力は必要ありません。
実用上の制約は品質よりも遅延です。入力し終わったあとに提案が届いても、どれほど優れていようと役に立ちません。そのため、モデルのサイズには厳しい上限があります。そして、ノートPC上で1秒を大きく下回る時間で応答できるほど小さなモデルなら、そのPC上で実行できます。
Typeahead は、このトレードオフを前提に作られています。llama.cppを通じて小型モデルをローカルで実行し、キャレットの横に文の続きを提案します。Tabキーで採用できます。特定のエディターだけでなく、通常のWindowsアプリ全体で使え、アカウントは不要です。モデルをダウンロードした後は、インターネット接続も必要ありません。サブスクリプションではなく一回限りの購入で、スニペットと辞書による入力補完は、モデルをダウンロードする前から利用できます。
どちらを使うべきか
次の場合はCopilot： 文書を書くことが多く、Microsoft 365にすでに料金を支払っていて、仕事の中心がWord、Outlook、Teamsであり、下書き、書き換え、要約をしたい場合。
次の場合はインラインのローカル予測： 入力の大半が短文で、複数のアプリに分散している場合、いちいち依頼することなく支援を受けたい場合、オフラインで使う必要がある場合、または文章をサーバーに送れない場合。
両方使うのも、十分あり得ます。 両者は一日の中で異なる場面に対応し、競合しません。すでにCopilotを使っているなら、置き換えるべきかどうかが問題なのではありません。Copilotが扱わない短いメッセージ400件に、あなたにとって価値があるかどうかが問題です。