Если вы хотите, чтобы ИИ помогал вам писать в Windows, очевидный ответ — Copilot. Он есть на панели задач, в Word и Outlook, а на новых клавиатурах для него предусмотрена отдельная клавиша.
Но это инструмент определённого типа, и такой формат подходит не для всех видов письма.
Что такое Copilot на практике
Copilot в Windows состоит из нескольких уровней, которые легко перепутать.
- Приложение Copilot и значок на панели задач. Окно чата: вы задаёте вопрос, получаете ответ и копируете результат куда-нибудь. Есть базовый бесплатный тариф.
- Copilot в приложениях Microsoft 365. Создание черновиков, переписывание, составление краткого содержания и изменение тона текста в Word, Outlook, Excel, PowerPoint и Teams. Всё чаще такие возможности появляются в виде подсказок для выделенного фрагмента: можно выделить абзац и попросить сделать его короче. Для этого нужна подписка Microsoft 365 с Copilot, а сами функции работают внутри этих приложений.
- Функции ПК Copilot+. Это ещё одна отдельная категория: аппаратно-зависимые возможности, работающие на локальном нейропроцессоре, — Recall, Click to Do, Live Captions с переводом, Studio Effects в Windows и улучшенный локальный поиск. Для получения соответствующего значка Microsoft установила базовые требования: нейропроцессор производительностью примерно 40 TOPS и 16 ГБ памяти. Возможности локальной обработки постепенно расширяются и за пределами этого оборудования. Обратите внимание, чего в списке нет: ни одна из этих функций не предсказывает текст прямо при вводе в произвольных приложениях.
Три уровня, три ответа на вопрос «Есть ли у меня Copilot?», но помощь при письме, которую имеет в виду большинство людей, относится ко второму уровню.
Формат работы: запрос и ответ
Чтобы получить помощь Copilot с письмом, нужно обратиться к нему. Вы останавливаетесь, выделяете текст или открываете панель, описываете, что хотите получить, ждёте, читаете результат, принимаете его или редактируете. Это удобно, когда работа ведётся с документом: черновиком, длинным письмом или кратким содержанием переписки.
Для другого вида письма этот формат подходит плохо, хотя именно на него у большинства людей приходится основная часть работы: сорок коротких сообщений в чате за день, ответ из двух строк, поле веб-формы, комментарий к заявке, заметка в приложении не от Microsoft. В таких случаях остановиться и задать вопрос дольше, чем просто набрать предложение.
Различается и то, куда отправляется текст. Генеративные функции Copilot работают в облаке Microsoft. Для корпоративных клиентов это сопровождается обязательствами по защите коммерческих данных — и это действительно важно. Но такие обязательства описывают, как сервер обрабатывает ваш текст, а не гарантируют, что текст остался на вашем компьютере. В некоторых случаях именно это различие имеет решающее значение.
Пробел
Если сопоставить эти два подхода, обнаружится вполне конкретный пробел:
- короткие сообщения в Slack, чате Teams, WhatsApp Desktop и Telegram
- всё в браузере, что не является веб-приложением Microsoft: заметки в CRM, консоли поддержки, панели администратора, формы
- сторонние редакторы: Notepad++, VS Code, Obsidian и приложения для заметок
- почтовые клиенты не от Microsoft
- любой набор текста без интернета — в самолёте или при плохом соединении
- любой набор текста, который по нормативным или договорным причинам нельзя отправлять с компьютера
Для многих именно на это приходится большая часть набираемых за день слов: по одной клавише за раз, без какой-либо помощи.
Другой формат: встроенное предсказание
Альтернатива — не окно чата. Это подсказки, появляющиеся рядом с курсором по мере ввода: предлагается продолжение предложения, которое можно принять одной клавишей или проигнорировать, продолжив печатать.
| Copilot в Microsoft 365 | Локальное предсказание прямо при вводе | |
|---|---|---|
| Как вызвать | Вы задаёте запрос | Он предлагает вариант; вы принимаете его или игнорируете |
| Объём результата | Абзац, черновик, переписанный текст | Следующие несколько слов |
| Где работает | Приложения Microsoft 365 | Любое приложение, в котором можно вводить текст |
| Где обрабатывается текст | В облаке Microsoft | На вашем компьютере |
| Работает без интернета | Нет | Да |
| Модель оплаты | Подписка | Различается; есть вариант с разовой покупкой |
| Лучше всего подходит для | Создания текста, которого вы ещё не написали | Завершения текста, который вы уже начали |
| Плохо подходит для | Коротких, быстрых и повторяющихся сообщений | Создания длинных текстов с нуля |
Последняя строка — самая честная. Эти инструменты не заменяют друг друга. Просить механизм предсказания составить служебную записку — неправильный выбор инструмента, а обращение к чат-помощнику за помощью с ответом из двух строк отнимает больше времени, чем экономит.
Достаточно ли хороша небольшая локальная модель для этой задачи?
В основном да, если нужно продолжить уже начатое предложение. И причина в самой задаче, а не в модели.
Предсказать продолжение предложения — задача с жёсткими ограничениями. Тема, тон, стиль и словарь уже заданы словами перед курсором, а требуемый результат короткий. Это совсем не то же самое, что сформулировать аргумент по однострочному запросу, и для этого не нужна такая же мощность.
На практике важнее задержка, а не качество. Подсказка, появившаяся после того, как вы уже набрали эти слова, бесполезна, какой бы хорошей она ни была. Это жёстко ограничивает размер модели — а модель, достаточно маленькая, чтобы отвечать на ноутбуке значительно быстрее чем за секунду, достаточно компактна и для работы на нём.
Typeahead построена на этом компромиссе: компактная модель работает локально через llama.cpp и предлагает продолжение предложения рядом с курсором; принять его можно клавишей Tab. Она работает во всех обычных приложениях Windows, а не только в одном редакторе, не требует учётной записи и после загрузки модели не нуждается в подключении к сети. Это разовая покупка, а не подписка; при этом фрагменты и автодополнение словаря работают ещё до загрузки какой-либо модели.
Что выбрать
Copilot — если вы пишете документы, уже оплачиваете Microsoft 365, работаете в Word, Outlook и Teams и хотите создавать черновики, переписывать текст и составлять краткое содержание.
Локальное предсказание прямо при вводе — если большая часть набираемого вами текста короткая и распределена по множеству приложений, вам нужна помощь без остановок на запросы, вам нужно работать без интернета или ваш текст нельзя отправлять на сервер.
Вполне можно использовать оба варианта. Они занимают разные части рабочего дня и не мешают друг другу. Если у вас уже есть Copilot, вопрос не в том, стоит ли от него отказаться. Вопрос в том, важны ли для вас те четыреста коротких сообщений, которым он не помогает.