Windows에서 AI 글쓰기 도움을 받고 싶다면 가장 먼저 떠오르는 답은 Copilot입니다. 작업 표시줄과 Word, Outlook에 있고, 새 키보드에는 Copilot 키도 있습니다.
이 또한 특정한 형태의 도구이며, 그 형태가 모든 종류의 글쓰기에 맞는 것은 아닙니다.
Copilot이 구체적으로 무엇인가요?
Windows의 Copilot은 서로 혼동하기 쉬운 여러 층위로 구성되어 있습니다.
- Copilot 앱과 작업 표시줄 항목. 채팅 창입니다. 질문하면 답변을 받고, 결과를 다른 곳에 복사합니다. 기본 무료 요금제가 있습니다.
- Microsoft 365 앱의 Copilot. Word, Outlook, Excel, PowerPoint, Teams 안에서 초안 작성, 다시 쓰기, 요약, 어조 변경을 지원합니다. 점점 더 선택한 텍스트에 대한 제안 형태로 제공되어, 문단을 강조 표시하고 더 간결하게 다듬어 달라고 요청할 수 있습니다. Copilot이 포함된 Microsoft 365 구독이 필요하며, 해당 앱 안에서 작동합니다.
- Copilot+ PC 기능. 이 또한 별개의 기능입니다. 로컬 신경망 프로세서에서 실행되는 하드웨어 의존 기능으로, Recall, Click to Do, 번역 기능이 있는 Live Captions, Windows Studio Effects, 향상된 로컬 검색 등이 포함됩니다. Microsoft가 이 배지의 기본 기준으로 제시해 온 사양은 약 40 TOPS의 신경망 프로세서와 16GB 메모리이며, 온디바이스 기능은 해당 하드웨어에 국한되지 않는 방향으로 확대되어 왔습니다. 목록에 없는 기능에 주목하세요. 이 중 어느 것도 임의의 앱에서 작동하는 인라인 글쓰기 예측 기능은 아닙니다.
세 가지 층위는 모두 'Copilot을 사용할 수 있나요?'라는 질문에 서로 다른 답을 줍니다. 대부분의 사람이 말하는 글쓰기 도움은 두 번째 층위에 있습니다.
작동 방식: 요청과 응답
Copilot의 글쓰기 도움은 사용자가 요청해야 작동합니다. 입력을 멈추고, 텍스트를 선택하거나 창을 열어 원하는 내용을 설명한 다음, 기다렸다가 결과를 읽고 적용하거나 수정합니다. 이는 문서가 작업의 단위인 경우에 적합합니다. 작성 중인 초안, 쓰고 있는 긴 이메일, 대화 내용 요약 등이 그런 예입니다.
하지만 다른 종류의 글쓰기에는 잘 맞지 않습니다. 대부분의 사람에게는 이쪽이 글쓰기의 대부분을 차지합니다. 채팅 창에서 하루에 쓰는 짧은 메시지 40개, 두 줄짜리 답장, 웹 양식의 입력란, 티켓 댓글, Microsoft 앱이 아닌 앱의 메모가 여기에 해당합니다. 이런 경우에는 입력을 멈추고 요청하는 데 드는 시간이 문장을 직접 입력하는 시간보다 더 깁니다.
두 방식은 텍스트가 전송되는 곳도 다릅니다. Copilot의 생성형 기능은 Microsoft 클라우드에서 실행됩니다. 비즈니스 테넌트에는 상업용 데이터 보호 약정이 적용되는데, 이는 실질적이고 의미 있는 보호입니다. 하지만 이는 서버가 사용자의 텍스트를 처리하는 방식에 대한 설명이지, 텍스트가 기기 안에 머물렀다는 뜻은 아닙니다. 일부 환경에서는 이 차이가 핵심적인 문제입니다.
공백
두 기능을 나란히 놓아 보면 어떤 부분이 채워지지 않는지 구체적으로 알 수 있습니다.
- Slack, Teams 채팅, WhatsApp Desktop, Telegram의 짧은 메시지
- Microsoft 웹 앱이 아닌 브라우저 내 모든 기능: CRM 메모, 지원 콘솔, 관리자 패널, 양식
- 타사 편집기: Notepad++, VS Code, Obsidian, 메모 앱
- Microsoft가 아닌 이메일 클라이언트
- 오프라인, 비행기 안, 연결 상태가 좋지 않을 때 입력하는 모든 내용
- 규정 또는 계약상의 이유로 기기 밖으로 전송할 수 없는 모든 입력 내용
많은 사람은 하루 동안 쓰는 대부분의 단어를 바로 이런 곳에서 한 번에 한 키씩 입력하며, 아무 도움도 받지 못합니다.
다른 방식: 인라인 예측
대안은 채팅 창이 아닙니다. 입력하는 동안 커서 옆에 문장의 나머지를 제안하는 예측 기능으로, 키 하나를 눌러 적용하거나 계속 입력해 무시할 수 있습니다.
| Microsoft 365의 Copilot | 로컬 인라인 예측 | |
|---|---|---|
| 실행 방법 | 사용자가 요청합니다 | 제안을 표시하고, 사용자가 적용하거나 무시합니다 |
| 출력 단위 | 문단, 초안, 다시 쓴 문장 | 다음 몇 개 단어 |
| 작동 위치 | Microsoft 365 앱 | 텍스트를 입력할 수 있는 모든 앱 |
| 텍스트 처리 위치 | Microsoft 클라우드 | 사용자의 기기 |
| 오프라인 작동 | 아니요 | 예 |
| 비용 모델 | 구독 | 다양함. 일회성 구매 방식도 있음 |
| 가장 잘하는 작업 | 아직 작성하지 않은 내용을 만들어 내기 | 이미 시작한 내용을 완성하기 |
| 잘하지 못하는 작업 | 짧고 빠르며 반복적인 메시지 | 빈 문서에서 긴 글 초안 작성하기 |
마지막 행이 핵심입니다. 이 둘은 서로 대체할 수 없습니다. 예측 엔진에 메모를 작성해 달라고 하는 것은 잘못된 도구를 쓰는 것이고, 두 줄짜리 답장을 위해 채팅 도우미에게 요청하면 절약되는 시간보다 더 많은 시간이 듭니다.
소형 로컬 모델로도 충분히 잘 작동하나요?
이미 시작한 문장을 이어 쓰는 데는 대체로 그렇습니다. 그 이유는 모델 자체보다 작업의 특성에 있습니다.
문장의 나머지를 예측하는 작업은 제약이 많습니다. 커서 앞에 입력된 단어가 주제, 어조, 문체, 어휘를 이미 정해 두며, 필요한 출력도 짧습니다. 이는 한 줄짜리 프롬프트만으로 논지를 만들어 내는 작업과는 매우 다르므로, 같은 수준의 모델 성능이 필요하지 않습니다.
실질적인 제약은 품질보다 지연 시간입니다. 제안이 도착하기 전에 이미 해당 단어를 입력했다면 아무리 좋은 제안도 쓸모가 없습니다. 따라서 모델 크기에는 엄격한 한계가 생깁니다. 노트북에서 1초보다 훨씬 짧은 시간 안에 응답할 만큼 작은 모델이라면 노트북에서 실행하기에도 충분히 작습니다.
Typeahead 는 이러한 절충을 바탕으로 만들어졌습니다. llama.cpp를 통해 로컬에서 소형 모델을 실행하고, 커서 옆에 문장의 나머지를 제안하며, Tab 키로 적용합니다. 한 편집기에서만 작동하는 것이 아니라 일반적인 Windows 앱 전반에서 작동하며, 계정이 필요 없고 모델을 다운로드한 뒤에는 인터넷 연결도 필요하지 않습니다. 구독이 아닌 일회성 구매 제품이며, 모델을 다운로드하기 전에도 스니펫과 사전 자동 완성 기능을 사용할 수 있습니다.
어떤 기능을 사용할까요?
다음과 같은 경우라면 Copilot: 문서를 작성하고, 이미 Microsoft 365에 비용을 지불하고 있으며, 주로 Word, Outlook, Teams에서 작업하고, 초안 작성, 다시 쓰기, 요약 기능을 원할 때.
다음과 같은 경우라면 로컬 인라인 예측: 대부분의 입력을 여러 앱에서 짧게 나누어 하고, 요청을 멈춰서 입력하지 않아도 도움을 받고 싶으며, 오프라인 기능이 필요하거나 텍스트를 서버로 보낼 수 없을 때.
둘 다 사용해도 좋습니다. 두 기능은 하루 중 서로 다른 부분을 맡으므로 충돌하지 않습니다. 이미 Copilot을 사용하고 있다면 이를 대체할지 말지가 문제가 아닙니다. Copilot이 다루지 않는 짧은 메시지 400개가 본인에게 얼마나 중요한지가 문제입니다.