A maioria das ferramentas de escrita com IA funciona da mesma maneira nos bastidores: o que escreve é enviado para um servidor, um modelo de grandes dimensões processa-o e a resposta chega pela rede. É assim quer a ferramenta reescreva um parágrafo, redija um e-mail ou apenas sugira as palavras seguintes. É também o aspeto em que as pessoas menos reparam — até pensarem no que «enviado para um servidor» significa realmente para uma mensagem pessoal ou um e-mail a um cliente.

Um assistente de escrita com IA offline inverte esse modelo: o modelo de linguagem funciona diretamente no seu PC, pelo que não há qualquer servidor envolvido. Este artigo explica como isso é tecnicamente possível, a que compromissos obriga e onde Typeahead se enquadra como exemplo.

Como funciona realmente a escrita com IA no dispositivo

As ferramentas de IA na nuvem costumam executar modelos grandes — com dezenas de milhares de milhões de parâmetros — em equipamento de centros de dados, porque é o único sítio onde esses modelos cabem. As ferramentas no dispositivo usam modelos muito mais pequenos e comprimidos, que cabem em algumas centenas de megabytes ou alguns gigabytes de armazenamento e funcionam no CPU ou GPU de um PC normal. O compromisso de ocupar menos espaço é um modelo um pouco menor — mas, para uma tarefa específica, como prever a expressão seguinte numa frase, um modelo compacto pode ser genuinamente rápido e preciso sem precisar da escala de um chatbot de uso geral.

A própria inferência — o processo efetivo de gerar uma sugestão a partir de um modelo — ocorre através de um ambiente de execução local. Typeahead, por exemplo, usa llama.cpp, um motor de código aberto para executar modelos de linguagem de forma eficiente em equipamento de consumo, juntamente com um pequeno modelo multilingue chamado Qwen 3.5. Nenhum pedido sai da máquina, porque não há para onde ir — tanto o modelo como o ambiente de execução estão no seu disco.

Sem comunicação de ida e volta com um servidor

As sugestões são calculadas no seu CPU/GPU, não são enviadas para um centro de dados e de volta — não há nada para intercetar, registar ou armazenar remotamente.

Funciona sem ligação

Depois de transferir o modelo, o assistente continua a funcionar com o Wi-Fi desligado — num avião, num comboio, em qualquer lugar.

Não precisa de conta

Não há início de sessão associado ao que escreve, porque não há servidor a controlar quem o está a usar.

Os compromissos, sem rodeios

Os modelos locais são mais pequenos do que os maiores modelos na nuvem, e um modelo menor é, em geral, menos capaz em tarefas abertas, como gerar textos longos ou fazer raciocínios complexos. Para uma tarefa específica e bem definida — prever como é provável que continue a frase que já está a escrever — essa diferença é muito menos importante do que seria, por exemplo, para redigir um ensaio a partir de um pedido de uma linha. O modelo também ocupa espaço em disco (as três opções de Typeahead vão de cerca de 600 MB a 2,5 GB) e precisa de ser transferido uma vez antes de poder funcionar, ao contrário de uma ferramenta na nuvem, pronta a usar assim que iniciar sessão. O modelo equilibrado precisa de 8 GB de memória do sistema; o modelo de qualidade máxima precisa de uma placa gráfica dedicada com 8 GB de memória própria e 16 GB de memória do sistema.

Quando o modo offline é a melhor opção: se o que está a escrever é confidencial — correspondência com clientes, mensagens pessoais, qualquer coisa abrangida por um NDA —, a compensação em termos de privacidade é precisamente o ponto central. Se precisar de um modelo para redigir um relatório de cinco páginas de raiz, um modelo maior na nuvem fará, em geral, um trabalho mais aprofundado.

Typeahead como exemplo prático

Typeahead é um utilitário da área de notificação do sistema que sugere o resto da frase que está a escrever em quase todas as aplicações de ambiente de trabalho Windows: WhatsApp, Telegram, Slack, Chrome, Edge, Firefox, Outlook, Thunderbird, Word, Notepad, Notepad++ e os painéis de chat e texto do VS Code. Funciona com um LLM local (Qwen 3.5 através de llama.cpp) ou com snippets personalizados — totalmente offline, sem conta e sem telemetria de texto. Os snippets personalizados e o preenchimento automático baseado no dicionário funcionam mesmo antes de transferir um modelo.

Estão disponíveis três tamanhos de modelo, consoante o equilíbrio pretendido entre velocidade e qualidade: rápido (~600 MB, a predefinição), equilibrado (~1,2 GB) e qualidade máxima (~2,5 GB). O modelo é multilingue, abrange mais de 100 idiomas e sugere texto no idioma em que está a escrever. As sugestões aparecem como texto fantasma junto ao cursor; prima Tab ou a seta para a direita para aceitar uma. É uma compra única de $9.99 através de Microsoft Store, com um período de avaliação gratuita de 7 dias, e os gestores de palavras-passe e as aplicações financeiras são excluídos das sugestões por predefinição. O modelo equilibrado precisa de 8 GB de memória do sistema; o modelo de qualidade máxima precisa de uma placa gráfica dedicada com 8 GB de memória própria e 16 GB de memória do sistema.

Para uma abordagem relacionada, mas sem IA, para escrever mais depressa, GagarinSoft também disponibiliza Text Replacements, um expansor de texto acionado por texto escrito — útil se preferir snippets exatos e previsíveis em vez de sugestões geradas por IA para uma determinada frase.

Perguntas frequentes

O que significa realmente «IA offline»?
Significa que o modelo de linguagem funciona no seu próprio dispositivo, em vez de num servidor remoto. Não há nenhum pedido de rede que envie o seu texto para lado nenhum — o modelo, o processamento e o resultado ficam todos no dispositivo.
Um modelo local é tão bom como um modelo na nuvem, como ChatGPT?
Em tarefas abertas, os grandes modelos na nuvem têm geralmente vantagem devido à sua dimensão. Para uma tarefa específica, como prever a frase seguinte de uma frase que já está a escrever, um pequeno modelo local pode ter um bom desempenho sem precisar dessa escala.
Typeahead alguma vez envia o meu texto para algum lado?
Não. O texto escrito nunca sai do dispositivo. A única atividade de rede consiste em transferir um modelo ou procurar atualizações da aplicação — não há conta nem telemetria de texto.
De quanto espaço em disco precisa um assistente local de escrita com IA?
No caso de Typeahead, entre cerca de 0,6 GB e 2,5 GB, dependendo de qual dos três modelos escolher — rápido, equilibrado ou qualidade máxima.
Pode funcionar sem transferir qualquer modelo?
Sim, parcialmente. Os snippets personalizados e o preenchimento automático baseado no dicionário funcionam de imediato, antes de transferir qualquer modelo. As sugestões de continuação de frases completas requerem um modelo.
Quais são os requisitos do sistema?
Windows 10 ou posterior, ou Windows 11, com 8 GB de RAM e 0,6–2,5 GB de espaço livre em disco, dependendo do modelo escolhido.

Obter Typeahead

Compra única, sem assinatura. Windows 10 / Windows 11. Teste gratuito de 7 dias.

Obtenha-o na Microsoft Store