Toda ferramenta de autocompletar precisa executar um modelo de linguagem em algum lugar. Esse “algum lugar” é o ponto central. Execute-o em um servidor, e suas teclas digitadas precisam ser enviadas para lá primeiro. Execute-o na sua própria máquina, e elas nunca saem dela. A sugestão que você vê na tela pode parecer idêntica nos dois casos — a diferença fica invisível até você perguntar onde o cálculo realmente aconteceu.
Não é uma distinção abstrata. Ela determina o que uma empresa pode fazer tecnicamente com seu texto, o que uma invasão aos servidores dela expõe e se sua ferramenta de autocompletar funciona em um avião com o Wi-Fi desligado. Veja o que realmente muda por trás da interface.
Como funciona o autocompletar na nuvem
Um assistente de escrita na nuvem costuma ser um cliente leve — uma extensão do navegador ou um pequeno processo em segundo plano — associado a um modelo grande executado em um servidor remoto. O fluxo é assim:
- Você digita algumas palavras em um campo de texto.
- O cliente captura o texto ao redor e o envia pela rede para a API do fornecedor.
- Um modelo grande na infraestrutura do fornecedor gera uma conclusão.
- A sugestão é enviada de volta e exibida no campo como texto fantasma.
Essa troca acontece a cada pausa na digitação, o que significa que um fluxo contínuo do que você escreve — rascunhos de e-mails, mensagens de chat, notas internas — passa pelos servidores de terceiros. Alguns fornecedores registram esse tráfego para aprimorar modelos, detectar abusos ou depurar problemas. Outros não. Do lado de fora, como usuário, em geral você não consegue verificar qual é o caso, e os termos podem mudar com uma atualização da política de privacidade.
Como funciona um LLM local
Uma ferramenta executada no dispositivo inverte a arquitetura. O próprio modelo — não apenas o cliente — fica na sua máquina.
O modelo é baixado uma vez
Durante a configuração, um arquivo de modelo compacto e quantizado é baixado para o disco. Depois disso, não é necessário nenhum outro acesso à rede para que ele funcione.
A inferência acontece na sua CPU/GPU
Quando você faz uma pausa na digitação, o modelo é executado localmente através de um motor de inferência e lê diretamente da memória o texto à sua volta — nunca sai do processo.
Sem comunicação de ida e volta com a rede
Não há nenhum servidor para onde enviar texto, por isso não há nenhum pedido que possa ser intercetado, registado ou retido. A sugestão é calculada e descartada no mesmo processo local.
Typeahead for Windows foi concebido desta forma. Executa um modelo local — Qwen 3.5, servido através do llama.cpp — diretamente no seu PC. A única atividade de rede necessária é descarregar o ficheiro do modelo e procurar atualizações da aplicação; a geração de sugestões não requer qualquer ligação, e o texto que escreve nunca é transmitido para lado nenhum.
O que significa realmente «Sem telemetria»
«Amigo da privacidade» é uma expressão associada a muitos produtos com implementações subjacentes muito diferentes. Vale a pena ser específico quanto ao que uma arquitetura genuinamente local exclui do ponto de vista técnico, e não apenas contratual:
Sem um servidor envolvido, não existe um processo de registo de texto que possa ser configurado incorretamente, nenhum painel de análise que possa incluir acidentalmente o conteúdo das mensagens e nenhum conjunto de dados de texto dos utilizadores que possa vir a estar envolvido numa violação de segurança, numa aquisição ou numa alteração da política de utilização de dados. A ausência de uma ligação à nuvem não é uma promessa de política — é uma característica da arquitetura.
A contrapartida: tamanho e capacidade do modelo
Nada disto é gratuito. Um modelo que funciona inteiramente dentro de 600 MB–2.5 GB de espaço em disco, num processador de portátil, é mais pequeno do que os enormes modelos que os serviços na nuvem executam em GPUs de centros de dados. Para tarefas abertas, como redigir um ensaio completo de raiz, um enorme modelo na nuvem continua a ter vantagem em termos de variedade criativa. A opção Equilibrado requer 8 GB de memória do sistema; a opção Máximo requer uma placa gráfica dedicada com 8 GB de memória própria e 16 GB de memória do sistema.
Mas a conclusão automática da frase seguinte é uma tarefa mais específica do que a geração aberta — consiste em prever uma continuação curta e plausível de uma frase que já começou a escrever, não em compor conteúdo novo a partir do nada. É uma tarefa que um modelo local pequeno e bem afinado executa bem, razão pela qual a contrapartida em tamanho é muito menor neste caso de utilização do que num chat de finalidade geral.
| Propriedade | LLM local (Typeahead) | Conclusão automática na nuvem |
|---|---|---|
| Onde é executada a inferência | No seu dispositivo | No servidor do fornecedor |
| Texto enviado pela rede | Nunca | A cada sugestão |
| Funciona offline | Sim | Não |
| É necessária uma conta | Não | Normalmente |
| Exposição em caso de violação de segurança do fornecedor | Nenhuma — não há texto armazenado no servidor | Depende da política de retenção |
Onde isto é mais importante
A diferença entre uma solução local e uma na nuvem não é meramente teórica para quem escreve conteúdo sensível — agentes de apoio ao cliente que tratam dados de contas, profissionais de saúde ou da área jurídica que redigem notas, ou qualquer pessoa que escreva ao abrigo de um acordo de confidencialidade. Também é relevante se simplesmente escrever num comboio, num escritório na cave ou em qualquer lugar com uma ligação pouco fiável: uma ferramenta na nuvem deixa de responder, enquanto uma ferramenta local nem dá por isso.
Typeahead trata isto como uma predefinição, não como uma configuração. Os campos de palavra-passe são sempre ignorados, e as aplicações de gestão de palavras-passe e de finanças estão protegidas de origem, sem opção para desativar essa proteção — para além de o texto escrito nunca sair do dispositivo.
Perguntas frequentes
O Typeahead envia o texto que digito para algum lugar?
Posso verificar se uma ferramenta realmente funciona localmente, em vez de apenas afirmar que funciona?
Um modelo local pequeno é tão bom quanto um grande modelo na nuvem?
O Typeahead exige uma conta ou que eu faça login?
O que o Typeahead baixa da internet, se é que baixa alguma coisa?
Obter Typeahead
Sugestões geradas no seu dispositivo, não num servidor. Pagamento único de $9.99, com período de avaliação gratuito de 7 dias.
Obtenha-o na Microsoft Store