É fácil supor que melhores sugestões exigem um modelo maior — mais parâmetros, mais capacidade de computação, uma GPU de centro de dados por trás de uma chamada de API. No caso da geração aberta, essa suposição é muitas vezes verdadeira. Mas o preenchimento automático da frase seguinte é uma tarefa fundamentalmente diferente e mais restrita, para a qual um modelo compacto e quantizado executado no processador de um portátil é adequado.

O preenchimento automático é uma tarefa limitada, não aberta

Quando pede a um modelo de linguagem grande que escreva um ensaio a partir de uma página em branco, este tem de tomar milhares de decisões sobre estrutura, argumentação e tom, quase sem restrições. É aí que a dimensão do modelo compensa — em geral, mais parâmetros significam uma gama mais vasta de resultados plausíveis à escolha.

A previsão da frase seguinte é um problema diferente. O modelo já dispõe da frase que começou, do contexto envolvente e, no caso do Typeahead, da aplicação em que está a escrever, o que constitui um sinal importante. Não está a gerar a partir do nada — está a completar uma continuação curta e já condicionada. É precisamente essa restrição que torna viável um modelo pequeno: havendo menos continuações plausíveis à escolha, é necessária menos capacidade bruta para escolher bem.

Analogia: prever a linha seguinte de uma frase é mais parecido com acabar o pensamento de outra pessoa do que escrever o seu próprio pensamento do zero. A segunda tarefa é aberta; a primeira tem um conjunto muito menor de respostas razoáveis.

O que faz a quantização

Os pesos de um modelo de linguagem em bruto são normalmente armazenados como números de vírgula flutuante de 16 ou 32 bits. A quantização comprime esses pesos para uma precisão inferior — por exemplo, representações de 4 ou 8 bits — com uma pequena perda de precisão geralmente aceitável. O resultado é um ficheiro de modelo com uma fração do tamanho original, suficientemente rápido para executar inferências úteis em hardware comum de consumo, incluindo um portátil sem GPU dedicada.

É isto que torna realista disponibilizar um modelo que reside inteiramente no PC de alguém com Windows, em vez de num bastidor de servidores: um modelo quantizado, com algumas centenas de megabytes a poucos gigabytes, ocupa confortavelmente espaço em disco e memória juntamente com tudo o que já estiver em execução.

Como o Typeahead dimensiona os seus modelos

O Typeahead para Windows oferece três modelos opcionais, para que possa escolher o equilíbrio entre velocidade e qualidade das sugestões mais adequado ao seu computador:

Rápido (~600 MB) — predefinição

O modelo mais pequeno, otimizado para baixa latência. É o modelo ativo logo após a instalação e é suficiente para a maioria das tarefas quotidianas de preenchimento de frases.

Equilibrado (~1,2 GB)

Um modelo com maior capacidade para computadores que possam disponibilizar memória e espaço em disco adicionais, trocando um pouco de velocidade por uma gama mais vasta de sugestões. Requer 8 GB de memória do sistema.

Máximo (~2,5 GB)

O maior dos três modelos, destinado a quem pretende a melhor qualidade de sugestões que o Typeahead oferece e dispõe de recursos de hardware suficientes. Requer uma placa gráfica dedicada com 8 GB de memória própria e 16 GB de memória do sistema.

Os três modelos são executados através do llama.cpp, um motor de inferência concebido especificamente para executar modelos de linguagem de forma eficiente em CPUs comuns e GPUs de consumo, e são todos baseados em Qwen 3.5, uma família de modelos multilingue que abrange mais de 100 idiomas — por isso, o idioma das sugestões acompanha o idioma em que está a escrever, sem ser necessário mudar manualmente de idioma.

Porque isto também significa que não depende da nuvem

Como o modelo é suficientemente pequeno para ser executado localmente, o Typeahead não precisa de um servidor para fazer o trabalho pesado. Isto tem uma consequência direta para a privacidade — nada do que escreve é transmitido para qualquer destino — mas também uma consequência prática: as sugestões funcionam sem ligação à Internet, sem limites de pedidos à API e sem depender de um serviço remoto permanecer online.

Modelo Tamanho aproximado Equilíbrio
Rápido ~600 MB Latência mais baixa, opção predefinida
Equilibrado ~1,2 GB Maior capacidade, continua a ser leve
Máximo ~2,5 GB Melhor qualidade de sugestões disponível

O que obtém mesmo antes de transferir um modelo

O Typeahead não exige um modelo para ser útil desde o primeiro dia. Os fragmentos personalizados e o preenchimento automático baseado em dicionário funcionam imediatamente após a instalação, antes de transferir qualquer modelo — as sugestões de frases geradas por IA são acrescentadas quando escolher um dos três modelos.

Perguntas frequentes

Um modelo de 600 MB é mesmo suficientemente bom para dar sugestões úteis?
Para prever a frase seguinte — completar uma frase que já começou — sim. É uma tarefa mais restrita do que a escrita aberta, e é precisamente por isso que o modelo rápido é a predefinição do Typeahead.
O que significa quantização, em termos simples?
É uma técnica que comprime os números internos de um modelo para uma precisão inferior, reduzindo o tamanho do ficheiro e acelerando a inferência, com uma pequena perda de precisão que, em geral, é aceitável para este tipo de tarefa.
Que modelo devo escolher?
Comece pelo modelo rápido (~600 MB), que é a predefinição. Se o seu computador tiver memória e espaço em disco disponíveis e pretender sugestões de maior abrangência, experimente o equilibrado ou o máximo — pode mudar de modelo a qualquer momento.
Preciso de transferir um modelo para utilizar o Typeahead?
Não. Os fragmentos personalizados e o preenchimento automático baseado em dicionário funcionam antes de transferir qualquer modelo. A funcionalidade de preenchimento de frases com IA fica disponível quando escolher um modelo.
Que motor de inferência utiliza o Typeahead?
O llama.cpp, que executa a família de modelos Qwen 3.5, escolhida especificamente para uma inferência eficiente em CPUs e GPUs comuns de consumo, sem necessidade de hardware especializado.

Obter Typeahead

Escolha rápido, equilibrado ou máximo. Todos incluídos, sem custos adicionais. Pagamento único do $9.99.

Obtenha-o na Microsoft Store