El texto predictivo funciona calculando qué letras, palabra o frase tienen más probabilidades de aparecer a continuación, según lo que ya has escrito, y ofreciendo las mejores opciones. Ese cálculo se basa en un modelo del lenguaje. En los primeros teléfonos, el modelo era un diccionario ordenado según la frecuencia de cada palabra. Después pasó a usar estadísticas sobre qué palabra sigue a cuál. Hoy suele ser una red neuronal que lee la frase completa y se ejecuta en el propio dispositivo.
El guía sobre el autocompletado con IA en Windows explica cómo obtener sugerencias de frases en un PC. Este artículo explica el mecanismo que hay detrás, generación por generación.
Primera generación: un diccionario que resuelve ambigüedades
T9 resolvió un problema de hardware. El teclado de un teléfono tiene doce teclas y la mayoría contiene tres o cuatro letras. Tegic Communications presentó su patente de una «computadora de desambiguación de teclado reducido» en 1995, y se concedió en 1998. Cada pulsación de tecla es ambigua. El software busca en el diccionario las palabras que coinciden con toda la secuencia y muestra primero la más probable.
Pulsa 4-6-6-3 y la secuencia puede corresponder a good, home y gone. T9 no puede saber cuál quieres decir basándose solo en las teclas. Primero ofrece la palabra más frecuente y permite recorrer las demás. Aquí no se entiende el lenguaje: es una búsqueda en un diccionario con un orden de prioridad.
Segunda generación: contar qué palabra sigue a cuál
La barra de sugerencias encima del teclado de un teléfono añadió una segunda idea: predecir la siguiente palabra antes de que escribas ninguna de sus letras. El método clásico para hacerlo es un modelo de n-gramas. Cuenta, en un gran corpus de texto, con qué frecuencia aparece cada palabra después de la una o las dos anteriores y sugiere las continuaciones más frecuentes.
SwiftKey basó su primer teclado en la tecnología de n-gramas. Cuando lanzó una versión neuronal en 2015, TechCrunch informó sobre la descripción que la propia empresa hizo de la limitación del método anterior: no podía entender el significado subyacente de las palabras. Un modelo de n-gramas sabe que a «see you» a menudo le sigue «soon». No sabe que «soon» y «shortly» significan casi lo mismo, y solo tiene en cuenta un par de palabras anteriores.
Tercera generación: redes neuronales que aprenden similitudes
Un modelo neuronal de lenguaje representa las palabras como puntos en un espacio, donde las palabras similares están cerca unas de otras. Así puede hacer una conjetura razonable después de una combinación de palabras que nunca había contabilizado. Neural Alpha de SwiftKey, lanzado en octubre de 2015, fue su primer teclado creado con este método.
Google describió el siguiente paso para Gboard en un artículo de 2018: «Aprendizaje federado para la predicción con teclados móviles». Su modelo de la palabra siguiente era una red neuronal recurrente entrenada en teléfonos y no en un servidor: los dispositivos mejoraban el modelo con datos locales de escritura y enviaban actualizaciones del modelo, no el texto. Un artículo técnico de Google indica que tenía unos 1.4 millones de parámetros, una cifra diminuta para los estándares actuales. En 2023, Google informó de que todos los modelos neuronales de predicción de la palabra siguiente de Gboard ya ofrecen garantías de privacidad diferencial.
Cuarta generación: transformadores y frases completas
La arquitectura de transformadores, presentada en el artículo de 2017 «La atención es todo lo que necesitas», permite que un modelo valore todas las palabras anteriores del contexto, y no solo las últimas. Eso es lo que hace prácticas las sugerencias de frases: el modelo puede tener en cuenta el tema y el tono de toda la frase.
Apple incorporó esta tecnología a la escritura en iPhone con iOS 17. Su anuncio de 2023 describía una función de autocorrección basada en «un modelo de lenguaje de transformadores, un modelo de aprendizaje automático de lenguaje en el dispositivo de última generación para predecir palabras». También añadió predicciones en línea que completan palabras o frases al pulsar la barra espaciadora.
Los modelos de lenguaje grandes funcionan de la misma manera, pero a una escala mucho mayor. Predicen el siguiente token —una palabra o parte de una palabra—, lo añaden y vuelven a predecir. Una sugerencia de frase consiste en unas cuantas repeticiones de ese ciclo, que se detiene pronto y se muestra como «texto fantasma» gris que puedes aceptar o ignorar. La guía sobre el texto fantasma explica cómo se ve en Windows.
| Generación | Qué tiene en cuenta | Qué ofrece | Fallo habitual |
|---|---|---|---|
| Desambiguación mediante diccionario (T9) | Las teclas pulsadas para una palabra | La palabra coincidente más frecuente | Una palabra equivocada para la misma secuencia de teclas |
| Estadísticas de n-gramas | La última palabra o las dos últimas | Palabras siguientes probables | Sugerencias genéricas que ignoran el tema |
| Red neuronal recurrente | La frase escrita hasta el momento, resumida | Palabras siguientes que encajan con el significado | Pierde el hilo en frases largas |
| Modelo de lenguaje de transformadores | Todo el contexto visible | Palabras, frases o el resto de la oración | Una frase fluida que no querías decir |
Qué sucede entre una pulsación y una sugerencia
Sea cual sea el modelo, el proceso sigue los mismos pasos:
- El teclado o la aplicación lee el contexto: recopila el texto que precede al cursor y, a veces, la aplicación que estás usando.
- El modelo asigna una probabilidad a las posibles palabras o frases siguientes.
- El software descarta las conjeturas con poca confianza y las sugerencias que no corresponden, como las de los campos de contraseña.
- Muestra entre una y tres de las mejores opciones: los teléfonos usan una barra de palabras y las herramientas de sugerencias de frases muestran texto fantasma en línea.
- Muchos sistemas luego se adaptan a las palabras y frases que aceptas y escribes con frecuencia.
El paso de filtrado importa más de lo que parece. Una herramienta que siempre muestra algo te acostumbra a ignorarla. Si la herramienta no muestra nada cuando no está segura, lees la sugerencia cuando sí la muestra.
Por qué las predicciones suelen ser erróneas
Una predicción no es más que una probabilidad. El modelo puede adivinar la forma de una respuesta cortés. No puede saber qué fecha estás a punto de prometer ni a qué persona te refieres. Las primeras palabras de un mensaje nuevo son las más difíciles de predecir porque casi no hay contexto. Las sugerencias mejoran a medida que avanza la frase.
La forma en que se presentan las sugerencias hace que las conjeturas erróneas sean tolerables. Si basta una tecla para aceptar y no hace falta pulsar nada para ignorar, una conjetura equivocada no cuesta nada: sigues escribiendo.
Dónde funciona el texto predictivo en un PC de Windows
Windows ofrece sugerencias de palabras para el teclado físico. La guía de configuración de Microsoft indica que se predicen palabras a partir de la ortografía mientras escribes. Las predicciones de texto de Word van más allá y sugieren palabras o frases. Microsoft las incluye entre las experiencias conectadas de Office que analizan tu contenido, con funciones básicas sin conexión solo en algunos casos.
Typeahead ejecuta un modelo de lenguaje compacto en tu propio PC y sugiere el resto de la frase en aplicaciones de Windows como Word, Outlook, Chrome y WhatsApp, incluso sin conexión. Puedes aceptar con Tab o la tecla de flecha derecha. El artículo sobre por qué basta con un modelo pequeño en el dispositivo explica por qué esta tarea no necesita un modelo del tamaño de los que se ejecutan en la nube.
Preguntas frecuentes
¿El texto predictivo es una forma de IA?
¿El texto predictivo aprende de lo que escribo?
¿Por qué Windows solo sugiere palabras sueltas?
¿Por qué suele ser mala la primera sugerencia de un mensaje?
Typeahead lleva la predicción a nivel de frase de un modelo local a las aplicaciones de escritorio Windows. Pruébalo con tus propios textos durante siete días.
Obtén Typeahead