IA generativa: la máquina que predice la siguiente palabra y con eso escribe, dibuja y programa

No piensa: predice, y le sale muy bien

Un modelo de lenguaje se entrenó con buena parte del texto público de internet✦ para hacer una sola cosa: dada una secuencia de palabras, adivinar cuál sigue. De esa tarea —aparentemente tonta— salen la traducción, el resumen, el código y la conversación. Y de ahí mismo salen sus errores más peligrosos: el mismo mecanismo que le permite escribir bonito le permite inventarse una sentencia de tribunal con citas falsas y acento perfecto. ¿Qué significa que una máquina te conteste como si entendiera? Piensa: ¿cuándo fue la última vez que alguien sonó convincente y estaba equivocado?

Mientras ves el video, ten presente esta pregunta: ¿por qué un sistema tan bueno redactando puede ser tan malo diciendo la verdad?

Lo importante

Un gran modelo de lenguaje es un sistema de probabilidad entrenado en dos golpes. Primero, lectura masiva: aprende a predecir el token siguiente hasta que, para hacerlo bien, se ve forzado a comprimir regularidades enormes del mundo —gramática, hechos frecuentes, estilos, estructuras de argumentos—. Segundo, alineación: se le entrena a responder preguntas en lugar de solo continuarlas, y a negarse a ciertas cosas. El resultado sorprende porque la predicción a largo plazo exige algo parecido al entendimiento funcional: quien acierta la continuación de un chiste, de un poema o de un programa, trae dentro un modelo de cómo van esas cosas.

Pero el mismo diseño explica sus fallas. El modelo no consulta una base de hechos: produce lo más probable, así que cuando no sabe, completa bonito —eso son las "alucinaciones", no mentiras intencionales sino texto verosímil sin anclaje—. No lleva cuenta de lo que hizo hace tres párrafos, es malo con conteos exactos y aritmética larga, hereda los sesgos de lo que leyó, y su comportamiento cambia con la forma de tu pregunta. De ahí la regla práctica que proponen los ingenieros: tratarlo como a un pasante brillante, muy bien informado y sin conciencia de lo que ignora — útil siempre, confiable nunca, y verificable en lo que importa.