¿Por qué la IA te dice mentiras con toda la calma del mundo?

Un estudiante estadounidense usó un chatbot para su tarea de Derecho y presentó tres casos falsos, inventados por la IA, ante una jueza de verdad. Cuando le pidieron explicar, no supo: él tampoco había leído los casos, que sonaban tan reales que ni su abogado notó el fraude.

A esto se le llama "alucinación", pero el nombre sugiere que la IA tiene un "mundo" y a veces sueña. La explicación real es menos misteriosa y más inquietante: la IA no sabe qué es verdad.

Un chatbot aprende con un principio brutalmente simple: dados los textos anteriores, predice qué sigue. Se entrena con miles de millones de páginas, y adentro no hay fichas de "esto ocurrió" ni "esto no ocurrió": hay probabilidades de qué palabras van juntas. "El caso García vs. López, 2019, 45 Fed. Appx." suena plausible, y plausible es lo que el modelo produce.

Los expertos lo resumen así: estos modelos están optimizados para sonar correctos, no para ser correctos. El mecanismo de "verdad" que usamos los humanos —observar, verificar, recordar fuentes— no existe ahí dentro. Cuando la IA dice "según un estudio de la Universidad de Stanford en 2012…", no está consultando: está completando.

¿Qué hacer, entonces? Tratar a la IA como a un compañero brillantísimo pero sin manos: te genera ideas, borradores, esquemas, opciones… pero todo dato verificable hay que verificarlo. Pedirle "dame tres formas en que podría estar equivocado" es más útil que preguntarle "¿está bien?", porque la respuesta a "¿está bien?" la da el mismo modelo que escribió el error.

Y aquí una paradoja que vale la pena recordar: nunca antes una herramienta tan gente había mentido con tanta seguridad y tan poca intención. Las mentiras humanas suelen esconderse. Esta no esconder nada: simplemente no distingue. Esa distinción, por ahora, te toca a ti.