El algoritmo que decide lo que ves: cómo funcionan las redes sociales

El algoritmo no te conoce: te predice

Cuando abres una red social no hay un editor eligiendo qué enseñarte: hay un sistema que, en fracciones de segundo, calcula qué probabilidad hay de que te quedes viendo cada pieza de contenido, y arma la pila con las de mayor probabilidad. Ese cálculo —el algoritmo de recomendación— es una de las tecnologías más determinantes de tu vida: decide qué música escuchas, qué noticias te indignan, a qué vendedor sigues y qué opinión te parecerá mayoritaria esta semana. Y no está diseñado para ti: está diseñado para que no te vayas. Piensa: ¿cuántas de tus preferencias de este año son tuyas y cuántas fueron sugeridas por una interfaz que se llama a sí misma para ti?

Mientras ves el video, ten presente esta pregunta: ¿qué le pasa a tu criterio personal cuando una máquina decide qué es lo que se comenta?

Lo importante

Un algoritmo de recomendación puede explicarse sin fórmulas: es una máquina de completar patrones. La ruta más simple es el filtrado colaborativo —a la gente que hizo lo que tú hiciste le terminó gustando esto, así que te lo mostramos—; la ruta complementaria mira el contenido: metadatos, texto, audio y etiquetas de clasificadores automáticos. Esas rutas se combinan en sistemas entrenados para predecir conductas concretas: clic, vista completa del video, compartir, seguir a esa cuenta —y todo ello con un presupuesto de cómputo que obliga a un embudo: primero se eligen cientos de candidatos entre miles de millones, después se rankean con modelos finos, al final se filtra lo que ya viste y se ordena. Aquí entra la decisión de diseño que lo cambia todo: para rankear hay que sumar una métrica, y la métrica que casi siempre ganó es el engagement, porque es lo único que se puede optimizar en tiempo real y porque coincide con el modelo de negocio: atención vendida como publicidad. Nadie programa la polarización; se llega a ella por geometría del premio: si lo extremo retiene más que lo tibio, el orden de la lista favorece sistemáticamente a lo extremo, un resultado que los estudios de las plataformas documentaron y que los testimonios de 2021 sobre Facebook hicieron públicos —con el llamado a moderar la amplificación, no solo el contenido—. La burbuja de filtros es la consecuencia previsible: dos personas abren la misma app y viven en países informativos distintos.

La parte que casi nadie discute es que el problema no es técnico, es de incentivos, y que por eso las soluciones tampoco son puramente técnicas. Un recomendador puede optimizarse para satisfacción declarada —lo que la gente dice que le sirvió—, para descubrimiento de calidad —mostrar cosas buenas que no habrías encontrado— o para atención, y las tres métricas producen plataformas distintas con la misma tecnología: el diseño del feed es una decisión política, no una limitación del hardware. Y el costo del error no es simétrico: a la plataforma le cuesta poco mostrarte un video aburrido de más y mucho que cierres la sesión, así que el umbral de riesgo queda corrido hacia tu lado. Ahí aparecen las defensas individuales, que funcionan aunque nadie las publique como tips: diversificar deliberadamente tus fuentes, buscar contenido activo en lugar de esperar el pasivo, seguir cuentas que te contradicen con argumentos, desactivar reproducción automática, usar búsquedas y listas en lugar de feeds, limpiar de vez en cuando el historial con el que te perfilan, y sobre todo notar tus estados: si una app te dejó enojado, comparando o sin ganas de trabajar, eso es dato —suyas métricas, tu humor— que conviene registrar. La alfabetización digital del futuro no será saber usar programas, será entender qué te están midiendo para poder decidir si vale la pena regalarlo.