← Lumbre

Tecnología y vida digital IA, verdad y derechos: deepfakes, sesgo, regulación y cuenta ambiental

Portada de IA, verdad y derechos: deepfakes, sesgo, regulación y cuenta ambiental

IA, verdad y derechos: deepfakes, sesgo, regulación y cuenta ambiental

✦ Tema 8 de 9, etapa Economía, verdad y tu plan · Tecnología y vida digital · 25 minutos que valen la pena

Roadwise Consulting

Firmado y verificado · Fernando Castro

Objetivo: Reconocer el efecto del video sintético sobre la confianza pública y el fenómeno de mentir hacia abajo, aplicar cuatro señales de verificación antes de compartir, entender el sesgo heredado en sistemas que deciden sobre personas, situar el Reglamento Europeo y la deuda latinoamericana, y dimensionar el consumo de energía y agua de la infraestructura.

25 min Tecnología y vida digital 15–99 años
Más
IA, verdad y derechos: deepfakes, sesgo, regulación y cuenta ambiental

Herramientas de la lección

◉ Entrar a La Matrix Sorpréndeme

Sobre este contenido

Ir a

Volver a Ruta de la IA en tu vida Cursos Explorar Mi cuenta Salir del modo estudio

Verdad, derechos y la cuenta ambiental

Los tres temas anteriores hablaban de lo que la máquina te ayuda a hacer; este trata de lo que te puede hacer a ti: perder la confianza en lo que ves, ser decidido por un modelo que no explica nada, y pagar una factura de luz y agua que nadie contó.

Un video falso dejó de ser un montaje torpe: ahora es barato, rápido y verosímil, y por primera vez la vista deja de ser testigo confiable en el debate público.

1. Ver con desconfianza

La desinformación eficaz no necesita convencerte: necesita que dudes de todo, incluido lo verdadero. Ese es el destino final del video generado, y se llama mentir hacia abajo.

Cuatro señales prácticas antes de compartir un material: fuente original identificable, fecha clara, un segundo medio que lo confirme y alguien con responsabilidad que firme la acusación.

Y hay un efecto secundario peor que la mentira: la defensa de «todo puede estar manipulado», que sirve tanto al que difunde como al que desmiente. Cuando nada es verificable, cualquiera puede llamar deepfake a una grabación que lo perjudica, y ese es el uso político más rentable del video generado.

Comparación de dos columnas entre compartir primero, cuando la mentira alcanza a miles antes de la aclaración, y verificar primero, que limita el daño y protege a quien aparece en el material.
En un ecosistema de mentira sintética, la responsabilidad no es solo producir verdad: es negarle distribución a la falsa.
¿Puedes distinguir un vídeo real de un deepfake?
El ejercicio de discriminación es entrenable: hazlo y anota tu acierto. Después recuerda la parte que el video no dice: cuando no estás seguro, no compartas, y eso no es censura sino higiene.

Llega a tu chat un video de un político diciendo algo grave, sin medio que lo publique. ¿Qué lectura es la más correcta?

La capacidad de afirmar «esto es falso» frente a una grabación incómoda se volvió un argumento político rentable.

2. Sesgo, derechos y decisiones que te caen encima

El sesgo no es un accidente del modelo: es herencia de sus datos y de sus etiquetas. Un sistema de crédito, de contratación o de vigilancia puede tratar peor a quien ya estaba en desventaja y llamar a eso objetividad.

Se vende la idea de que un modelo bien entrenado elimina el sesgo porque las matemáticas no tienen opiniones: esa línea contradice el origen del problema, que son los datos y las etiquetas humanas.

Hay derechos viejos con nombre nuevo: a quién pertenece la imagen de tu cara, tu voz y tu estilo, quién responde cuando un modelo decide mal sobre ti, y qué sabes de los datos que entrenaron a la máquina que te juzga.

El daño no es abstracto ni futuro: hay casos documentados de acoso con imágenes sintéticas, sobre todo contra mujeres y menores, y el costo de desmentir una imagen falsa lo paga la persona retratada, no quien la fabricó.

Flujo de cinco comprobaciones para detectar un video falso: buscar la fuente original, revisar bordes y dientes, oír la respiración, checar la fecha y preguntarse a quién beneficia.
El deepfake no necesita convencer a todos: le basta con que uno comparta y dos se enojen.
Cuatro daños ya ocurriendo en español: cada uno tiene un responsable posible.
Tipo de dañoCómo se veQuién debería responder
Decisión sesgadaUn crédito negado o un descarte de currículum por patrónLa organización que usó el sistema
Imagen sintéticaUn montaje sexual o político de alguien realQuien fabrica, quien difunde y la plataforma
Entrenamiento sin permisoTu obra o tu rostro en un modelo sin consentimientoQuién recolectó y quién comercializó
OpacidadUn puntaje que te afecta y nadie explicaQuién lo implementó y con qué autoridad
Sesgos de los algoritmos en salud y contratación
El material muestra que el sesgo viaja con los datos históricos: no hace falta que nadie programe discriminación, basta con entrenar sobre un pasado discriminatorio y llamarlo exactitud.

Clasifica según dónde empieza la defensa: en la norma o en tu propia rutina.

Arrastra cada ficha a su categoría (o tócala y luego toca la categoría). También puedes usar el teclado.

Una de estas cuatro afirmaciones es falsa. ¿Cuál?

Marca la línea o las líneas con error y pulsa Comprobar.

Una universidad empieza a usar un sistema que puntúa solicitudes de ingreso. Antes de leer qué muestran los casos documentados de sistemas de admisión automatizados, ¿qué crees que ocurre?

3. Regulación, propiedad y la cuenta de luz

La regulación existe y avanza despacio: el Reglamento Europeo de inteligencia artificial✦ clasifica los usos por riesgo, prohíbe algunos y obliga a documentar otros; en América Latina la conversación va años atrás, y por eso el criterio personal sigue siendo la primera línea.

La propiedad intelectual tiene dos heridas abiertas: lo que se usó para entrenar sin pedir permiso, y lo que no se puede registrar porque salió de una máquina. Los dos duelos son de gente que vive de sus manos o de sus ideas.

La cuenta ambiental se paga enredada con la tuya: los centros de datos consumen electricidad y agua de la red local, y en varias regiones eso ya se nota en el recibo y en el estiaje.

Conviene tener el número a la vista: cada consulta consume una fracción mínima de energía y agua, pero el agregado de miles de millones de consultas al día ya se mide en plantas, líneas de transmisión y pozos.

Rejilla de seis derechos en discusión con la IA: datos, imagen y voz, autoría creativa, consumo de energía y agua, consentimiento y autonomía del juicio frente a la personalización.
La conversación regulatoria de estos años gira alrededor de estas seis cosas: ninguna se defiende sola.
El AI Act europeo explicado en cinco minutos: qué regula la nueva ley de IA
Anota las tres categorías de riesgo y qué se prohíbe: es el mapa más completo que existe hoy, y sirve de referencia aunque no te aplique directo porque vivas en América Latina.

Ordena la cadena de un material sintético desde su fabricación hasta el daño.

    Coloca los elementos en orden y pulsa Comprobar.

    ¿Cuántas señales prácticas de verificación propone este tema antes de compartir un material?

    ¿Cuál de estos frentes te parece más desprotegido hoy en tu entorno: la verdad pública, los derechos sobre tus datos, o la cuenta ambiental?

    ¿Qué tan seguro estás de tu respuesta?

    4. Tu protocolo de ciudadano con máquinas al lado

    Regla de este tema: una evidencia generada no se comparte sin verificación, y una decisión que te afecta no se acepta sin un responsable con nombre y apellido.

    Contra la máquina que imita, la defensa es lenta y aburrida: hábitos de verificación, fuentes con reputación y la renuncia a compartir primero y comprobar después.

    Un protocolo personal vale más que una opinión sobre la tecnología: dos minutos para verificar antes de compartir, una carpeta con lo que firmaste y te respondieron, una pregunta obligada ante cualquier decisión que te afecte —quién decide esto y con qué autoridad— y un criterio de consumo eléctrico cuando la herramienta se vuelve costumbre y no necesidad.

    Protocolo de cinco pasos ante contenido que circula

    1. Detén el dedo

      Lo que te hace reaccionar fuerte es justamente lo que más conviene verificar.

    Paso 1 de 5

    Bitácora de verificación de dos semanas

    • Defensas personales
      • Verdad
        • Fuente original
        • Dos medios con reputación
      • Derechos
        • Pedir responsable
        • Guardar constancias
      • Datos
        • Mínimo necesario
        • Cero sensibles sin necesidad
      • Ambiente
        • Menos peticiones grandes
        • Reuso de lo ya hecho
      • Atención
        • Fuera de horarios frágiles
        • Una sola tarea a la vez

    Tarjetas del tema 8

    Mentir hacia abajo
    Vaciar de valor toda prueba para salvar una grabación incómoda.
    Sesgo heredado
    Aprender de un pasado discriminatorio y presentarlo como exactitud estadística.
    Cuatro señales
    Fuente original, fecha, segundo medio y responsable con nombre.
    Reglamento Europeo
    Clasificación por riesgo: prohibidos, de alto riesgo y con obligaciones de transparencia.
    Cuenta ambiental
    Electricidad y agua de la red local: el agregado ya se mide en plantas y pozos.

    Toca una tarjeta para ver la respuesta.

    Sopa de letras del tema 8

    Cinco palabras del vocabulario de verdad y derechos, en horizontal y en mayúsculas, sin acentos.

    Toca la primera letra y luego la última de cada palabra (en línea recta) para marcarla.

    Memoria del tema 8

    Empareja cada frente con su herramienta de defensa.

    «Verificar dos minutos cada vez que alguien comparte es una obsesión antisocial.» Responde pensando en cuál es el costo del error para la persona retratada.

    Un familiar se molesta porque le pides fuente antes de compartir una cadena. Contesta con el caso de una imagen sintética de una menor y con el tuyo propio.

    Tesis

    El costo de verificar es tuyo y de dos minutos; el costo de la mentira la paga alguien a quien la máquina fabricó la cara.

    Evidencia

    Compartir sin verificar no es participar: es poner el tráfico que la desinformación necesita.

    Razonamiento

    El estándar social es lo único que baja el rendimiento económico del contenido falso.

    Conclusión

    Contraargumento

    Tu respuesta al contraargumento

    Escribe una cadena que compartiste sin verificar en el último año y qué cambió por eso. Si no recuerdas ninguna, piensa en la última noticia que creíste sin abrirla.

    La verificación no es desconfianza: es higiene, y la higiene se entrena en lo pequeño.

    Tu texto se guarda sólo en este dispositivo.

    Una sociedad que no puede acordar qué es verdad no puede acordar nada más, ni siquiera cómo repartir la riqueza del tema anterior.

    — Puente entre el tema 7 y el 8

    Trazabilidad curricular del objeto

    Dónde vive este objeto dentro de la ruta del curso
    CampoValor
    CategoríaTecnología y vida digital
    CursoLa IA en tu vida (2026-2030)
    RutaRuta de la IA en tu vida
    EtapaEconomía, verdad y tu plan
    Área de conocimientoCivismo · verdad, derechos, regulación y ambiente
    TemaVerdad, derechos y la cuenta ambiental
    Objeto en la ruta8 de 9
    DificultadInicial
    ModalidadAutoestudio con video, diagrama propio y reactivos con evidencia
    Prerrequisitotemas 1, 2 y 5
    AutoríaRoadwise Consulting
    Las respuestas y tu progreso se guardan sólo en este dispositivo. Contenido firmado por su autoría mediante Lumbre.
    Más sobre esta lección

    ¿Necesitas ayuda?

    Vamos a atacar justo la parte que no te cuadra

    Explicaciones cortas, dibujos, ejemplos y práctica. Nada cuenta como nota.

    Conecta con

    Otra forma de comprenderlo

    ✦ Explorar el universo completo
    Explora temas relacionados

    Conceptos

    Comentarios

    Inicia sesión para comentar.

    Todavía no hay comentarios. Sé la primera persona en opinar.