Marco legal y normativo de la IA
Por qué regular la IA
- Los daños potenciales son masivos y silenciosos.
- Hay asimetría entre quien diseña y quien se ve afectado.
- Se buscan garantías mínimas y responsabilidad.
Protección de datos personales
Reglamentos como el GDPR fijan principios: licitud, minimización, finalidad, derechos de acceso y supresión, y obligaciones para quien trata datos personales.
Enfoque basado en riesgo
Muchos marcos graduan las exigencias por el riesgo de cada uso. Prácticas de riesgo inaceptable se prohíben; las de alto riesgo piden controles estrictos.
Sistemas de alto riesgo
- Empleo, crédito, sanidad, justicia o infraestructuras críticas.
- Exigen evaluación de conformidad, datos de calidad y supervisión humana.
- Documentación técnica y registros obligatorios.
Transparencia e información
Se debe avisar cuando se interactúa con una IA o cuando existen decisiones automatizadas relevantes, con información significativa sobre la lógica empleada.
Derecho a no ser solo automatizado
- En decisiones con efectos graves, poder pedir intervención humana.
- Explicación de la decisión automatizada.
- Posibilidad de impugnarla.
Responsabilidad (accountability)
El que diseña o despliega debe poder demostrar cumplimiento: evaluar riesgos, guardar evidencia y responder por los daños.
Supervisión humana
En contextos sensibles se exige que una persona con autoridad y formación valide o pueda revertir la decisión del sistema, no un sello decorativo.
Variabilidad por jurisdicción
- Las normas difieren entre regiones y evoluciona rápido.
- Un sistema global debe adaptarse a varias.
- El cumplimiento es móvil, no un trámite único.
Más allá de la ley mínima
Cumplir la norma es el suelo, no el techo. La ética buena va más lejos de lo legalmente obligatorio, con revisiones internas y principios propios.
Consecuencias del incumplimiento
Multas cuantiosas, retirada de productos y pérdida de reputación. La gobernanza legal es también una cuestión de continuidad del negocio.
Errores frecuentes
- Tratar el cumplimiento como un trámite único cuando las normas evolucionan y difieren.
- Etiquetar de bajo riesgo un sistema que afecta a empleo, crédito o justicia.
- Confiar en una supervisión humana decorativa sin autoridad real para revertir.
Ejemplo resuelto: un cribado de currículums antes de lanzar
Antes de desplegar un sistema de selección de personal, el equipo lo clasifica como de alto riesgo por su impacto en empleo. Prepara entonces un expediente técnico, evalúa la calidad y sesgo de los datos, diseña la supervisión humana con autoridad y registra la evaluación de conformidad antes de liberarlo.
- clasificar el sistema según su categoría de riesgo
- verificar los controles exigidos para ese nivel
- documentar datos, lógica y pruebas realizadas
- garantizar la intervención humana con autoridad
- informar al usuario de que interactúa con una IA
¿Para qué sirve en la realidad?
Científicos e ingenieros de datos deben conocer la normativa que rige sus sistemas: define qué usos son admisibles, con qué transparencia y bajo qué derechos de las personas afectadas, y su incumplimiento trae multas y retirada de productos.
Un marco de IA «basado en riesgo» se caracteriza porque:
En muchos marcos, las decisiones automatizadas con efectos graves sobre una persona admiten exigir intervención humana.
Marco legal
Toca una tarjeta para ver la respuesta.
Ordena la evaluación de un sistema de IA ante la normativa de riesgo:
Arrastra cada ficha a su categoría (o tócala y luego toca la categoría). También puedes usar el teclado.
Regulación de la IAMarcos jurídicos que rigen el desarrollo y uso de la IA.
Une cada noción normativa con su definición:
Marco legal
- Marco legal de la IA
- Por qué
- daños masivos
- daños masivos
- asimetría
- Por qué
- garantías mínimas
- protección de datos
- no solo automatización
- accountability
Ley de inteligencia artificial✦ de la UEReglamento europeo que gradúa las obligaciones de los sistemas de IA por riesgo.
Vas a desplegar un sistema de cribado de currículums. ¿Por qué categoría de riesgo lo clasificarías y qué tres controles prepararías antes de lanzarlo?
Tu texto se guarda sólo en este dispositivo.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.