Responsabilidad profesional con IA en medicina: estándar de cuidado, quién responde cuando el sistema influyó, línea de motivo y vacío legal

Responsabilidad profesional: quién responde cuando la máquina influyó en la decisión

Los temas anteriores enseñaron a leer un algoritmo y a usar uno en la documentación. Este pone la pregunta que aparece cuando algo sale mal, y que casi todo el gremio prefiere no formular: si la recomendación vino de un sistema, ¿de quién es la decisión? La respuesta es incómoda para quien espera que la herramienta traiga algún tipo de cobertura, y es muy clara en cualquier foro donde se haya discutido un caso.

Cuando una decisión clínica sale mal, la pregunta que hace un juzgado, un colegio profesional o un comité de mortalidad nunca es si la máquina tenía razón. Es qué hizo la persona que tenía la cédula puesta. Ese desplazamiento simple concentra todo el tema: la inteligencia artificial✦ cambia la información disponible antes de decidir, no cambia quién responde por la decisión.

1. Cómo se juzga una decisión clínica: el estándar, no la herramienta

La responsabilidad profesional se juzga contra un estándar de cuidado, no contra la herramienta. En la práctica se preguntan tres cosas en este orden: qué se sabía o se debía saber ese día, qué se hizo con eso y cómo quedó documentado. Un modelo que avisa eleva el primer punto: desde que existía el aviso, alegar desconocimiento cuesta más caro. Nadie ha encontrado la forma de que ese mismo aviso reduzca el segundo.

Vale la pena notar el efecto asimétrico. La herramienta mejora la primera columna del análisis —hay más información disponible antes de decidir— y simultáneamente empeora la posición de quien la ignoró. Un médico que no miró un aviso que su propio sistema le puso enfrente no está en la posición del médico que nunca tuvo el aviso: está en la posición del que tenía un dato y lo despreció. Ese es el cambio real, y no aparece en ninguna diapositiva del proveedor.

2. Los cuatro escenarios: quién responde en cada uno

Hay cuatro escenarios y en los cuatro termina respondiendo una persona. Si se siguió la sugerencia y el resultado fue malo, responde quien la aceptó sin verificarla. Si se desestimó y el resultado fue malo, responde quien la desestimó, salvo que pueda mostrar por qué era razonable desestimarla. Si el sistema nunca avisó, la ausencia de aviso no exime: el estándar de cuidado no lo fija el proveedor del software. Y si la herramienta falló, se cayó o mezcló datos de otro paciente, responde la institución que la eligió sin evaluarla y la supervisa sin medir. Circula la comodidad de que el médico queda eximido de responsabilidad cuando el software está certificado y se siguió su recomendación; ninguna jurisprudencia relevante lo ha aceptado: la certificación del instrumento no califica la conducta de quien lo usó.

Lo que separa los cuatro escenarios no es el resultado: es la calidad del registro. Dos médicos pueden tomar la misma decisión equivocada y tener posiciones opuestas ante un reclamo, porque uno puede reconstruir qué consideró y el otro no. La diferencia cuesta veinte segundos en el momento y se paga en años cuando aparece el conflicto.

El recorrido es siempre el mismo: el sistema advierte, alguien interpreta, alguien decide, alguien documenta y alguien responde, y ninguna de sus etapas permite que la responsabilidad pase a la máquina. Lo que cambia es la evidencia con la que se decide, no quién responde por el resultado.

3. La parte institucional: elegir también es decidir

La parte institucional pesa más de lo que se admite. Elegir un algoritmo, definir en qué servicios se activa, fijar quién lo supervisa, decidir qué tasa de error se le acepta y establecer qué se hace cuando falla no son decisiones de compra: son decisiones asistenciales con consecuencias clínicas. Un director que firma una licencia sin expediente de evaluación está tomando una decisión médica sin estar en la camilla, y esa exposición no se cubre con el contrato del proveedor.

Hay tres documentos que una unidad debería poder mostrar y que casi ninguna tiene. Uno: el expediente de evaluación con el que se eligió la herramienta —en qué población se validó, con qué sensibilidad y especificidad, con qué datos propios se probó antes de activarla. Dos: el protocolo de uso, que dice qué se delega, qué se revisa siempre y quién responde cuando el sistema falla. Tres: el registro de incidencias, donde se anotan los avisos falsos, las caídas y los datos cruzados, porque sin registro no hay forma de saber si el rendimiento del producto es el que se prometió.

4. El paciente, la explicación y el vacío legal

El paciente tiene derechos que la herramienta no resuelve solo. Uno es saber que una máquina participó en su atención, en qué parte y con qué alcance; otro es no ser evaluado por un modelo sin que exista una persona responsable identificable; y un tercero, viejo y más incómodo, es pedir una explicación en lenguaje humano de por qué se decide lo que se decide. Cuando el sistema no puede explicar su recomendación, la explicación la debe dar el médico con otro material: eso es información clínicamente honesta o es una promesa que no se puede cumplir.

El punto se vuelve más duro cuando la explicación depende de la interpretabilidad. Un modelo de riesgo puede decir que este paciente tiene probabilidad alta de sepsis y no poder decir por qué. En ese caso la explicación honesta no es el razonamiento del modelo: es la traducción que hace el médico con signos, síntomas y contexto. Decir que la máquina lo explicó sería mentirle al paciente con elegancia.

Conviene decir la incertidumbre sin adorno: el marco legal va atrás. En la mayoría de los países de habla hispana no hay una regla explícita sobre qué pasa cuando un modelo interviene en una decisión clínica, no hay criterio consolidado sobre cómo se prueba el nexo causal cuando la recomendación vino de un sistema de caja negra, y la certificación sanitaria de un software no equivale a una validación de su desempeño en la población donde se usa. Eso no significa ausencia de consecuencias: significa que las primeras sentencias van a usar las reglas viejas, y las reglas viejas juzgan a la persona que firmó.

La única defensa que existe después de un mal resultado es el razonamiento que quedó escrito. No hace falta un informe: alcanza una línea de motivo. Qué dato del paciente pesó, qué se descartó y por qué, si se aceptó o se corrigió el aviso del sistema, y con qué consentimiento se asumió el riesgo. Esa línea no protege de la mala praxis; protege de algo más frecuente: que una decisión razonable tomada con información incompleta quede indistinguible, meses después, de una decisión descuidada.

El problema operativo que nadie presupuesta se llama fatiga de aviso. En un servicio con 18 alertas por turno, el médico que logra revisar a fondo 2 deja 16 alertas sin mirar, y esas 16 siguen siendo su responsabilidad clínica igual que las dos que sí revisó. Por eso el número de alertas por turno es un dato de diseño del sistema, no un detalle de pantalla: si supera lo que una persona puede procesar, el sistema está produciendo exposición en lugar de producir seguridad.

Regla de este tema: la responsabilidad no se comparte con el software, se ejerce con él. Se escribe una línea de motivo cada vez que se acepta o se rechaza un aviso, se define por escrito qué alertas se revisan y cuáles se desestiman sin más, la institución conserva el expediente de evaluación de la herramienta, y al paciente se le dice que una máquina participó y qué se hizo con su resultado.