Deshonestidad, datos y sesgo: debido proceso, protección de menores y evaluación auditable con modelos

Deshonestidad, datos y sesgo: los tres problemas que llegan juntos

Cuando una escuela adopta modelos sin reglas, los primeros daños no aparecen donde se prometieron los beneficios: aparecen en un alumno sancionado por escribir demasiado bien, en treinta ensayos que ya viven en el servidor de una empresa, y en una nota que nadie puede explicar. Este tema toma esos tres daños en serio y por separado.

Hay tres problemas distintos que se suelen mezclar bajo la palabra riesgo: que un alumno engañe a la escuela, que una herramienta trate mal los datos de ese alumno y que un modelo evaluador premie sistemáticamente a unos sobre otros. Cada uno tiene dueño, mecanismo y remedio distintos, y confundirlos produce políticas que castigan al equivocado.

1. Lo que cambió en la deshonestidad académica

Lo que cambió no es la honestidad del alumno sino el costo de producir un trabajo aparente: cuando entregar algo que parece trabajado deja de costar esfuerzo, la deshonestidad migra de copiar palabras a delegar el pensamiento, y esa migración no se ve con un detector.

Conviene nombrar el error de diagnóstico más común: asumir que todo el mundo quería copiar y que antes no podía. Antes se copiaba de un compañero, de un libro del salón o de una página mal traducida, y una parte de esos trabajos se detectaba porque el estilo cambiaba de golpe. Hoy el umbral entre "me ayudé" y "lo encargué" se volvió borroso, y una regla que no lo define se aplica por humor del evaluador.

Declarar el uso de una herramienta no es una concesión moral: es la misma regla que obliga a citar un libro, y solo funciona cuando la escuela dijo antes, con precisión, qué se puede delegar en cada tarea y qué no.

2. Debido proceso: qué se puede sostener ante un reclamo

Un señalamiento académico necesita las tres cosas que un marcador no da: una imputación concreta sobre hechos, una oportunidad real de explicar y una sanción prevista en una regla que el alumno conoció antes de entregar.

Ningún detector de texto generado distingue hoy entre un alumno que usó la máquina para escribir y uno que la usó para revisar ortografía, y los falsos positivos caen de manera desproporcionada sobre quienes escriben en un segundo idioma o con estilos muy esquemáticos.

3. Datos de alumnos: el costo de una herramienta sin contrato

Los trabajos de los alumnos son datos personales y los de menores son además datos de un grupo que no pudo negarse: al subirlos a una herramienta gratuita se cambia la confidencialidad del aula por los términos de servicio de una empresa que no conoce la escuela.

La pregunta que conviene hacer antes de subir cualquier cosa no es "¿esta app es segura?" sino "¿dónde queda este archivo y quién puede leerlo mañana?". Un ensayo con nombre, grupo y fecha es información de un menor; un curso completo de ensayos es el perfil académico de una generación escolar. Y la regla mínima que vale la pena escribir en una hoja es esta: ningún archivo de un alumno sube a una herramienta sin contrato que declare finalidad, plazo de borrado y responsable.

Conviene ponerle tamaño al asunto antes de discutirlo: seis grupos de 28 alumnos con tres trabajos por alumno en un semestre, 6 por 28 por 3 son 504 archivos con nombre y curso que pueden salir de la escuela en una tarde de flojera.

4. Sesgo y opacidad: el riesgo que no se ve venir

El sesgo no entra a la escuela como un discurso de odio: entra como una calificación apenas más baja a los textos con giros dialectales, como una alerta de rezago que se dispara primero en los grupos con menos recursos y como un dato histórico inventado que suena razonable.

Hay una manera fácil de comprobarlo en casa: tomar dos textos con las mismas ideas, uno en registro estándar y uno con giros regionales o con frases cortas y secas, y pedir al modelo que los puntúe con la misma rúbrica. La diferencia de puntaje, cuando aparece, no viene del contenido: viene de qué tan parecido se ve el texto al material con el que se entrenó.

El problema práctico de evaluar con un modelo no es que se equivoque sino que no se pueda averiguar por qué: si nadie puede explicar el criterio con el que un trabajo recibió cierta clasificación, la calificación deja de ser auditable y el alumno deja de poder reclamar.

5. De la virtud personal a la política del centro de trabajo

Un docente que resuelve esto solo no puede negociar una licencia, no puede cambiar un reglamento y no puede sostener solo una sanción: la protección del alumno es una política de centro de trabajo, no una virtud personal.