Grounding y citas
El problema de la alucinación
Un modelo generativo produce texto plausible aunque no corresponda con ningún hecho. Sin anclaje, rellena huecos con invenciones convincentes. El grounding combate eso.
Restringir al contexto
- Se instruye al modelo a usar solo los fragmentos recuperados.
- Si la respuesta no está en el contexto, debe decirlo.
- La consigna reduce el impulso de inventar.
Citar fragmentos de origen
Cada afirmación se acompaña de la referencia al trozo o documento del que procede. El usuario puede abrir la fuente y verificar. Es la trazabilidad del RAG.
Grounding estricto frente a suave
El estricto prohíbe todo conocimiento fuera del contexto; el suave permite razonar con él pero anclando las afirmaciones fácticas. El grado depende de la tarea.
Verificabilidad de las citas
Una cita debe apuntar a un pasaje que de verdad respalde la frase. Citas decorativas que no sostienen la afirmación son peores que ninguna, porque dan falsa confianza.
Evaluar el grounding
- Métrica de fidelidad: ¿la afirmación se sigue de la fuente?
- Métrica de cita: ¿cada frase importante tiene respaldo?
- Métrica de cobertura: ¿se usó toda la evidencia relevante?
Rechazar a tiempo
Si el contexto no contiene la respuesta, el sistema debe declararse incapaz antes que fabricar. Saber callar es parte de responder bien.
Reducir la superficie alucinada
Formular respuestas cortas y enlazadas deja menos espacio para inventar. Parafrasear de más abre huecos que el modelo rellena con relleno plausible.
Prompt y formato de cita
Pedir explícitamente citas en un formato fijo y con marcadores ayuda al modelo a estructurar la respuesta y facilita comprobarlas después.
Riesgo de sesgo de recuperación
El grounding solo es tan bueno como lo recuperado. Si la búsqueda trajo fuentes erróneas o parciales, se citará con convicción algo equivocado.
Auditoría y confianza
Para dominios sensibles —legal, médico— la cita verificable no es un lujo: es requisito. La trazabilidad convierte la salida en algo auditable por humanos.
Errores frecuentes
- Citas decorativas: pegar una referencia al final sin que sostenga ninguna afirmación concreta.
- Permitir que el modelo mezcle conocimiento paramétrico y contexto recuperado sin distinguirlos: la cita parece verificada pero no lo está.
- Fiarse de la cita sin abrir el pasaje: en dominios sensibles la verificación humana sigue siendo la última línea.
- Sin evidencia, forzar una respuesta en vez de declarar que el contexto no la contiene.
Ejemplo resuelto: responder dudas legales con citas verificables
Un asistente jurídico interno debe poder señalar el artículo exacto que respalda cada frase de su consejo.
- Recuperas los artículos relevantes del corpus legal con la consulta del empleado.
- Instruyes al modelo: solo afirma lo que esté en los fragmentos, y si falta evidencia, dilo.
- Pides el formato de cita fijo: cada frase termina con el identificador del fragmento de origen.
- Verificas automáticamente que cada cita apunta a un pasaje que contiene la afirmación.
- En auditoría, un jurista revisa muestras diarias de citas: las decorativas delatan el fallo.
¿Para qué sirve en la realidad?
Motores de respuestas corporativas, asistentes médicos y legales y periodismo asistido por IA exigen cita verificable por regulación y por confianza: el grounding es lo que separa un oráculo de una herramienta auditable.
El «grounding» en un sistema RAG consiste en:
Un sistema con grounding perfecto nunca necesita declarar que no conoce la respuesta.
Grounding
Toca una tarjeta para ver la respuesta.
Ordena cómo un RAG produce una respuesta con grounding:
Arrastra cada ficha a su categoría (o tócala y luego toca la categoría). También puedes usar el teclado.
FuenteLa noción periodística de respaldar cada afirmación con su origen.
Une cada noción de grounding con su definición.
Responde citando, no creando
- Grounding y citas
- Anclar
- solo contexto recuperado
- solo contexto recuperado
- rechazar sin evidencia
- Anclar
- formato fijo
- fidelidad
- citas decorativas
Citar fuentesLa guía de referencia sobre qué hace que una cita respalde de verdad la afirmación.
Tu RAG responde con seguridad pero cita un pasaje que no respalda la afirmación. ¿Es un fallo de recuperación o de generación? Razona dónde mirar primero.
Tu texto se guarda sólo en este dispositivo.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.