Cómo reducir las alucinaciones de un LLM en campos especializados

01/10/2026

En una prueba interna le preguntamos a un modelo por una norma muy específica, de esas que tienen número de artículo y año de publicación. Respondió con fluidez, citó el número del artículo e indicó incluso el año. Todo sonaba razonable. Solo que ese artículo no existe. Esto no es raro y, para quien no conoce el tema, casi imposible de distinguir. Es la alucinación de un LLM (hallucination): el modelo genera contenido fluido y seguro de sí mismo, pero erróneo o sin sustento.

Por qué el modelo inventa

Hay que entender el mecanismo para no esperar lo que no corresponde. Un LLM se entrena para adivinar la siguiente palabra más plausible, no para consultar hechos. Cuando se le pregunta algo que domina, la conjetura plausible suele coincidir con lo correcto. Cuando se le pregunta algo poco común, reciente o muy especializado, igual adivina, y esa conjetura suena exactamente como un hecho. En ningún momento el modelo «sabe» que está inventando. Tampoco tiene un mecanismo incorporado para detenerse y decir «no estoy seguro», a menos que se le entrene ese comportamiento.

En los campos especializados la situación empeora por tres razones. Los datos especializados son escasos en el corpus de entrenamiento general. Una sola palabra equivocada puede cambiar el sentido, como el nombre de un medicamento parecido a otro, una unidad de medida o un «no» omitido. Y quien lee suele confiar porque el texto se ve profesional. En vietnamita se suma otra capa: la terminología especializada tiene con frecuencia varios nombres, los medicamentos tienen tanto nombre genérico como comercial, y los documentos fuente a veces están escaneados con mala calidad.

No hay una solución mágica, solo varias capas de defensa

Siendo honestos, nadie ha logrado eliminar por completo las alucinaciones. Lo que sí se puede es reducir su frecuencia, hacer que los errores sean más fáciles de detectar y diseñar el sistema para que una frase inventada no llegue directo a una consecuencia. Estas son las capas que usamos.

Darle al modelo documentos en los que apoyarse

RAG (recuperar y luego generar) es la capa con el efecto más claro. En lugar de dejar que el modelo recuerde, se busca el fragmento de documento relevante y se le pide responder solo con base en él. Esto reduce de forma notable las invenciones con conocimiento privado y que cambia seguido. Pero RAG no es magia: si la búsqueda trae el fragmento equivocado, el modelo responderá con seguridad apoyándose en un fragmento erróneo. La calidad de la segmentación, la indexación y el ordenamiento de resultados influye más de lo que se cree. Hay que medir la búsqueda por separado de la generación.

Exigir citar la fuente

Se pide que cada afirmación vaya acompañada del fragmento citado y su ubicación en el documento. El usuario puede hacer clic para verificar. Y del lado del sistema, se puede comprobar de forma automática si el fragmento citado realmente existe en el documento y si respalda la afirmación. Una respuesta que no puede citar su fuente debe marcarse o bloquearse.

Enseñar al modelo a decir «no sé»

Aquí el fine-tuning de LLM aporta valor real. El fine-tuning no sirve para enseñar muchos hechos nuevos, pero sí para enseñar comportamiento: cuando el documento no tiene la información, negarse con cortesía; cuando la pregunta queda fuera del alcance, canalizarla a una persona; cuando la premisa de la pregunta parece falsa, pedir una aclaración. Para lograrlo, el conjunto de datos debe incluir suficientes ejemplos de situaciones de rechazo; si no, el modelo adquiere el hábito de responder siempre. Ojo con el equilibrio: enseñar a negarse en exceso hace que el modelo esquive incluso preguntas que sí podría responder. Hay que medir en ambos sentidos.

Limitar el alcance y la salida

Un modelo con una función acotada inventa menos que uno al que se le pide hacer de todo. Limiten los temas, usen salidas estructuradas (llenar campos en lugar de escribir libremente) y una temperatura de generación baja para tareas que requieren exactitud. Para datos numéricos como dosis, precios o fechas, conviene tomarlos directamente de una base de datos estructurada e insertarlos, en vez de dejar que el modelo «escriba» las cifras por sí mismo.

Verificar después de generar

Un paso de verificación independiente puede contrastar la respuesta con la fuente, detectar nombres de medicamentos o términos que no estén en el diccionario especializado, o marcar las frases con cifras que requieren que una persona las revise. No es perfecto, pero detectar parte de los errores así sale mucho más barato que dejar que los encuentre el usuario.

Las personas siguen en el circuito

En decisiones con consecuencias, una persona con la formación adecuada debe revisar antes de actuar. Diseñen la interfaz para que esa revisión sea fácil: mostrar la fuente junto a la respuesta, resaltar lo que el modelo no tiene claro, permitir corregir rápido y registrar las correcciones para convertirlas en datos de la siguiente ronda de mejora.

Salud y farmacia: los límites deben ser claros

AIVISION realiza entrenamiento y fine-tuning de LLM para campos específicos como salud y farmacia. Ahí fijamos límites claros: el modelo es una herramienta de apoyo para información y tareas administrativas, como resumir documentos, consultar información con fuente y redactar borradores. No diagnostica, no receta, no recomienda dosis. La decisión final corresponde a la persona con formación médica. Diseñar el sistema así no es solo una cuestión legal o ética; es también la forma más realista de aceptar que las alucinaciones todavía no se pueden eliminar por completo.

Lo que se mide se puede reducir

No se puede reducir lo que no se mide. Armen un conjunto de preguntas específico para alucinaciones: preguntas con respuesta en el documento, preguntas sin respuesta, preguntas con premisa falsa, preguntas sobre entidades que no existen. Midan la tasa de invención antes y después de cada cambio, y lean a mano los casos fallidos. Una puntuación general alta dice poco al respecto, como comentamos en el artículo sobre la evaluación de un LLM en vietnamita.

Entrenamos en un clúster de 24 GPU NVIDIA H200 y 8 GPU NVIDIA B300 y hemos lanzado el modelo LLM L1.0 para vietnamita, pero la potencia de cómputo no genera confiabilidad por sí sola. La confiabilidad viene de datos limpios, de un diseño de sistema con varias capas y del hábito de dudar de la propia salida. Para conocer más sobre cómo AIVISION aborda estos problemas, pueden visitar la página principal.