Pedir a un chatbot que «no invente» no es un control suficiente. La respuesta depende de qué información puede consultar, cómo se valida y qué hace cuando ninguna fuente respalda una conclusión.

Reducir invenciones requiere un sistema que prefiera detenerse, preguntar o escalar antes que completar el hueco con lenguaje convincente.

Lectura rápida

Ideas clave

  • Limita las respuestas a fuentes aprobadas y datos actuales.
  • Obliga a diferenciar hecho, inferencia y ausencia de información.
  • Valida campos sensibles fuera de la generación libre.
  • Revisa muestras y casos fallidos de forma continua.

Reducir el espacio de respuesta

La base de conocimiento debe contener información vigente, con alcance por actividad. Para disponibilidad y precio, el sistema consulta la fuente de reservas en lugar de redactar desde memoria.

Si no encuentra evidencia suficiente, la respuesta cambia de objetivo: pedir un dato o avisar al equipo. Esa ruta debe estar diseñada, no improvisada.

Separar datos de redacción

Fechas, cantidades, precios, identificadores y estados se validan como datos antes de componer el mensaje. La IA puede explicar el resultado, pero no modificar el valor para que la frase suene mejor.

Las políticas también pueden llevar condiciones explícitas. Esto reduce la posibilidad de que una excepción se presente como regla general.

No confundir confianza del modelo con certeza del negocio

Una puntuación técnica puede ayudar a decidir un recorrido, pero no garantiza que el contenido sea verdadero. La certeza proviene del origen y de las validaciones aplicadas.

Utiliza umbrales conservadores para acciones y trata las respuestas desconocidas como información útil sobre huecos de conocimiento.

Crear un conjunto de pruebas vivo

Reúne preguntas reales, variaciones por idioma y casos que no deben responderse. Conserva el resultado esperado y repite las pruebas cuando cambia un modelo, contenido o integración.

Añade cada incidente relevante al conjunto. La evaluación mejora cuando refleja la operación y no solo ejemplos preparados para una demostración.