flaibo
Glosario

Hallucination

Cuando un modelo de IA afirma algo falso con el mismo tono confiado y fluido que usa para algo verdadero: no es un fallo, sino el modelo haciendo exactamente lo que hace por defecto, sin un hecho real que respalde esa afirmación en particular.

No se requiere tarjeta

Qué significa en la práctica

A un asistente de IA al que se le pide citar una fuente para una afirmación, a veces produce una cita que parece completamente legítima (un autor, un título y un año de publicación que suenan reales) que simplemente no existe en ningún sitio. No está mintiendo en el sentido humano, y tampoco es un error de software; está generando la continuación estadísticamente más plausible del texto que se le pidió producir, y una cita fabricada puede sonar tan fluida y segura como una genuina.

Ejemplo

Pídele a un asistente de propósito general el número exacto de una cláusula en un contrato específico que en realidad nunca ha visto, y puede que responda "Sección 4.2" con total confianza: un número que suena plausible pero sin ningún documento real detrás. Haz la misma pregunta con el contrato real proporcionado como contexto, o recuperado para el modelo, y la respuesta viene del texto real o el modelo dice que no puede encontrarla. La diferencia está en si hay una base real detrás del tono confiado, no en si el tono en sí suena seguro.

No confundir con

vs. A factual error / a bug

Un error factual implica que el sistema tenía un hecho real y lo entendió mal; un error de software implica código roto en algún lugar. Una alucinación no es ninguna de esas dos cosas: es el modelo funcionando exactamente como fue diseñado, prediciendo las palabras siguientes más plausibles, sin ninguna fuente real detrás de esa afirmación específica. Por eso más entrenamiento o un parche de software no lo solucionan de forma fiable por sí solos; la solución real es darle al modelo un contexto real y actual en el que basar su respuesta, en lugar de simplemente esperar que la próxima vez recuerde correctamente por casualidad.

Frequently asked questions

¿Quieres tu contexto en un solo lugar?

Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.

Empieza gratis

Tu contexto en todas partes