flaibo
Glosario

Non-determinism (Output Variability)

Una propiedad integrada de los modelos de IA por la cual el mismo prompt puede producir una respuesta redactada de forma distinta, o incluso con una conclusión distinta, cada vez que se ejecuta.

No se requiere tarjeta

Qué significa en la práctica

Un responsable de cumplimiento ejecuta el mismo prompt exacto en un asistente de IA dos veces, verificando una cláusula contractual contra la misma política, y obtiene dos respuestas que no son idénticas palabra por palabra, e incluso a veces con una conclusión distinta en un caso límite. El instinto es suponer que algo está roto, ya que una calculadora o una consulta a una base de datos nunca se comportan así. Pero esto no es un error que reportar; así es como funciona el modelo por diseño. En cada paso, selecciona de manera algo aleatoria entre varias palabras siguientes plausibles en lugar de devolver siempre un resultado fijo, así que una redacción ligeramente distinta, y de vez en cuando un juicio diferente, son un comportamiento esperado. Para una tarea que necesita una respuesta repetible cada vez, la solución es bajar el ajuste de aleatoriedad o añadir un paso de verificación, no esperar una actualización que lo corrija.

Ejemplo

Ejecuta el mismo prompt de cumplimiento contra el mismo documento tres veces seguidas. La primera ejecución marca una cláusula como conforme, la segunda marca la misma cláusula como dudosa, y la tercera vuelve a marcarla como conforme con una redacción ligeramente distinta cada vez. Nada falló y no apareció ningún error: esta variación es el modelo muestreando entre respuestas plausibles, no un defecto, y repetir la ejecución una vez más seguiría produciendo resultados similares pero no idénticos indefinidamente.

No confundir con

vs. A Software Bug

Un error de software es un defecto no intencionado: algo que los desarrolladores no pretendían que ocurriera y que corregirían una vez detectado, y ejecutar la misma entrada a través de un código fijo debería reproducirlo de forma confiable cada vez. El no determinismo es intencional e integrado: se espera que el mismo prompt ejecutado muchas veces vuelva redactado de otra forma, o incluso con una conclusión distinta, porque el modelo está muestreando entre palabras siguientes plausibles en lugar de ejecutar un cálculo fijo, así que aquí no hay nada que corregir; la manera de obtener un resultado repetible es bajar el ajuste de aleatoriedad o añadir un paso de verificación aparte, no presentar un reporte de error.

Frequently asked questions

¿Quieres tu contexto en un solo lugar?

Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.

Empieza gratis

Tu contexto en todas partes