Explainability
Si el proceso que realmente produjo la respuesta de un modelo de IA puede entenderse y verificarse, en lugar de solo describirse de manera plausible después del hecho.
No se requiere tarjeta
Qué significa en la práctica
Un gerente le pide a un asistente de IA que muestre su razonamiento antes de recomendar qué proveedor elegir, y el asistente presenta una prolija lista numerada de consideraciones que llevaron a su elección. Ese razonamiento expuesto se lee como una explicación transparente, lo bastante tentadora como para pegarla directamente en un memo de decisión a modo de justificación. Pero el texto que se explica a sí mismo es lenguaje generado por separado, producido después de la respuesta, no una impresión del cómputo interno real del modelo. Puede describir un proceso limpio y lógico que suena correcto sin coincidir realmente con lo que ocurrió, de modo que el razonamiento mostrado puede ser incorrecto o incompleto incluso cuando la recomendación final resulte razonable.
Ejemplo
Pídele a un asistente que explique paso a paso por qué señaló una cláusula contractual como riesgosa, y enumerará tres razones en un orden lógico y seguro. Hazle la misma pregunta de nuevo con una redacción ligeramente distinta, o pídele que revise su propio razonamiento, y puede producir tres razones diferentes, con la misma seguridad. Si la lógica expuesta cambia mientras la respuesta subyacente no lo hace, esa es una señal de que la explicación se generó para sonar plausible, y no que se extrajo de un proceso real y fijo.
No confundir con
vs. The AI's Stated Reasoning
El razonamiento expuesto es el texto que el modelo produce para describir un proceso, generado de la misma manera que cualquier otra respuesta: palabra por palabra, con el objetivo de sonar coherente y convincente. La explicabilidad es la pregunta distinta y más difícil de si esa descripción realmente coincide con lo que produjo la respuesta, ya que un modelo puede generar después del hecho una explicación prolija y segura que tiene poco que ver con su proceso interno real, lo que significa que una decisión de negocio justificada solo con pegar el razonamiento expuesto puede estar apoyada en un relato plausible y no en un informe verificado.
Frequently asked questions
¿Quieres tu contexto en un solo lugar?
Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.
Empieza gratis