flaibo
Glosario

Bias

Un sesgo repetible en los resultados de un modelo de IA que favorece o perjudica de manera consistente a ciertos grupos, industrias o puntos de vista, y que se manifiesta a lo largo de muchas respuestas en lugar de en una sola.

No se requiere tarjeta

Qué significa en la práctica

Un equipo de RR. HH. usa un asistente de IA para redactar descripciones de puestos o preseleccionar currículums a gran escala. Cada descripción individual suena profesional y cada decisión de preselección parece defendible por sí sola, pero cuando alguien audita cien resultados en conjunto, surge un patrón: las publicaciones para roles técnicos usan de manera consistente un lenguaje más asertivo asociado a un género, o los candidatos de ciertas escuelas o antecedentes reciben una redacción más favorable que otros igualmente calificados. Ningún resultado individual fue lo bastante incorrecto u ofensivo para señalarlo de forma aislada, que es precisamente lo que hace que el sesgo sea más difícil de detectar que un error factual evidente: vive en el conjunto, no en una sola oración, y solo se puede ver comparando muchos resultados uno al lado del otro.

Ejemplo

Pídele a un asistente de IA que escriba cincuenta biografías cortas, la mitad para hombres y la mitad para mujeres con el mismo cargo. Léelas individualmente y cada una parece correcta y profesional. Sin embargo, si las pones una al lado de la otra, puede aparecer un patrón: las biografías de los hombres se apoyan en palabras como experto y lideró, las de las mujeres en solidaria y ayudó. Ese patrón conjunto, y no ninguna biografía individual, es lo que el sesgo parece en la práctica.

No confundir con

vs. Hallucination

La alucinación es una afirmación inventada dentro de una sola respuesta, como una estadística falsa o una cita que no existe; puedes detectarla verificando esa respuesta contra la realidad. El sesgo es un patrón a lo largo de muchas respuestas que persiste aunque cada oración individual sea factualmente cierta, por lo que verificar la precisión de un solo resultado no te dice nada al respecto; solo lo detectas comparando resultados entre grupos, industrias o puntos de vista y notando la inclinación.

Frequently asked questions

¿Quieres tu contexto en un solo lugar?

Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.

Empieza gratis

Tu contexto en todas partes