RAG (Retrieval-Augmented Generation)
Una técnica en la que un modelo de IA busca información relevante en una fuente externa antes de responder, en lugar de basarse únicamente en lo que aprendió durante el entrenamiento.
No se requiere tarjeta
Qué significa en la práctica
Si le haces a un asistente de IA una pregunta sobre la política interna de precios de tu empresa, un modelo sin un paso de recuperación solo puede adivinar o admitir que no lo sabe; para empezar, nunca fue entrenado con tus documentos privados. Un modelo conectado con recuperación, en cambio, primero busca en tus documentos de política reales, extrae el pasaje relevante y responde basándose en esa fuente real y actual, en lugar de una suposición formada durante el entrenamiento, meses o años antes de que tu política existiera.
Ejemplo
Pregunta "¿cuál es nuestra política de reembolso para los planes anuales?". Sin recuperación, un asistente general se niega a responder o produce una política que suena plausible pero es incorrecta, basada en un simple reconocimiento de patrones. Con recuperación conectada al documento de política real, primero busca el párrafo real sobre la política de reembolso y responde directamente a partir de ese texto, e incluso puede citarlo con precisión.
No confundir con
vs. Fine-tuning
Ambas son formas de hacer que un modelo "sepa" más de lo que aprendió por defecto, pero mediante mecanismos muy distintos. El fine-tuning reentrena de forma permanente los pesos internos propios del modelo con nuevos ejemplos: un proceso lento y costoso, estático en cuanto se completa. La recuperación no cambia nada en el modelo en sí; busca información nueva en el momento en que se hace una pregunta, razón por la cual puede reflejar un documento añadido hace cinco minutos, algo que el fine-tuning no puede hacer sin volver a entrenarse por completo.
Términos relacionados
Frequently asked questions
¿Quieres tu contexto en un solo lugar?
Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.
Empieza gratis