Memorization
Un modelo de IA que reproduce sin intención un fragmento de su texto de entrenamiento casi palabra por palabra, simplemente porque ese texto apareció con la frecuencia o distinción suficiente durante el entrenamiento.
No se requiere tarjeta
Qué significa en la práctica
Un especialista en marketing le pide a un asistente de IA que escriba un párrafo sobre un tema conocido, y parte de lo que recibe coincide casi palabra por palabra con un artículo o un pasaje de un libro específico, no porque el asistente haya buscado algo, sino porque ese pasaje exacto apareció tan a menudo, o de forma tan distintiva, en el material con el que fue entrenado que quedó grabado en la manera en que el modelo predice el texto sobre ese tema. El especialista nunca pidió que se copiara nada y el modelo no tiene memoria de dónde vinieron las palabras como la tendría una persona; simplemente está reproduciendo un patrón que se reforzó intensamente durante el entrenamiento. El riesgo práctico, sin embargo, es el mismo que si se hubiera copiado a propósito: publicar ese párrafo sin revisarlo puede seguir creando un verdadero problema de derechos de autor u originalidad, sin importar la intención de nadie.
Ejemplo
Pídele a un asistente que escriba un breve pasaje que resuma el inicio de una novela famosa, y algunas frases regresan coincidiendo casi exactamente con el primer párrafo real del libro. Nadie le dijo al modelo que lo citara, y no estaba tratando de copiar; ese pasaje específico era simplemente lo bastante común y distintivo en su material de entrenamiento como para reproducirse de forma tan fiel. Pasar el resultado por un verificador de plagio antes de publicar es la salvaguarda, ya que la intención nunca formó parte de la causa.
No confundir con
vs. Plagiarism
El plagio es un concepto humano construido sobre la intención: alguien hace pasar a sabiendas el trabajo de otra persona como propio. La memorización no tiene ninguna intención detrás; es un modelo que reproduce texto de entrenamiento casi palabra por palabra simplemente porque ese texto era lo bastante frecuente o distintivo como para grabarse en él, sin ninguna conciencia de la fuente, razón por la cual el remedio también es diferente: pasar el texto generado por IA por un verificador de plagio u originalidad antes de publicarlo, en lugar de confiar en que el modelo sepa o admita que un pasaje no era suyo.
Términos relacionados
Frequently asked questions
¿Quieres tu contexto en un solo lugar?
Flaibo guarda tu rol, tu tono y tu trabajo anterior en un solo lugar y los incorpora a los prompts que llevas a la IA que uses, así que un chat nuevo no tiene que empezar desde una ventana de contexto vacía.
Empieza gratis