Human-in-the-Loop
Eine bewusste Design-Entscheidung, die verlangt, dass eine Person die Ausgabe eines KI-Systems an einem oder mehreren Kontrollpunkten prüft oder genehmigt, bevor sie wirksam wird.
Keine Karte erforderlich
Was das in der Praxis bedeutet
Angenommen, du richtest einen KI-Agenten ein, um Kundenanfragen zu Rückerstattungen zu bearbeiten. Mit aktiviertem Human-in-the-Loop liest der Agent weiterhin die Anfrage, prüft die Bestellhistorie und entwirft eine Entscheidung, aber diese Entscheidung bleibt in einer Warteschlange, bis eine Person aus deinem Team sie tatsächlich genehmigt, bevor Geld bewegt oder eine E-Mail verschickt wird. Schaltest du denselben Kontrollpunkt aus, verarbeitet der identische Agent die Rückerstattung und benachrichtigt den Kunden vollständig allein, ohne dass überhaupt eine Person in der Kette ist. Die zugrunde liegende Einschätzung des Agenten ändert sich zwischen den beiden Einstellungen nicht. Was sich ändert, ist, ob ein Mensch die Chance bekommt, einen Fehler, einen Grenzfall oder einen Richtlinienverstoß abzufangen, bevor er zu einer realen Handlung wird, statt danach.
Beispiel
Ein Team setzt einen Agenten ein, um Support-Tickets zu priorisieren. Konfiguriert mit Human-in-the-Loop, entwirft der Agent eine Antwort und einen vorgeschlagenen Lösungsweg und wartet dann in einer Prüfwarteschlange, wo eine Support-Leitung sie liest, eine Zeile bearbeitet und auf Genehmigen klickt, bevor sie den Kunden erreicht. Konfiguriert für volle Automatisierung, geht genau derselbe Entwurf in dem Moment raus, in dem der Agent ihn fertig geschrieben hat, ohne dass ihn zuvor jemand liest.
Häufig verwechselt mit
vs. Full Automation / Autonomous Agent
Human-in-the-Loop und volle Automatisierung sind keine zwei verschiedenen Arten von Agenten; es sind zwei verschiedene Einstellungen für denselben Agenten. Human-in-the-Loop verlangt die Prüfung oder Genehmigung einer Person an einem festgelegten Kontrollpunkt, etwa dass ein Agent eine E-Mail entwirft, eine Person aber auf Senden klicken muss, bevor die Aktion wirksam wird. Volle Automatisierung entfernt diesen Kontrollpunkt, sodass die Ausgabe des Agenten von allein live geht. Welcher Modus läuft, hängt davon ab, wie der Agent für eine bestimmte Aufgabe konfiguriert ist, nicht von einer festen Eigenschaft des Agenten selbst: Derselbe Agent kann für eine folgenreiche Aktion wie das Ausstellen einer Rückerstattung überwacht laufen und für eine risikoarme wie das Entwerfen eines ersten Antwortentwurfs unüberwacht.
Verwandte Begriffe
Frequently asked questions
Willst du deinen Kontext an einem Ort?
Flaibo bewahrt deine Rolle, deinen Ton und deine bisherige Arbeit an einem Ort und baut sie in die Prompts ein, die du in jede KI mitnimmst, mit der du arbeitest, sodass ein neuer Chat nicht mit einem leeren Kontextfenster beginnen muss.
Kostenlos starten