Skip to content
Mit einem KI-Agenten chatten
Grundlagen

KI-Agenten, die nachfragen, bevor sie handeln: Human in the Loop bei mehrstufigen Workflows

Orange ITS — KI-Engineering-Team 12 Min. Lesezeit

Ein Support-Agent erhält die Nachricht: «Bitte erstatten Sie meine letzte Bestellung zurück.» Der Kunde hat im letzten Monat drei Bestellungen aufgegeben. Der Agent wählt die jüngste, überweist CHF 300 auf die Karte zurück und schliesst das Ticket. Zwei Tage später meldet sich der Kunde erneut: Gemeint war die Bestellung davor. Das Geld ist weg, die zweite Bestellung bleibt strittig, und ein Mitarbeiter braucht nun eine Stunde, um beide Vorgänge zu entwirren.

Der Agent hat funktioniert, wie er gebaut wurde. Er hat eine Lücke mit einer Annahme gefüllt, und genau das tun Sprachmodelle standardmässig. Jeder mehrstufige Workflow mit einem KI-Agenten braucht einige bewusst gestaltete Punkte, an denen der Agent anhält und nachfragt, und diese Punkte kosten weit weniger als das Aufräumen nach einer falschen Vermutung. Dieser Artikel zeigt, warum Agenten annehmen, statt zu fragen, wo die Evidenz die Haltepunkte nahelegt, wie sich eine Rückfrage gegen einen Fehler aufrechnen lässt und wie Sie den umgekehrten Fehler vermeiden, nämlich zu viel zu fragen. Wenn Sie diese Punkte für einen eigenen Workflow entwerfen möchten, beginnt unser KI-Entwicklungsservice genau mit einer solchen Entscheidungskarte.

Hinweis zum Umfang: Dieser Beitrag behandelt die Rückfrage- und Freigabepunkte innerhalb eines einzelnen Workflows. Zum übergreifenden Betriebsmodell siehe KI-Agenten im Produktivbetrieb steuern, zu Richtlinien, Verantwortlichkeiten und Prüfpflichten KI-Agenten-Governance.


Warum Agenten annehmen, statt zu fragen

Wer eine vage Anfrage erhält, bemerkt in der Regel die Unschärfe. Ein Modell neigt dazu, eine Antwort zu produzieren. Die Forschung zu Gesprächen über mehrere Runden zeigt, was das kostet.

Laban und Kollegen haben das in “LLMs Get Lost In Multi-Turn Conversation” untersucht. Sie zerlegten eine vollständige Anweisung in kleine Teile und gaben sie dem Modell über mehrere Runden preis, wobei ein anderes Modell die Rolle des Nutzers übernahm. Die Studie umfasste 15 Modelle aus acht Familien und mehr als 200.000 simulierte Gespräche. Laut der Arbeit sank die durchschnittliche Leistung von rund 90 % bei einrundigen Durchläufen auf rund 65 % im mehrrundigen Setting. Die Autoren nennen im Abstract einen durchschnittlichen Rückgang von 39 % und in einer Abbildungsunterschrift 35 %. Ehrlich zusammengefasst liegt der Rückgang also bei etwa 35 bis 39 %, je nachdem, an welcher Stelle der Arbeit man liest.

Die Aufschlüsselung ist aufschlussreicher als die Schlagzeile. Die Bestleistung der Modelle ging nur leicht zurück, im Schnitt um rund 16 %. Der Abstand zwischen ihren besten und schlechtesten Durchläufen wuchs dagegen um rund 112 %. Einfach gesagt: Die Modelle konnten die Aufgabe weiterhin lösen, wurden aber deutlich unzuverlässiger. Die Autoren beschreiben ein Muster, bei dem Modelle in frühen Runden Annahmen treffen, zu früh endgültige Lösungen versuchen und sich von einer falschen Abzweigung anschliessend nicht mehr erholen.

Lesen Sie den Geltungsbereich, bevor Sie die Zahl zitieren. Die Werte 90 % und 65 % sind absolute Scores, während die 35 % und 39 % aus dem eigenen Mass der Arbeit für die durchschnittliche Verschlechterung stammen. Die beiden Angaben lassen sich daher nicht durch einfaches Rechnen in Einklang bringen. Die sechs Generierungsaufgaben betrafen Code, SQL, API-Aktionen, Mathematik, Data-to-Text und Zusammenfassungen, die Gespräche waren simuliert und automatisiert, die Texte englisch und die Modelle Stand 2025. Die Zahl bedeutet nicht, dass Sprachmodelle allgemein um 39 % schlechter sind. Belegt wird etwas Engeres, das für den Betrieb dennoch relevant bleibt: Wenn Informationen stückweise eintreffen, ist ein Agent, der sich früh festlegt, weniger zuverlässig als einer, der nachprüft.


Der Erfolg im Einzeldurchlauf verdeckt das Problem

Verantwortliche im operativen Geschäft sehen meist eine Demo, und eine Demo ist ein einzelner Durchlauf. Die tau-bench-Studie macht den Abstand zwischen einem Durchlauf und vielen messbar.

Yao und Kollegen entwickelten tau-bench, um einen Agenten zu testen, der mit einem simulierten Nutzer spricht und dabei Werkzeuge unter Regelvorgaben aufruft, etwa wie in einem Retail- oder Airline-Servicecenter. Erfolg bemisst sich daran, ob der Endzustand der Datenbank dem Ziel entspricht. Die Arbeit definiert die Kennzahl pass^k, beschrieben als die Wahrscheinlichkeit, dass alle k unabhängigen Versuche einer Aufgabe gelingen, gemittelt über die Aufgaben. Ein pass^1-Wert ist ein einzelner Durchlauf. Ein pass^8-Wert verlangt acht Erfolge in Folge bei derselben Aufgabe.

Laut der Studie erreichte das beste getestete Modell, gpt-4o, bei den Retail-Aufgaben ein pass^1 von 61,2 % und bei den Airline-Aufgaben 35,2 %. Im Retail-Bereich lag sein pass^8 unter 25 %. Derselbe Agent, der einmal akzeptabel wirkt, wird unzuverlässig, sobald er sich jedes Mal gleich verhalten soll, und genau das verlangt ein Geschäftsprozess.

Zwei Einschränkungen gelten. Die Modelle stammen aus dem Jahr 2024, aktuelle Systeme unterscheiden sich. Die Erkenntnis, die bleibt, ist struktureller Natur: Eine einzelne Erfolgsquote überschätzt, wie sicher es ist, einen Agenten bei einem folgenreichen Schritt allein handeln zu lassen. Das spricht für einen Kontrollpunkt dort, wo sich die Aktion nicht rückgängig machen lässt.


Wo die Haltepunkte im Workflow hingehören

Herstellerempfehlungen und Forschung führen zu einer kurzen Liste von Stellen. Es ist ein Konsens unter Praktikern und keine gemessenen Schwellenwerte, und die Quellen sind unterschiedlich deutlich.

Vor einer unumkehrbaren oder externen Aktion

Der praktische Leitfaden von OpenAI zum Bau von Agenten nennt Aktionen mit hohem Risiko als einen von zwei Hauptauslösern für menschliches Eingreifen. Er beschreibt sie als sensible, unumkehrbare oder folgenschwere Aktionen, mit dem Stornieren von Bestellungen, der Genehmigung grosser Rückerstattungen und dem Auslösen von Zahlungen als Beispielen. Das AI Red Team von Microsoft geht weiter und empfiehlt abgestufte Freigabeanforderungen, die mit der Umkehrbarkeit der Aktion und ihrem Schadensradius wachsen. Eine E-Mail an einen Kunden, ein Schreibzugriff auf das ERP, eine Geldbewegung und das Löschen eines Datensatzes gehören alle hierher.

Bei einem fehlenden Pflichtfeld

Braucht ein Schritt eine Bestellnummer, eine Lieferadresse oder ein Freigabelimit und enthält die Eingabe keines davon, sollte der Agent danach fragen, statt es zu erschliessen. Die Evidenz ist dünn, aber stimmig. Im Benchmark CRMArena-Pro von Salesforce AI Research (Huang et al.) zogen die Autoren eine Stichprobe von 20 gescheiterten Durchläufen eines Modells und stellten fest, dass der Agent in 9 davon nicht alle nötigen Informationen eingeholt hatte. Der Benchmark stammt von einem Hersteller und die Stichprobe ist klein. Er stützt daher eine Entwurfsintuition und keine Statistik.

Bei Mehrdeutigkeit zwischen Entitäten

Das Eingangsbeispiel gehört in diese Kategorie: welche Bestellung, welcher Kunde, welche Rechnung, welcher Vertrag. Das ist Praktikerurteil. Keine Primärstudie testet Identitätsprüfungen gezielt, betrachten Sie dies also als Entwurfsregel, abgeleitet aus der allgemeinen Forschung zu Mehrdeutigkeit. Sie verdient ihren Platz, weil die Kosten einer falschen Zuordnung meist den Kosten der folgenden Aktion entsprechen und der Agent oft zwei plausible Kandidaten vor sich hat.

Nach wiederholtem Scheitern

Der zweite Auslöser von OpenAI ist das Überschreiten von Fehlerschwellen. Der Leitfaden empfiehlt, Wiederholungen oder Aktionen zu begrenzen und an eine Person zu eskalieren, wenn der Agent die Absicht des Kunden nach mehreren Versuchen nicht versteht. Building effective agents von Anthropic macht eine verwandte Aussage und stellt fest, dass Abbruchbedingungen wie eine maximale Zahl an Iterationen üblich sind. Zudem könnten Agenten an Kontrollpunkten oder bei Hindernissen für menschliches Feedback pausieren. Die Formulierung ist offen gehalten: Sie beschreibt eine Möglichkeit und schreibt keine Regel vor.

AuslöserTypisches BeispielQuelle der Platzierungsregel
Unumkehrbare oder externe AktionRückerstattung, Zahlung, ausgehende E-Mail, ERP-SchreibzugriffOpenAI-Leitfaden; AI Red Team von Microsoft (abgestuft nach Umkehrbarkeit)
Fehlendes PflichtfeldKeine Bestellnummer bei einer RetourenanfrageCRMArena-Pro-Stichprobe (9 von 20 Fehlschlägen, ein Modell)
Mehrdeutigkeit zwischen EntitätenZwei offene Bestellungen für einen KundenPraktikerurteil, keine Primärstudie
Wiederholtes ScheiternDritter fehlgeschlagener Versuch, die Absicht zu klassifizierenOpenAI-Leitfaden (Fehlerschwellen)
Geringe KonfidenzAgent meldet, dass er unsicher istNur ein Entwurfsmuster, kein validierter Grenzwert

Die letzte Zeile verdient besondere Betonung. Viele Leitfäden sagen «fragen Sie nach, wenn die Konfidenz niedrig ist», doch keine veröffentlichte Studie nennt einen gemessenen Konfidenzschwellenwert, der im Produktivbetrieb funktioniert. Die vom Modell selbst gemeldete Konfidenz ist keine kalibrierte Wahrscheinlichkeit. Bauen Sie Auslöser daher zuerst auf Fakten des Falls auf (ein Feld ist leer, zwei Datensätze passen, die Aktion ist unumkehrbar) und erst danach auf das Empfinden des Agenten.


Was eine Rückfrage im Vergleich zu einem Fehler kostet

Jede Rückfrage hat einen Preis, vor allem die Zeit der Person, die antwortet. Jede falsche Aktion hat ebenfalls einen Preis, oft einen höheren. Eine einfache Regel stellt beide gegenüber.

Fragen Sie nach, wenn die Wahrscheinlichkeit, dass die Annahme falsch ist, multipliziert mit den Kosten der falschen Aktion, die Kosten der Rückfrage übersteigt. Umgestellt heisst das: Der Agent sollte immer dann nachfragen, wenn diese Wahrscheinlichkeit über einem Break-even-Wert P* liegt, wobei P* den Kosten der Rückfrage geteilt durch die Kosten der falschen Aktion entspricht.

Die folgenden Zahlen sind illustrativ und dienen dazu, den Mechanismus zu zeigen. Es sind keine Benchmarks, und Sie sollten sie durch Ihre eigenen ersetzen.

  • Kosten einer Rückfrage. Eine Mitarbeiterin, deren Arbeitszeit CHF 60 pro Stunde entspricht, braucht zwei Minuten dafür, die Rückfrage kostet also rund CHF 2 (illustrativ).
  • Schwer umkehrbare Rückerstattung von CHF 300. P* beträgt 2 geteilt durch 300, also rund 0,7 %. Ist auch nur eine Annahme von hundert falsch, ist Nachfragen günstiger (illustrativ).
  • Falsch zugeordnetes Support-Ticket mit CHF 5 Korrekturaufwand. P* beträgt 2 geteilt durch 5, also 40 %. Solange der Agent nicht in vier von zehn Fällen danebenliegt, ist es günstiger, ihn zuordnen zu lassen, das Ergebnis zu protokollieren und den gelegentlichen Fehler von Mitarbeitenden korrigieren zu lassen (illustrativ).

Rechnen Sie es auf einen Monat hoch, um das Muster zu sehen. Nehmen Sie 500 Rückerstattungsanfragen, bei denen der Agent mit 3 % Wahrscheinlichkeit die falsche Bestellung wählt. Lässt man ihn allein handeln, entstehen rund 15 falsche Rückerstattungen, also CHF 4.500 Aufräumaufwand. Bei jeder Anfrage nachzufragen kostet 500 mal CHF 2, also CHF 1.000. Nehmen Sie nun 2.000 Tickets, bei denen eine Fehlzuordnungsquote von 10 % rund 200 Fehler zu je CHF 5 erzeugt, also CHF 1.000. Bei allen nachzufragen kostet CHF 4.000. Derselbe Agent rechtfertigt im einen Fall eine Rückfrage und verschwendet im anderen Geld (alle Zahlen illustrativ).

Dieser Ansatz entspricht der heutigen Denkweise in der Forschung. Ein Benchmark von 2026 namens RegretBench, beschrieben in einem arXiv-Abstract, bewertet Klärungsstrategien nach Interaktionskosten, unnützen Fragen und Bedauern (Regret), wobei der Abstract keine Formel nennt. Keine Quelle liefert ein validiertes Kostenmodell, daher ist die obige Rechnung ein Denkwerkzeug und kein Forschungsergebnis.

Zwei Dinge heben die reale Schwelle bei häufigen Aufgaben mit geringem Risiko an. Das eine ist die Wartezeit des Kunden, während die Rückfrage in jemandes Warteschlange liegt. Das andere ist der Effekt, den der nächste Abschnitt beschreibt. Die Umkehrbarkeit sollte die Schwelle bestimmen, und das Sicherheitsgefühl des Agenten sollte dabei keine Rolle spielen.


Der umgekehrte Fehler: zu viel fragen

Überall eine Rückfrage einzubauen fühlt sich sicher an. Die Evidenz sagt etwas anderes.

Zheng und Kollegen führten ein kontrolliertes Experiment mit 180 Teilnehmenden in sechs alltäglichen Entscheidungsszenarien durch (arXiv 2611.01087). Rückfragen erhöhten das wahrgenommene Verständnis und die Zufriedenheit. Zugleich führten sie dazu, dass die Teilnehmenden Antworten kürzer prüften und mehr Antworten unverändert übernahmen, darunter fehlerhafte. Der Rahmen waren Konsumentscheidungen und keine Agentenaktionen im Unternehmen, und die Arbeit berichtet keine Veränderung des allgemeinen Vertrauens. Wenden Sie das Ergebnis deshalb mit Vorsicht an. Es zeigt dennoch, dass eine Rückfrage Menschen das Gefühl geben kann, eingebunden zu sein, während sie weniger kontrollieren.

Auf der Sicherheitsseite ist das Bild schärfer. Der oben zitierte Beitrag des AI Red Teams von Microsoft hält fest, dass das Umgehen von Human-in-the-Loop-Kontrollen der am konsequentesten ausgenutzte Fehlermodus in seiner Arbeit war, erreicht durch Zustimmungsmüdigkeit. Er empfiehlt, die Freigabehäufigkeit auf Anzeichen solcher Müdigkeit zu überwachen. Anthropic berichtete in seinem Beitrag zum Auto-Modus von Claude Code, dass Nutzer in der Praxis 93 % der manuellen Berechtigungsabfragen akzeptieren. Das ist eine Herstelleraussage ohne veröffentlichte Methode. Verstehen Sie sie als Signal und nicht als Branchenfakt.

Die Folgerung für den Entwurf ist eindeutig:

  • Behalten Sie die vollständige Freigabe dem kleinen Kreis von Aktionen vor, bei denen ein Fehler teuer und schwer rückgängig zu machen ist.
  • Lassen Sie Agenten bei umkehrbaren und günstigen Schritten mit Protokollierung selbstständig handeln.
  • Verfolgen Sie die Freigabequote. Wird ein Kontrollpunkt fast jedes Mal unverändert freigegeben, ist entweder der Auslöser zu weit gefasst oder der Prüfer liest nicht mehr mit, und beides verlangt Aufmerksamkeit.
  • Zeigen Sie dem Freigebenden, worauf es ankommt. Eine Abfrage «Aktion genehmigen?» lädt zum Klicken ein. Eine Abfrage, die Bestellung, Betrag und das eine Detail zeigt, bei dem der Agent unsicher war, lädt zum Entscheiden ein.

Eine Studie zu einem Coding-Agenten von Edwards und Schuster (arXiv 2603.26233) zeigt, wie leicht sich Rückfragen vervielfachen. Ihr Multi-Agenten-Aufbau zur Klärung stellte bei einem Modell rund 3 Fragen pro Aufgabe und bei einem anderen fast 9 und verursachte pro Aufgabe höhere API-Kosten als eine Variante mit einem einzelnen Agenten. Er verbesserte aber auch die Ergebnisse. Nachfragen hat hier also echten Wert, und ein Aufbau kann dennoch sehr viel fragen. Budgetieren Sie Rückfragen deshalb wie jeden anderen Kostenpunkt.


Eine Entwurfs-Checkliste für Klärungspunkte

Halten Sie für jeden Haltepunkt eines Workflows vor dem Bau vier Dinge fest. Eine Tabelle sorgt für Disziplin, und sie ist das Dokument, das eine Verantwortliche im Betrieb prüfen kann, ohne Code zu lesen.

EntwurfsfrageWas festzulegen istBeispiel für einen Rückerstattungs-Workflow
AuslöserDer Sachverhalt, der den Halt verursachtRückerstattung über CHF 100 oder zwei offene Bestellungen passen zur Anfrage
Wer antwortetEine benannte Rolle mit Entscheidungsbefugnis und eine VertretungTeamleiter im Dienst, mit dem Stellvertreter als Rückfallebene
Inhalt der RückfrageDer Fall, die Optionen, die vorgeschlagene Aktion des Agenten und der eine Punkt, bei dem er unsicher ist«Die Bestellungen 4411 und 4418 passen beide. Vorschlag: Rückerstattung für 4418, CHF 300. Bitte bestätigen oder wählen.»
ProtokollWas zur Überprüfung festgehalten wirdFrage, Antwort, Antwortzeit, endgültige Aktion und ob die Person den Vorschlag geändert hat

Ergänzen Sie die Tabelle um drei Betriebsregeln.

  1. Legen Sie eine Frist und ein Standardverhalten fest. Antwortet innerhalb der vereinbarten Zeit niemand, sollte der Fall eskaliert werden oder sicher warten. Auf Basis der Vermutung des Agenten darf er nie weiterlaufen.
  2. Prüfen Sie das Protokoll monatlich. Zählen Sie, wie oft die Antwort vom Vorschlag des Agenten abwich. Ein Kontrollpunkt, der nie etwas ändert, ist ein Kandidat für die Streichung. Ein übersprungener Schritt, der weiter Fehler erzeugt, ist ein Kandidat für einen neuen Kontrollpunkt.
  3. Testen Sie die Haltepunkte vor dem Start. Lassen Sie echte historische Fälle durch den Workflow laufen und prüfen Sie, ob die Auslöser dort greifen, wo Sie es erwarten. Unser Leitfaden zum Aufbau von Evaluierungen aus echten Tickets beschreibt, wie sich dieser Fallbestand zusammenstellen lässt.

Den Prozess zuerst abzubilden, erleichtert all das, weil sich die Liste der Auslöser aus der Spalte der Ausnahmen ergibt. Der Leitfaden zur Workflow-Abbildung zeigt, wie Sie diese Karte in einem halben Tag erstellen.


Was die Evidenz nicht aussagt

Machen Sie sich die Grenzen klar, bevor Sie etwas einstellen.

  • Es gibt keinen validierten Schwellenwert. Niemand hat eine Feldstudie veröffentlicht, die Fragenzahl, Fehlerkosten und Konfidenzgrenzen im Produktivbetrieb verknüpft. Die Break-even-Regel ist eine Entscheidungshilfe, und die Eingangswerte sind Ihre.
  • Die Benchmarks sind simuliert. Der Nutzer in jeder Studie ist ein Sprachmodell oder ein skriptgesteuertes Gegenüber, und mehrere Aufgaben sind Generierungsübungen oder drehen sich um das CRM eines Herstellers. Echte Kunden sind unberechenbarer.
  • Die Modelle sind älter. Laban et al. und tau-bench nutzten Modelle aus 2024 und 2025. Aktuelle Modelle fragen möglicherweise mehr, weniger oder erholen sich besser von einer falschen Abzweigung. Messen Sie Ihr eigenes System.
  • Menschliche Prüfung ist keine Garantie. Die Evidenz zur Zustimmungsmüdigkeit bedeutet, dass ein Kontrollpunkt Sie nur schützt, wenn die Person dort Zeit und Informationen für die Entscheidung hat.

Gesetzliche Pflichten können weitere Anforderungen hinzufügen. Artikel 14 der EU-KI-Verordnung (AI Act) legt für Hochrisiko-KI-Systeme Pflichten zur menschlichen Aufsicht fest, einschliesslich der Möglichkeit, ein System zu übersteuern oder anzuhalten. Ob ein bestimmter Workflow als Hochrisiko gilt, ist eine rechtliche Frage im Einzelfall und liegt ausserhalb dessen, was dieser Artikel beantworten kann.

Der praktische Schluss ist bescheiden und überprüfbar. Wählen Sie die drei oder vier Aktionen in Ihrem Workflow, die sich nicht leicht rückgängig machen lassen, setzen Sie vor jede eine gut formulierte Rückfrage, lassen Sie die günstigen Schritte in Ruhe und lesen Sie nach einem Monat das Protokoll. Die Zahlen aus Ihren eigenen Fällen zeigen Ihnen, ob Sie einen Haltepunkt verschieben, entfernen oder einen weiteren ergänzen sollten, und sie sind mehr wert als jeder hier zitierte Benchmark.

Häufige Fragen

Was bedeutet Human in the Loop bei einem KI-Agenten?

Der Agent hält an festgelegten Stellen an, und eine Person antwortet, genehmigt oder korrigiert, bevor der Workflow weiterläuft. Diese Stellen werden im Voraus entworfen, zum Beispiel vor der Auszahlung einer Rückerstattung, bei einem fehlenden Pflichtfeld oder nach mehreren gescheiterten Versuchen. Alles dazwischen läuft ohne menschliches Eingreifen. Ziel sind wenige, gut gewählte Haltepunkte dort, wo ein Fehler teuer würde.

Wann sollte ein KI-Agent nachfragen, statt eine Annahme zu treffen?

Er sollte nachfragen, wenn eine falsche Annahme teuer oder schwer rückgängig zu machen wäre, und er darf annehmen, wenn sich ein Fehler günstig beheben lässt. OpenAI nennt in seinem praktischen Leitfaden für Agenten zwei Auslöser: das Überschreiten von Fehlerschwellen und Aktionen mit hohem Risiko, etwa grosse Rückerstattungen oder Zahlungen. Eine nützliche zusätzliche Prüfung ist ein fehlendes Pflichtfeld. Keine Studie belegt einen numerischen Konfidenzschwellenwert. Legen Sie die Grenzen deshalb anhand Ihrer eigenen Fehlerkosten fest.

Wie bewerte ich die Kosten einer Rückfrage gegenüber einer falschen Aktion?

Teilen Sie die Kosten der Rückfrage durch die Kosten der falschen Aktion. Das Ergebnis ist die Fehlerwahrscheinlichkeit, ab der sich Nachfragen lohnt. Mit den illustrativen Werten von CHF 2 für eine Rückfrage von zwei Minuten und CHF 300 für eine schwer umkehrbare Rückerstattung liegt der Break-even bei rund 0,7 %. Bei einer falschen Zuordnung von CHF 5 sind es 40 %. Ersetzen Sie die Beispielwerte durch die tatsächliche Arbeitszeit Ihrer Mitarbeitenden und Ihre eigenen Fehlerkosten.

Können zu viele Freigabeanfragen einen Agenten unsicherer machen?

Ja. Das AI Red Team von Microsoft nennt das Umgehen von Human-in-the-Loop-Kontrollen den am konsequentesten ausgenutzten Fehlermodus in seiner Arbeit an agentischen Systemen, teils durch Zustimmungsmüdigkeit. Ein kontrolliertes Experiment mit 180 Teilnehmenden zeigte, dass Personen, die Rückfragen erhielten, Antworten weniger prüften und mehr fehlerhafte akzeptierten. Stufen Sie Freigaben nach den Folgen ab und beobachten Sie, wie oft Personen ohne Änderung freigeben.

Gelten die Benchmark-Ergebnisse für meinen Geschäftsablauf?

Nur eingeschränkt. Die zitierten Studien arbeiten mit simulierten Nutzern, überwiegend mit Generierungs- oder Kundenservice-Aufgaben, englischen Texten und Modellen aus den Jahren 2024 und 2025. Sie zeigen ein Muster: Früh anzunehmen und ohne Kontrolle zu handeln, senkt die Zuverlässigkeit. Einen Schwellenwert zum Übernehmen liefern sie nicht. Nutzen Sie sie als Anlass, Ihren eigenen Workflow mit protokollierten Fällen zu testen, bevor Sie festlegen, wo die Kontrollpunkte liegen.

Insights

Setzen Sie diese Ideen um

Ein 30-minütiges Gespräch genügt, um herauszufinden, ob ein KI-Agent zu Ihrem Workflow passt — und was er einbringen würde.