Ein Kunde fragt Ihren Support, warum sein Antrag auf ein höheres Kreditlimit, einen schnelleren Liefertermin oder die Erneuerung einer Police abgelehnt wurde. Die Antwort steckt in einem System, das aus den Korrekturen des letzten Quartals gelernt hat, und niemand kann sagen, welche Regel gegriffen hat. Die ehrliche Auskunft wäre «die Software hat entschieden». Das ist gegenüber einem Kunden in Zürich oder Lugano keine gute Antwort, und sie beendet zugleich das Gespräch.
Kunden, die man gewinnen möchte, stören sich selten an der Automatisierung selbst. Sie wollen wissen, dass eine Person erreichbar ist, dass sich der Grund erklären lässt und dass ihre Sicht der Dinge gehört wird. Unsere Arbeit zu lokaler Inferenz hält den Agenten und seine Entscheidungsprotokolle auf einer Infrastruktur, die Sie kontrollieren. Dort lassen sich diese Nachweise am einfachsten schützen.
Gestalten Sie den Agenten so, dass jede folgenreiche Entscheidung eine Erklärungsspur und einen Weg zu einem Menschen hinterlässt, dann wird aus der gesetzlichen Pflicht ein Grund, warum Kunden Sie wählen. Dieser Artikel ist ein Gestaltungsleitfaden und keine Rechtsanalyse.
Abgrenzung: KI-Agenten und Schweizer Datenschutz behandelt Datenstandort, DSFA und Auftragsbearbeitungsverträge. Selbstlernende KI-Systeme erklärt, was sich von selbst verbessert und was Menschen braucht. Dieser Beitrag verbindet beides an dem Punkt, an dem ein Agent über eine Person entscheidet. Er enthält allgemeine Informationen und keine Rechtsberatung.
Was Art. 21 verlangt
Art. 21 des revidierten Bundesgesetzes über den Datenschutz (DSG, SR 235.1) ist kurz. Absatz 1 besagt, dass der Verantwortliche die betroffene Person über eine Entscheidung informiert, die «ausschliesslich auf einer automatisierten Bearbeitung beruht» und die für sie «mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt». Das Gesetz nennt dies automatisierte Einzelentscheidung. Nach Absatz 2 gibt der Verantwortliche der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen, und die Person kann verlangen, dass die automatisierte Einzelentscheidung von einer natürlichen Person überprüft wird.
Absatz 3 hebt beide Pflichten in zwei Fällen auf: Die Entscheidung steht in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags und dem Begehren der Person wird stattgegeben, oder die Person hat ausdrücklich eingewilligt, dass die Entscheidung automatisiert erfolgt. Das Gesetz gilt seit dem 1. September 2023, und der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hält fest, dass es unmittelbar auf KI-gestützte Bearbeitungen anwendbar ist.
Zwei Begriffe dieses Textes bestimmen die Gestaltung. «Ausschliesslich» bedeutet: Wenn eine Person den Fall tatsächlich abwägt, liegt er ausserhalb des Artikels. «Erheblich beeinträchtigt» bedeutet: Ein falsch eingeordnetes Newsletter-Segment genügt nicht, ein abgelehnter Antrag in der Regel schon. Veröffentlichte Schweizer Rechtsprechung und EDÖB-Praxis zu Art. 21 für Agenten, die sich im Lauf der Zeit anpassen, sind noch spärlich. Ob ein konkretes System erfasst ist, hängt daher von den Umständen ab. Das beurteilt Ihre Rechtsberatung. Der Rest dieses Beitrags zeigt, wie man so baut, dass sich die Frage leicht beantworten lässt.
Agentenentscheidungen in drei Gruppen einteilen
Die meisten Agenten im Unternehmen treffen Dutzende kleiner Entscheidungen und eine Handvoll, die für eine Person zählen. Teilen Sie sie ein, bevor Sie irgendetwas gestalten.
| Gruppe | Beispiel | Folge für die Gestaltung |
|---|---|---|
| Intern und umkehrbar | Ticket kennzeichnen, Antwort entwerfen, Warteschlange ordnen | Protokollieren. Kein besonderer Weg nötig |
| Empfehlung mit echter menschlicher Entscheidung | Agent schlägt eine Rückerstattung vor, ein Sachbearbeiter entscheidet | Den menschlichen Schritt echt halten und messen |
| Folgenreich und automatisiert | Bestellung ablehnen, Bewerber aussortieren, Leistung beenden | Person informieren und anhören, dann Überprüfung durch eine Person anbieten |
Die mittlere Zeile verführt Teams am meisten. Wenn ein Sachbearbeiter pro Stunde 400 Vorschläge des Agenten freigibt, ist der menschliche Schritt Dekoration. Entweder geben Sie ihm Zeit und Daten zum Widerspruch, oder Sie behandeln die Zeile als automatisiert und bauen den Überprüfungsweg. Eine nützliche Kontrolle ist die Überstimmungsquote. Wer den Agenten nie überstimmt, taugt nicht als Beleg, wenn sich ein Kunde beschwert.
Halten Sie die dritte Gruppe bewusst klein. Jede Entscheidung, die Sie von automatisiert auf empfohlen zurückstufen, braucht eine Anhörung und eine Überprüfungswarteschlange weniger, und der Kunde kann dazu mit einem Menschen sprechen.
Warum Selbstlernen Erklärungen erschwert
Eine Engine mit festen Regeln gibt am Dienstag und am Freitag dieselbe Antwort. Ein lernender Agent tut das womöglich nicht. Wie der Leitfaden zu selbstlernenden Systemen beschreibt, lernen die meisten Produktivsysteme, indem sie Lektionen in Gedächtnisdateien, Regeln und Testfälle ausserhalb des Modells schreiben, mitunter auch durch Anpassung der Gewichte. Jede Korrektur verändert, was der Agent als Nächstes tut.
Das nützt der Qualität und erschwert die Rechenschaft. Fragt ein Kunde nach einer Entscheidung von vor drei Wochen, ist «der Agent funktioniert heute so» die falsche Antwort. Sie müssen sagen können, wie er damals funktionierte. Lernen braucht ausserdem einen Menschen im Kreislauf: Eine Lektion wird erst zur aktiven Regel, wenn jemand sie genehmigt, sodass der Versionsverlauf einen Autor und ein Datum trägt.
Die Erklärungsspur: Was pro Entscheidung zu protokollieren ist
Der Zeitpunkt zählt. Erstellen Sie das Protokoll, wenn die Entscheidung fällt, denn eine Rekonstruktion nach einer Beschwerde ist Raten. Speichern Sie für jede folgenreiche Entscheidung:
- Eingaben. Die Datenfelder, die der Agent tatsächlich verwendet hat, mit ihren Werten zu diesem Zeitpunkt, und diejenigen, die er ignoriert hat.
- Versionen. Die Modellkennung, die Prompt-Version, die aktiven Regeln und die abgerufenen Gedächtniseinträge.
- Ergebnis und Konfidenz. Was entschieden wurde, welche Alternativen erwogen wurden und welcher Schwellenwert galt.
- Weg. Ob die Entscheidung direkt hinausging oder zur Überprüfung zurückgehalten wurde und wer die namentlich benannte prüfende Person war.
- Mitteilung. Wann und wie die Person informiert wurde.
Erzeugen Sie die Erklärung in verständlicher Sprache aus diesem Protokoll. Eine Erklärung, die das Modell nachträglich aus eigenen Eindrücken formuliert, kann plausibel klingen und dennoch einen anderen Weg beschreiben als den tatsächlich genommenen. Ein Textbaustein, der aus protokollierten Feldern gefüllt wird, etwa «Ihr Antrag wurde abgelehnt, weil die Liefer-Postleitzahl ausserhalb des abgedeckten Gebiets liegt, Regelversion 14», lässt sich von der prüfenden Person und vom Kunden nachprüfen.
Solche Protokolle enthalten Personendaten, daher gelten dieselben Aufbewahrungs- und Zugriffsbeschränkungen wie für die zugrunde liegende Fallakte. Sie in einem System zu führen, das Sie selbst betreiben, ist einfacher, als sie aus den Logs eines Anbieters zu rekonstruieren. Das Governance-Playbook für KI-Agenten geht auf Audit-Logging und Verantwortlichkeiten vertieft ein.
Das Recht auf Anhörung: ein echter Kanal
Absatz 2 gibt der Person die Möglichkeit, ihren Standpunkt darzulegen. In der Praxis ist das ein Antwortweg in der Entscheidungsmitteilung, ein Formular oder ein Postfach, das einen Fall eröffnet und kein Ticket, das niemand liest.
Drei Gestaltungspunkte machen es wirksam:
- Die Mitteilung nennt den Kanal. Sie sagt, dass eine Überprüfung durch eine Person verlangt werden kann und wie, in der Sprache des Kunden.
- Die Stellungnahme gelangt in den Fall. Was die Person schreibt, wird dem Entscheidungsprotokoll beigefügt und ist für die prüfende Person sichtbar. Liefert es einen Fakt, der dem Agenten fehlte, wird die Entscheidung mit diesem Fakt neu berechnet.
- Die Antwort kommt von einer benannten Rolle. Eine prüfende Person mit Namen oder Rolle, einer Ziel-Antwortzeit und der Befugnis, das Ergebnis zu ändern.
Beispielhaft könnte ein Unternehmen eine Antwort innerhalb von zwei Arbeitstagen zusagen und nachverfolgen, ob es das Versprechen hält. Die Zahl ist weniger wichtig als der Umstand, dass es eine gibt, dass sie veröffentlicht und gemessen wird.
Überprüfung durch eine natürliche Person ohne Gummistempel
Damit die Überprüfung echt ist, braucht die prüfende Person vier Dinge: das vollständige Entscheidungsprotokoll, die Stellungnahme der Person, die Befugnis zum Überstimmen und keine Nachteile dafür. Wem nur die Schlussfolgerung des Agenten gezeigt wird, neigt dazu, sie zu bestätigen.
Erfassen Sie diese Kennzahlen monatlich:
- wie viele folgenreiche Entscheidungen ergingen und wie viele angefochten wurden
- wie viele Überprüfungen das Ergebnis geändert haben
- wie lange eine Überprüfung vom Antrag bis zur Antwort dauerte
- wie viele überstimmte Fälle auf eine fehlende oder falsche Eingabe zurückgingen
Eine Anfechtungsquote nahe null kann bedeuten, dass die Kunden zufrieden sind oder dass die Mitteilung schwer zu finden ist. Eine Überstimmungsquote von null bei Hunderten von Überprüfungen wirft die Frage auf, ob die Prüfenden überhaupt die Mittel zum Widerspruch haben. Eine moderate Überstimmungsquote bei zügigen Überprüfungen zeigt, dass der Weg funktioniert. Zeigen Sie das Ihren Kunden.
Überstimmte Entscheidungen sind die besten Lerndaten
Jedes Mal, wenn eine Person das Ergebnis des Agenten ändert, haben Sie ein von einer Fachperson gelabeltes Beispiel dafür, wo der Agent falsch lag. Das ist das Material, das eine beaufsichtigte Verbesserungsschleife braucht, und es verbindet diesen Artikel mit dem Rest der Serie: Überführen Sie diese Fälle in Ihr Testset, prüfen Sie, dass die Korrektur bei früheren Fällen hält, und lassen Sie die Regeländerung von einer benannten Verantwortlichen oder einem Verantwortlichen genehmigen, bevor sie live geht.
Die Regel ist einfach. Selbstlernen bedeutet hier einen von einer Person genehmigten Zyklus aus Erfassen, Testen, Genehmigen und Freigeben. Ein Agent, der seine Entscheidungsregeln bei jeder Beschwerde selbst umschriebe, würde genau das unerklärliche Verhalten erzeugen, das dieser Artikel beseitigen will. Da jede aktive Regel eine Version, ein Datum und eine genehmigende Person hat, nutzen Erklärungsspur und Lernschleife dieselben Protokolle.
Die Pflicht zum Verkaufsargument machen
Einkaufsteams in Bank, Versicherung, Gesundheitswesen, Personalwesen und öffentlicher Hand stellen zu automatisierten Systemen oft dieselben Fragen: An wen kann sich eine Person wenden, wie wird eine Entscheidung erklärt, was wird protokolliert und wo liegt es. Ein Anbieter, der mit einer einseitigen Beschreibung des Überprüfungswegs, einem Beispiel-Entscheidungsprotokoll und den oben genannten Monatskennzahlen antwortet, ist leichter freizugeben als einer, der ein Policy-PDF schickt.
Drei praktische Schritte:
- Den Überprüfungsweg ins Angebot aufnehmen. Ein Diagramm: Entscheidung, Mitteilung, Stellungnahme, Prüfende, Ergebnis, protokollierte Änderung.
- Ein geschwärztes Entscheidungsprotokoll zeigen. Es belegt, dass die Spur existiert.
- Die Kennzahlen in den Servicebericht aufnehmen. Anfechtungsquote, Überstimmungsquote und Prüfdauer geben dem Kunden etwas an die Hand, woran er Sie messen kann.
EU-Kunden bringen eine parallele Regel mit. Art. 22 DSGVO schützt Personen vor Entscheidungen, die ausschliesslich auf einer automatisierten Verarbeitung beruhen, und der EU AI Act fügt Pflichten für Hochrisikosysteme hinzu. Der Digital Omnibus, seit dem 27. Juli 2026 in Kraft, hat die Hauptfrist für Hochrisikosysteme auf Dezember 2027 verschoben, wie wir in Die Hochrisiko-Frist des EU AI Act rückt auf Dezember 2027 erläutern. Ein einziges Design bedient beide Zielgruppen.
Was sich noch bewegt
Die Schweiz bereitet KI-spezifische Regeln vor. Im Februar 2025 beschloss der Bundesrat, die KI-Konvention des Europarats zu ratifizieren und, wo möglich, sektorspezifisch zu regulieren, mit allgemeinen Regeln nur in Bereichen wie dem Datenschutz. Laut dem Bundesamt für Kommunikation (BAKOM) ist die Vernehmlassung zu dieser Vorlage für das Frühjahr 2027 geplant. Frühere Zeitpläne nannten Ende 2026, der Fahrplan hat sich also verschoben. Geprüft am 7. November 2026; wir greifen das Thema wieder auf, sobald der Entwurf vorliegt.
Art. 21 gilt jetzt, unabhängig vom Zeitplan. Ein Überprüfungsweg, eine Erklärungsspur und eine beaufsichtigte Lernschleife werden unter fast jeder Fassung der kommenden Regeln gebraucht, und sie jetzt aufzubauen kostet weniger, als sie nach der ersten Anfechtung nachzurüsten.
Häufige Fragen
Gilt Art. 21 DSG für jeden KI-Agenten?
Nein. Art. 21 DSG erfasst Entscheidungen, die ausschliesslich auf einer automatisierten Bearbeitung beruhen und für die Person mit einer Rechtsfolge verbunden sind oder sie erheblich beeinträchtigen. Ein Agent, der Antworten entwirft oder eine Priorität vorschlägt, während eine Person entscheidet, fällt nicht unter diese Definition, sofern die Person tatsächlich entscheidet. Eine Ablehnung, eine Kündigung oder ein Preis ohne menschliche Mitwirkung sind der typische Fall.
Was muss ein Unternehmen einer Person bieten, die eine automatisierte Entscheidung erhält?
Der Verantwortliche muss die Person über die Entscheidung informieren. Auf Antrag muss er ihr die Möglichkeit geben, ihren Standpunkt darzulegen, und die Person kann verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird. Absatz 3 sieht zwei Ausnahmen vor: eine Entscheidung im Zusammenhang mit einem Vertrag, bei der dem Begehren der Person stattgegeben wird, und die ausdrückliche Einwilligung in die Automatisierung. Klären Sie mit Ihrer Rechtsberatung, wie sie für Sie gelten.
Darf ein lernender Agent überhaupt automatisierte Entscheidungen treffen?
Ja, wenn Sie die Entscheidungen erklären und überprüfen können. Die Schwierigkeit liegt darin, dass ein Agent mit veränderlichen Regeln für denselben Fall an verschiedenen Tagen unterschiedliche Antworten geben kann. Wird mit jeder Entscheidung die Regel- und Gedächtnisversion protokolliert und werden neue Regeln durch eine Person freigegeben, bleibt jede Entscheidung später nachvollziehbar und überprüfbar.
Warum hilft ein Weg zur menschlichen Überprüfung beim Gewinnen von Kunden?
Einkäufer aus Finanz, Versicherung, Personalwesen und öffentlicher Hand fragen in Ausschreibungen häufig, wie eine Person ein automatisiertes Ergebnis anfechten kann. Ein dokumentierter Überprüfungsweg mit benannter Rolle, Antwortfrist und Entscheidungsprotokoll beantwortet die Frage, bevor sie gestellt wird, und verkürzt die Sicherheits- und Compliance-Prüfung.
Genügt ein Mensch, der auf «Genehmigen» klickt, um Art. 21 zu vermeiden?
Nicht unbedingt. Der Artikel spricht von Entscheidungen, die ausschliesslich auf einer automatisierten Bearbeitung beruhen. Wer das Ergebnis des Agenten nur bestätigt, ohne die Zeit, die Daten oder die Befugnis zum Widerspruch, gilt möglicherweise nicht als echte menschliche Entscheidung. Messen Sie, wie oft Prüfende das Ergebnis ändern. Eine Quote von null ist ein Warnzeichen.