Die meisten Kommentare zum EU AI Act konzentrieren sich auf Anbieter von Basismodellen und grosse Technologieunternehmen. Diese Lesart hat viele KMU-Inhaber und Betriebsverantwortliche dazu verleitet, das Thema unter “nicht unser Problem” abzulegen — und dann munter KI-Agenten zu bauen oder einzukaufen, ohne der Regulierung einen zweiten Gedanken zu widmen.
Das ist ein Fehler, den man korrigieren sollte, bevor er teuer wird.
Der EU AI Act gilt für jede Organisation, die ein KI-System in der EU einsetzt oder in Kontexten, die Menschen in der EU betreffen. Das umfasst ein Schweizer Unternehmen, das einen KI-Agenten zur Sichtung von Stellenbewerbungen einsetzt, einen Handelsbetrieb, der ihn für Kundeninteraktionen nutzt, oder eine Logistikfirma, deren KI-System Routing-Entscheidungen beeinflusst, die Mitarbeitende betreffen. Wer KI-Agenten einsetzt — oder dies plant — für den gilt das Gesetz bereits heute.
Dieser Artikel übersetzt das Risiko-Framework der Verordnung in einen praxisnahen Entscheidungsbaum: welche Agenten-Anwendungsfälle betroffen sind, was Compliance in der Praxis wirklich verlangt und wann die Pflichten greifen.
Warum “KI-Agent” und “KI-System” unter der Verordnung nicht dasselbe sind
Der EU AI Act verwendet den Begriff KI-System und definiert ihn weit: als maschinenbasiertes System, das auf Basis von Eingaben ableitet, wie es Ausgaben erzeugt — etwa Inhalte, Entscheidungen, Empfehlungen oder Vorhersagen. Ein KI-Agent — ein System, das seine Umgebung wahrnimmt, Entscheidungen trifft und Massnahmen ergreift, um Ziele zu erreichen — fällt klar unter diese Definition.
Für die Compliance entscheidend ist nicht die Bezeichnung, die Sie dem System geben. Es kommt darauf an, was das System tut und wen es betrifft. Ein Chatbot, der FAQ-Fragen beantwortet, nimmt eine andere regulatorische Position ein als ein Agent, der Kreditanträge bewertet, Stellenbewerber beurteilt oder die Leistung von Mitarbeitenden überwacht. Gleiche Architektur — vollständig unterschiedliche Compliance-Profile. Das Verständnis dieser Unterschiede beginnt mit den vier Risikokategorien der Verordnung.
Die vier Risikostufen — und wo KI-Agenten einzuordnen sind
Inakzeptables Risiko: vollständiges Verbot
Hierbei handelt es sich um Systeme, die die Verordnung vollständig verbietet: Social Scoring durch Behörden, Echtzeit-Biometrie-Überwachung im öffentlichen Raum, Systeme, die Schwachstellen ausnutzen, um Verhalten zu manipulieren. Kaum eine kommerzielle Agenten-Implementierung kommt dieser Stufe auch nur nahe. Wenn Ihre es tut, haben Sie grössere Probleme als Compliance.
Hohes Risiko: erhebliche Pflichten
Hier liegt der eigentliche Schwerpunkt der Verordnung — und hier stellen viele Unternehmen überrascht fest, wo ihre Agenten einzuordnen sind.
Hochrisiko-KI-Systeme umfassen solche, die eingesetzt werden in:
- Beschäftigung und HR: Einstellung, Vorauswahl, Beförderung, Leistungsüberwachung, Aufgabenzuweisung
- Bildung: Zulassungsentscheidungen, Beurteilung von Lernergebnissen
- Zugang zu wesentlichen Dienstleistungen: Kreditscoring, Versicherungsrisikobewertung, Anspruchsberechtigung
- Kritische Infrastruktur: Systeme, die Versorgungseinrichtungen, Wasser oder Verkehr betreffen
- Strafverfolgung und Justiz: Predictive Policing, Beweisbewertung, Strafzumessungsunterstützung
- Migration: Grenzkontrollen, Asylverfahren
Wenn Ihr KI-Agent in einem dieser Bereiche tätig ist — auch nur als unterstützendes Werkzeug, nicht als abschliessender Entscheider — wird er aller Wahrscheinlichkeit nach als hochriskant eingestuft.
Was Hochrisiko-Compliance konkret verlangt:
- Risikomanagementsystem: dokumentierter, laufender Prozess zur Identifikation und Minderung von Risiken über den gesamten Lebenszyklus
- Daten-Governance: Trainings-, Validierungs- und Testdatensätze, die Qualitäts- und Repräsentativitätsstandards erfüllen
- Technische Dokumentation: eine Aufzeichnung von Design, Fähigkeiten und Grenzen, die für eine behördliche Überprüfung ausreicht
- Transparenz und menschliche Aufsicht: Nutzer müssen wissen, dass sie mit einem KI-System interagieren; eine wirksame menschliche Aufsicht muss vor folgenreichen Entscheidungen eingebaut sein
- Genauigkeit, Robustheit und Cybersicherheit: konsistente Leistung und Schutz vor adversarialen Eingriffen
- Registrierung: Die Registrierung in der KI-Datenbank der EU (Artikel 71) ist vor der Inbetriebnahme von Hochrisiko-Systemen des Anhangs III erforderlich. Nach dem ursprünglichen Gesetzestext galt dies ab August 2026; die vorläufige Einigung zum “Digital Omnibus” vom 7. Mai 2026 sieht einen Aufschub bis zum 2. Dezember 2027 vor, vorbehaltlich der formellen Veröffentlichung im Amtsblatt
Begrenztes Risiko: Transparenzpflichten
Diese Stufe betrifft Systeme mit engeren Interaktionsrisiken — vor allem Chatbots und KI, die synthetische Inhalte erzeugt. Die Hauptpflicht ist die Offenlegung: Nutzer müssen wissen, dass sie mit einem KI-System und nicht mit einem Menschen interagieren. Ein Agent, der Kundenservicegespräche führt, Buchungsbestätigungen abwickelt oder Support-Anfragen bearbeitet, fällt hier hinein, sofern er keine folgenreichen Einzelentscheidungen trifft.
Viele kundenseitige KI-Agenten von KMU landen in dieser Kategorie. Der Compliance-Aufwand ist gering — aber die Offenlegungspflicht ist nicht optional.
Minimales Risiko: keine spezifischen Pflichten
Spam-Filter, KI-gestützte Wiedergabelisten, einfache Inhaltsoptimierungstools. Diese liegen ausserhalb des Geltungsbereichs wesentlicher Compliance-Anforderungen, auch wenn das allgemeine Produkthaftungs- und Verbraucherschutzrecht weiterhin gilt.
Ein praxistauglicher Entscheidungsbaum für Ihre Anwendungsfälle
Prüfen Sie jeden Ihrer eingesetzten oder geplanten Agenten anhand dieser vier Fragen:
1. Trifft der Agent Entscheidungen über einzelne Personen oder trägt er wesentlich dazu bei? Wenn ja, weiter. Wenn nein (z. B. interne Datenverarbeitung, System-zu-System-Automatisierung ohne Auswirkungen auf Menschen), ist das Risikoniveau wahrscheinlich minimal.
2. Betreffen diese Entscheidungen Beschäftigung, Kredit, wesentliche Dienstleistungen, Bildung oder Strafverfolgung? Wenn ja, handelt es sich fast sicher um ein Hochrisikosystem. Beginnen Sie jetzt mit den Dokumentations- und Aufsichtsanforderungen.
3. Interagiert der Agent direkt mit Menschen auf eine menschenähnliche Weise (Text, Sprache)? Wenn ja und kein Hochrisiko vorliegt, befinden Sie sich in der Stufe begrenzten Risikos. Sie benötigen eine klare, unmissverständliche Offenlegung, dass Nutzer mit einer KI sprechen.
4. Ist der Agent autonom genug, um folgenreiche Massnahmen ohne menschliche Prüfung zu ergreifen? Selbst wenn der Anwendungsfall nicht in eine benannte Hochrisikokategorie fällt, kann agentische Autonomie — besonders in agentischen Workflows, die mehrere Entscheidungen verketten — behördliche Aufmerksamkeit auf sich ziehen. Je folgenreicher und irreversibler die Aktionen, desto mehr sollten Sie das System aus Governance-Sicht wie ein Hochrisikosystem behandeln, unabhängig von der formellen Einstufung.
Zeitplan: Wann greifen welche Pflichten?
Der EU AI Act ist im August 2024 in Kraft getreten und wird schrittweise umgesetzt:
- Verbotene Praktiken: verboten ab Februar 2025
- GPAI-Modelle und allgemeine Pflichten: ab August 2025
- Hochrisikosysteme (Anhang I — regulierte Sektoren): Nach dem ursprünglichen Gesetzestext gelten die Anforderungen ab August 2026; eine vorläufige politische Einigung vom 7. Mai 2026 (“Digital Omnibus”) sieht einen Aufschub bis zum 2. August 2028 vor, vorbehaltlich der formellen Veröffentlichung im Amtsblatt
- Hochrisikosysteme (Anhang III — Beschäftigung, Bildung, Dienstleistungen): Nach dem ursprünglichen Gesetzestext ab August 2026; die vorläufige Einigung des Digital Omnibus sieht einen Aufschub bis zum 2. Dezember 2027 vor, vorbehaltlich der formellen Veröffentlichung im Amtsblatt — aktuellen Stand siehe EU AI Act Umsetzungszeitplan
- Transparenzpflichten (Artikel 50 — Offenlegung begrenztes Risiko): August 2026, unverändert — der Omnibus schiebt diese nicht auf
- Vollständige Anwendung: August 2026 bleibt das massgebliche Datum für Transparenz- und Governance-Pflichten; die Hochrisikopflichten nach Anhang III werden auf den 2. Dezember 2027 verschoben, jene für eingebettete Produkte nach Anhang I auf den 2. August 2028, gemäss der vorläufigen Einigung und vorbehaltlich der formellen Annahme
Solange der Digital Omnibus nicht formell im Amtsblatt veröffentlicht ist, bleibt August 2026 die rechtlich massgebliche Frist für Hochrisikosysteme. In der Praxis wird weitgehend damit gerechnet, dass der Aufschub vor diesem Datum förmlich beschlossen wird.
Für die meisten KMU, die KI-Agenten einsetzen, sind die Transparenzpflichten (August 2026) unmittelbar relevant, während sich die Hochrisiko-Compliance-Fristen nun erheblich verlängern — aber das mindert die Argumente für einen frühen Start nicht. Dokumentation, Risikomanagementprozesse und Aufsichtsmechanismen brauchen Zeit, um korrekt aufgebaut zu werden.
Behandeln Sie Compliance als Anforderung, die während der Entwicklung eingebaut wird — nicht als nachträglichen Retrofit nach der Inbetriebnahme. Organisationen, die das jetzt tun, werden in einer fundamental besseren Position sein.
Was die Verordnung NICHT verlangt (Irrtümer ausgeräumt)
Sie verbietet keine KI im HR. Ein KI-Agent, der Kandidaten vorselektiert oder Vorstellungsgespräche plant, ist nicht verboten — er ist reguliert. Mit der richtigen Aufsicht, Dokumentation und Offenlegung bleibt HR-Automatisierung vollständig umsetzbar.
Sie erfordert keine EU-Genehmigung vor der Inbetriebnahme. Es gibt keine Marktzulassungsbehörde wie bei Arzneimitteln. Das Modell ähnelt eher der Produkthaftung: Sie tragen die Verantwortung für das System, das Sie in Betrieb nehmen.
Sie gilt nicht nur für KI-Unternehmen. Wenn Sie ein Schweizer Fertigungsunternehmen sind, das einen Agenten zur Überwachung der Mitarbeiterleistung einsetzt, sind Sie der “Betreiber” im Sinne der Verordnung — und die Pflichten gelten für Sie, nicht nur für das Unternehmen, das das zugrunde liegende Modell entwickelt hat.
Sie verlangt keine perfekte KI. Die Verordnung fordert nachweisliche Sorgfalt: dokumentierte Risikobewertung, Tests, menschliche Aufsicht und korrekte Offenlegung. Eine vertretbare Unvollkommenheit in einem gut gesteuerten System ist eine grundlegend andere Position als eine undokumentierte Inbetriebnahme.
Worauf Schweizer Unternehmen besonders achten müssen
Die Schweiz ist kein EU-Mitgliedstaat, aber der AI Act gilt für Organisationen, deren KI-Systeme Auswirkungen auf Menschen in der EU haben. Ein Schweizer Unternehmen mit EU-Kunden, EU-Mitarbeitenden oder EU-seitigen Dienstleistungen muss die Verordnung ernst nehmen.
Die Schweiz hat ausserdem eigene Datenschutzpflichten nach dem revDSG (revidiertes Datenschutzgesetz), das mit der Art und Weise interagiert, wie KI-Agenten Personendaten verarbeiten. Die beiden Rahmenwerke ergänzen sich, sind aber nicht identisch — die Einzelheiten finden Sie in unserem Artikel KI-Agenten und Schweizer Datenschutz: das revDSG in der Praxis.
Für Unternehmen, die in beiden Kontexten tätig sind, ist eine einzige Compliance-Architektur, die beide Anforderungen erfüllt, fast immer effizienter als zwei parallele Workstreams.
Hochrisiko-Compliance ist ein Engineering-Problem, nicht nur ein Policy-Thema
Die meisten Hochrisiko-Anforderungen des EU AI Act sind keine Formularbürokratie. Sie erfordern Entscheidungen, die während des System-Designs getroffen werden: wie Aufsichtsmechanismen eingebaut werden, wie die Datenqualität überwacht wird, wie Logging die Auditierbarkeit unterstützt. Eine sinnvolle Human-in-the-Loop-Anforderung lässt sich nicht nachträglich auf einen Agenten aufpfropfen, der darauf ausgelegt ist, autonom über Beschäftigungsentscheidungen zu urteilen — der Agent muss neu konzipiert werden.
Deshalb kann KI-Agenten-Governance kein Nachgedanke sein. Organisationen, die das gut handhaben, behandeln Compliance-Anforderungen von Beginn an als Design-Constraints — gleichrangig mit Sicherheit und Performance.
Wo Sie anfangen, wenn Sie sich nicht sicher sind, wo Sie stehen
Wenn Sie KI-Agenten im Einsatz haben — oder darauf hinarbeiten — beginnen Sie damit, jedes System der wahrscheinlichsten Risikostufe zuzuordnen. Für die meisten KMU ist das mit der richtigen Unterstützung eine halbtägige Übung, die drei Fragen beantwortet:
- Sind unsere aktuellen oder geplanten Agenten hochriskant?
- Was müssen wir dokumentieren, und bis wann?
- Welche Systeme benötigen menschliche Aufsichtsmechanismen, und wie sollen diese funktionieren?
Wenn Sie Hilfe bei dieser Klassifizierungsübung benötigen, führt unser Team für KI-Strategie genau dafür strukturierte Assessments durch. Sie können auch erkunden, wie Compliance mit Ihrer übergreifenden Agenten-Sicherheitslage zusammenhängt, in unserem Artikel zu Sicherheitsrisiken von KI-Agenten.
Möchten Sie wissen, wo Ihre KI-Agenten unter dem EU AI Act stehen? Buchen Sie ein 30-minütiges Compliance-Scoping-Gespräch mit Orange ITS — wir ordnen Ihre Anwendungsfälle den Risikostufen zu und geben Ihnen ein klares Bild davon, was erforderlich ist und wann.