Skip to content
Mit einem KI-Agenten chatten
Business und Governance

Compliance für selbst-gehostete KI: Was sich ändert, wenn Sie die Infrastruktur kontrollieren

Orange ITS — KI-Engineering-Team 9 Min. Lesezeit

Ein Compliance-Beauftragter eines Krankenhaussystems genehmigt einen selbst-gehosteten KI-Scribe, weil er Patientensprachaufzeichnungen von den Servern eines Anbieters fernhält. Auf dem Papier sieht die Compliance-Frage gelöst aus. Ein realer 2026-Rechtsstreit gegen Sutter Health und MemorialCare zeigt Ihnen, warum dieses Vertrauen irreführend sein kann: Die Klage behauptet, dass ihr KI-Dokumentationssystem klinische Notizen ohne angemessene Patienten-Einwilligung generierte, und die Infrastruktur-Wahl hatte damit nichts zu tun. Niemand hatte bestätigt, dass Patienten wussten, dass sie überhaupt aufgezeichnet wurden.

Diese Lücke zwischen “wir kontrollieren die Infrastruktur” und “wir sind konform” taucht überall dort auf, wo selbst-gehostete KI als regulatorischer Shortcut angepriesen wird, von EU-Banken, die die Vendor-Risk-Bestimmungen von DORA lesen, bis zu US-Gesundheitsgruppen, die auf HIPAA-Audits reagieren, bis zu Unternehmen, die Chinas Datenlokalisierungsregeln auf die harte Tour entdecken. Selbst-Hosting ist ein echtes und oft notwendiges Kontrollmittel. Es ist kein Compliance-Programm. Diesen Unterschied richtig zu verstehen, bevor Sie Engineering-Budget für KI-Entwicklung einsetzen, die um Infrastruktur gebaut ist, die Sie besitzen, ist der Unterschied zwischen dem Lösen eines echten regulatorischen Problems und dem Bau eines teuren Server-Racks, das immer noch einen Audit nicht besteht.

Dieser Artikel behandelt nicht den EU AI Act und KI-Agenten spezifisch, was wir anderswo ausführlicher behandeln. Er behandelt die breitere Frage, die jede regulierte Organisation schliesslich stellt: Wenn wir das Modell selbst betreiben, welches Compliance-Problem löst das wirklich, und was bleibt trotzdem auf unserem Tisch?

Was Selbst-Hosting wirklich aus Ihrem Risikoprofil entfernt

Der konkrete Vorteil ist enger als die meisten Anbieter-Pitches nahelegen und auch wertvoller als Skeptiker ihm Kredit geben. Selbst-Hosting hält jeden Prompt, jede Antwort und jedes Audit-Log in der Infrastruktur, die Sie kontrollieren, was bedeutet, dass Sie nicht mehr von der Subunternehmer-Kette eines Dritt-Prozessors, Datentransfer-Sicherungsmassnahmen oder vertraglichen Versprechungen über den Ort der Inferenz abhängen. Prediction Guards technische Bewertung selbst-gehosteter versus Cloud-Bereitstellung stellt dies als an Ihrem Perimeter durchgesetzte Governance dar, nicht als Governance, auf die Sie darauf vertrauen müssen, dass ein Anbieter sie in Ihrem Namen durchsetzt.

Die klarste Illustration, wie dieses Risiko aussieht, wenn es schiefgeht, ist Metas DSGVO-Geldbusse von 1,2 Milliarden EUR, 2023 ausgestellt, nachdem die irische Datenschutzkommission festgestellt hatte, dass die Übertragung europäischer Nutzerdaten in die USA allein mit Standard-Vertragsbedingungen nicht ausreichend gegen Zugriff der US-Regierung schützt. Dies war kein Fall von Meta, das Daten unrechtmäßig in seinen eigenen Systemen verarbeitete. Es war ein Fall, in dem Daten über eine Jurisdiktionsgrenze durch Infrastruktur gingen, auf die eine fremde Regierung unter Gesetzen wie dem US CLOUD Act Zugriff erzwingen konnte.

Selbst-Hosting in der Jurisdiktion, in der Ihre Daten entstehen, beseitigt genau diese Exposition. Es gibt keinen Subunternehmer zu audieren, keine Standard-Vertragsbestimmungen zu verteidigen, falls Regulierer Grenztransfermechanismen wieder in Frage stellen, und keine Abhängigkeit davon, dass eine Datenschutz-Vereinbarung eines Anbieters unter zukünftiger rechtlicher Anfechtung besteht. Das ist ein echtes, spezifisches, gut dokumentiertes Risikokategorie und das stärkste ehrliche Argument für Selbst-Hosting aus regulatorischen Gründen.

Die Regulierungslandkarte, die Sie wirklich navigieren

Die meisten Unternehmen, die selbst-gehostete KI evaluieren, arbeiten nicht unter einer einzigen Regulierung. Sie versuchen, mehrere gleichzeitig zu erfüllen, und die Anforderungen zeigen nicht in die gleiche Richtung.

RahmenJurisdiktionErzwingt Selbst-Hosting?Was es wirklich verlangt
DSGVOEU / EWRNeinRechtsgrundlage, DPIA wenn ausgelöst, angemessene Transferschutzbestimmungen, Benachrichtigung
EU AI Act Artikel 50EUNeinOffenlegung, dass eine Person mit KI interagiert, unabhängig vom Hosting-Modell
HIPAA-SicherheitsregelVereinigte StaatenNeinAdministrative, physische und technische Sicherungsmassnahmen für geschützte Gesundheitsinformationen
CCPA / California ADMTKalifornien, USANeinVorab-Notiz und Opt-out-Rechte für automatisierte Entscheidungen, verbindlich ab Januar 2027
DORA Artikel 28EU FinanzsektorFaktisch, für KernsystemeVertragliche und oft technische Datenspeicherort-Garantien für kritische ICT-Anbieter
PIPL / CSL-ÄnderungenChinaFaktisch, jaPersonenbezogene Daten, die in China erfasst werden, bleiben auf chinesischer Infrastruktur

Schauen Sie sich diese Tabelle an und ein Muster ergibt sich. Ausserhalb Chinas nennt fast keine dieser Rahmen Selbst-Hosting als rechtliche Anforderung. Was sie verlangen, ist rechtmässige Verarbeitung, dokumentierte Sicherungsmassnahmen und im Fall des EU AI Act Transparenz über die Beteiligung von KI. Artikel-50-Verpflichtungen sind am 2. August 2026 in Kraft getreten und wurden bewusst von der digitalen Omnibus-Verschiebung nicht angetastet, die hochriskante Verpflichtungen aus Anhang III, wie automatisierte Einstellungs- und Kreditbewertungssysteme, auf den 2. Dezember 2027 verschoben hat. Ein selbst-gehosteter Einstellungsassistent muss Kandidaten immer noch mitteilen, dass sie von KI bewertet werden. Wo das Modell läuft, ändert nichts an dieser Pflicht.

DORA ist der interessante Mittelweg. Die Verordnung selbst verlangt vertragliche Garantien zu Datenspeicherort und Vendor-Risk-Dokumentation für kritische Dritte. Sie nennt niemals Selbst-Hosting als erforderlichen Mechanismus. In der Praxis stellen EU-Banken, die Kreditvergabe oder Betrugsbekämpfung betreiben, fest, dass vertragliche Garantien allein ihre eigenen Risikokomitees oder Regulatoren nicht zufriedenstellen, die technische Durchsetzung statt Versprechung in einer Vendor-Vereinbarung erwarten. Diese Erwartung, nicht der Gesetzeswortlaut, drängt Kern-Finanzsysteme zu selbst-gehosteter oder dedizierter privater Infrastruktur. In den Vereinigten Staaten erzeugt die Safeguards Rule des Gramm-Leach-Bliley Act eine ähnliche laufende Vendor-Aufsichtspflicht für Finanzinstitute, ohne ein Hosting-Modell zu nennen.

China ist, wo das Muster zusammenbricht

Jede andere Jurisdiktion in diesem Artikel behandelt Selbst-Hosting als eine Option unter mehreren zur Erfüllung einer Datenschutz- oder Transparenzverpflichtung. China nicht.

Das Personal Information Protection Law verlangt seit 2021, dass auf chinesischem Territorium erfasste personenbezogene Daten auf chinesischen Servern bleiben, und es hat echte Zähne: Artikel 66 des PIPL erlaubt Geldbussen bis zu 5 Prozent des Jahresumsatzes für schwere Verstösse, obwohl chinesisches Recht nicht klar spezifiziert, ob dieser Prozentsatz auf weltweiten oder nur chinesischen Umsatz berechnet wird. Was sich in letzter Zeit geändert hat, ist die Durchsetzungsreichweite. Die Änderungen der Cybersecurity-Gesetze, die am 1. Januar 2026 in Kraft traten, erweiterten die Durchsetzung über Betreiber kritischer Infrastruktur auf einen breiteren Satz von Netz- und Datenbetreibern und fügten eine allgemeine Sprache zur staatlichen Unterstützung der KI-Governance hinzu, obwohl die Änderung selbst keine konkreten neuen KI-spezifischen Audit-Verpflichtungen ausmacht. Ein US- oder EU-Unternehmen, das KI-Systeme betreibt, die chinesische Personendaten berühren, benötigt immer noch Modelle, Trainings-Daten und Inferenz-Logs, die auf chinesisch kontrollierter Infrastruktur wie Alibaba Cloud oder Tencent Cloud laufen, um Chinas PIPL-Lokalisierungsanforderung zu erfüllen. Eine fremde Cloud-API kann diese Daten nicht legal verarbeiten.

Das ist wert, ausdrücklich zu nennen, denn es ist die einzige Jurisdiktion in diesem Artikel, wo “Selbst-Hosting löst Compliance” quasi buchstäblich wahr ist, und Unternehmen nehmen manchmal an, dass diese Logik überall sonst, wo sie tätig sind, gilt. Sie tut es nicht. Chinas Lokalisierungsregime ist nach globalen Massnahmen ungewöhnlich streng. DSGVO, HIPAA oder CCPA wie wenn sie die gleiche harte Anforderung stellten, zu behandeln führt zu Überingeneurung von Infrastruktur, die Regulierung anderswo nie wirklich verlangte.

Datenspeicherort bedeutet mehr als den Standort des laufenden Modells

Hier ist, wo viele ansonsten wohlmeinende Compliance-Programme stillschweigend fehlschlagen. “Datenspeicherort” wird als Frage zum Standort des Modell-Servers behandelt, wenn die echte Verpflichtung jeden Ort abdeckt, an dem Kundendaten das System berühren: Prompt-Logs, generierte Ausgaben, Fine-Tuning- und Retraining-Datensätze, die Vektor-Embeddings hinter dem Retrieval und Observability-Daten, die an Monitoring- und Evaluation-Tools gesendet werden.

Nodes.inc, das eine konkurrierende Zero-Egress-Einstellungsplattform verkauft, argumentiert, dass die meisten KI-Einstellungsanbieter, die US-Datenspeicherort beanspruchen, Kandidatendaten immer noch über externe Modell-APIs für Bewertung, Evaluation oder Logging leiten. Behandeln Sie den spezifischen Vergleich mit dem Skeptizismus aufgrund irgendeines Anbieters, der sich gegen die etablierten Konkurrenten präsentiert, gegen die er konkurriert, aber der zugrunde liegende architektonische Punkt hängt nicht davon ab, wessen Forschung Sie vertrauen: Ein Speicherort-Versprechen in einem Vertrag und eine Speicherort-Garantie im echten Datenfluss sind zwei verschiedene Dinge, und nur einer davon übersteht ein Netzwerk-Audit.

Die gleiche Fehlerschiene gilt genauso leicht für eine selbst-gehostete Bereitstellung. Das Modell selbst in Ihrer eigenen Infrastruktur zu hosten bedeutet nichts, wenn Prompts auf einer US-basierten Observability-Platform geloggt werden, wenn Evaluations-Samples von einer externen Modell-API bewertet werden oder wenn eine Retrieval-Pipeline einen Drittanbieter-Embedding-Service aufruft. Speicherort zu beweisen bedeutet zu zeigen, dass jedes Kundenbyte, einschliesslich Logs, Embeddings und Evaluation-Traffic, innerhalb der Grenze bleibt, die Sie beanspruchen.

Was Selbst-Hosting nicht entfernt

Das ist der Teil, der in den meisten Anbieter-Pitches für selbst-gehostete KI übersprungen wird, und er ist der ehrliche Kern dieses Artikels.

VerpflichtungImmer noch erforderlich, wenn selbst-gehostet?Immer noch erforderlich bei gut verwalteter Cloud?
Rechtsgrundlage für VerarbeitungJaJa
Datenschutz-FolgenabschätzungJaJa
Aufbewahrung- und LöschrichtlinieJaJa
BenachrichtigungsverfahrenJaJa
EU AI Act Artikel 50-OffenlegungJaJa
Sicherheitskontrollen, Verschlüsselung, Zugriffs-LoggingJaJa
DSGVO Artikel 30 Verarbeitungs-RegisterEinfacher, kein Processor zu verfolgendKomplexer
DatenverarbeitungsvertragNicht erforderlich, Sie sind VerantwortlicherErforderlich

Selbst-Hosting vereinfacht eine Zeile dieser Liste und lässt den Rest unverändert. Was es stattdessen hinzufügt, ist operativer Aufwand, den viele Organisationen von Anfang an unterschätzen: Patching, Zertifikat-Rotation, Monitoring und Audit-Log-Integritätsarbeit, die ein verwalteter Anbieter sonst als Teil des Abonnements absorbiert. Cloud Security Alliance-Forschung zu selbst-gehosteten LLM-Bereitstellungen kennzeichnet ein verwandtes Risiko, das leicht zu übersehen ist: Ein vergiftetes oder manipuliertes Modell-Artefakt kann verwendet werden, um Anmeldeinformationen zu exfiltrieren, ein Supply-Chain-Risiko spezifisch für das Ausführen Ihrer eigenen Modell-Infrastruktur im Gegensatz zum Aufrufen eines bereits verifiziert Anbieter-Endpunkts. Modell-Lizenzierung fügt ein leiseres Risiko oben hinzu: Ein erheblicher Anteil öffentlich gehosteter Open-Weight-Modelle trägt unvollständige oder widersprüchliche Lizenz-Metadaten, was sein eigenes Compliance-Risiko ist, wenn Sie ein Modell ohne selbst überprüfte Bedingungen bereitstellen.

Der Sutter Health- und MemorialCare-Rechtsstreit, der oben in diesem Artikel erwähnt wird, macht den Punkt konkret. Das behauptete Versäumnis war unzureichende Patienten-Einwilligung für ein KI-System, das klinische Gespräche aufzeichnet und zusammenfasst. Ob ein solches System auf den eigenen Servern eines Krankenhauses oder der Cloud eines Anbieters läuft, sieht ein Einwilligungs-Versäumnis identisch aus. Selbst-Hosting kann ein Rechtsgrundlagen-Problem nicht heilen, und es so zu behandeln, als würde es das tun, ist, wie Compliance-Teams am Ende selbstsicher die falsche Sache tun.

Ein vierfacher Test vor der Verpflichtung

Angesichts der operativen Kosten lohnt sich Selbst-Hosting für einen kleineren Satz von Situationen, als die Vermarktung darum nahelegt. Prediction Guards Diagnostischer Rahmen für regulierte Organisationen reduziert die Entscheidung auf vier Gates, die es wert sind, durchgegangen zu werden, bevor Sie sich verpflichten:

  1. Daten-Gate. Verarbeiten Sie geschützte Gesundheitsinformationen, exportkontrollierte technische Daten oder personenbezogene Daten unter strengem Lokalisierungsgesetz? Wenn ja, ist Selbst-Hosting quasi erforderlich.
  2. Audit-Gate. Benötigen Sie Audit-Logs, die vollständig in Ihrer Infrastruktur gespeichert und kontrolliert werden, statt aus einem Anbieter-Dashboard exportiert? Wenn ja, sind externe APIs normalerweise unzureichend.
  3. Portierbarkeits-Gate. Benötigen Sie, das zugrunde liegende Modell zu wechseln, ohne Ihre Governance und Evaluation-Pipeline um ein neues Anbieter-Format neu zu konstruieren? Wenn ja, wird Vendor-Lock-in sein eigenes Risiko zu verwalten.
  4. Volumen-Gate. Verarbeiten Sie genug Token täglich, dass ein direkter Kostenvergleich zwischen GPU-Infrastruktur und API-Pricing wirklich Besitz bevorzugt? Das ist eine echte finanzielle Frage, die ihren eigenen ehrlichen Kalkül verdient, nicht im regulatorischen Fall zusammengefasst.

Für wen das passt

  • Gesundheitsorganisationen unter vertraglichem Druck für reine USA-Speicherung und anbieterneutrale Audit-Trails
  • Finanzinstitute, die Kern-Kreditvergabe-, Betrugserkennung oder Handelssysteme unter DORA-gleichwertigen Vendor-Risk-Erwartungen betreiben
  • Jedes Unternehmen, das in China erfasste personenbezogene Daten verarbeitet
  • Organisationen mit nachhaltigen, hochvolumigen Workloads, wo GPU-Ökonomie bereits Besitz unabhängig von Compliance bevorzugt

Für wen das nicht passt

  • Early-Stage-Teams, die einen Use Case noch validieren, bevor sie Kapital für Infrastruktur binden
  • Unternehmen, die öffentliche oder nicht-sensible Daten ohne regulatorischen Trigger verarbeiten
  • Organisationen ohne glaubhaften Plan für die laufende MLOps-, Patch- und Evaluation-Arbeit, die Selbst-Hosting erfordert
  • Situationen, wo eine verwaltete Platform mit unterzeichnetem Datenverarbeitungsvertrag, transparente Unterauftragnehmer-Liste und Audit-Rechte das anwendbare Framework bereits erfüllt

Das Compliance-Programm aufbauen, das Selbst-Hosting nicht gibt

Nichts hiervon argumentiert gegen Selbst-Hosting, wo es passt. Es argumentiert gegen die Behandlung der Infrastruktur-Wahl als Ersatz für die Governance-Arbeit, die Regulierung wirklich verlangt: Eine dokumentierte Rechtsgrundlage, einen Aufbewahrungsplan, den jemand durchsetzt, eine DPIA, wo das Gesetz sie verlangt, und einen Transparenzmechanismus, der die KI-Beteiligung der betroffenen Personen offenbart. Diese bestehen unabhängig davon, wo das Modell läuft, und ein selbst-gehostetes System, das ohne diese gebaut wird, besteht einen Audit genau so schnell nicht wie ein Cloud-System.

Organisationen, die das richtig machen, behandeln Selbst-Hosting als eine Infrastruktur-Entscheidung, die nur nach der Governance-Anforderungen bereits kartographiert sind. Das ist auch, praktisch gesprochen, wenn die Engineering-Arbeit am schnellsten läuft, denn ein System, das um bekannte Compliance-Anforderungen von Tag eins herum architektiert ist, vermeidet den Retrofit, den eine Governance-Schicht, die angebolt wird, später normalerweise erzwingt. Unser verwandte Artikel zu On-Premise-KI für KMU behandelt die operative Seite dieses Builds in mehr Detail, einschliesslich der Kompetenzlücke, die die meisten Selbst-Hosting-Versuche unabhängig vom regulatorischen Treiber dahinter zum Stolpern bringt, und die EU AI Act Hochrisikotermin-Aktualisierung behandelt, was der Dezember-2027-Termin spezifisch für bereits in Produktion befindliche Systeme ändert.

Häufige Fragen

Macht das Selbst-Hosting eines KI-Modells unser Unternehmen DSGVO-konform?

Nein. Selbst-Hosting eliminiert das Risiko einer unkontrollierten Datenübertragung an Dritte, genau das Versäumnis, das hinter der DSGVO-Geldbusse von 1,2 Milliarden EUR gegen Meta 2023 stand, aber die DSGVO verlangt weiterhin eine dokumentierte Rechtsgrundlage für die Verarbeitung, eine Datenschutz-Folgenabschätzung, wenn eine ausgelöst wird, eine Aufbewahrungs- und Löschrichtlinie sowie Benachrichtigungsverfahren. Diese Verpflichtungen liegen beim Verantwortlichen, unabhängig davon, wo das Modell läuft.

Gilt die Transparenzanforderung von Artikel 50 des EU AI Act auch für selbst-gehostete KI?

Ja. Artikel 50 gilt seit dem 2. August 2026 und verlangt Offenlegung, wann immer eine Person mit einem KI-System interagiert, sowohl in für Menschen lesbarer als auch in maschinenlesbarer Form, unabhängig davon, ob das System auf Ihren eigenen Servern oder in einer Anbieter-Cloud läuft. Das Selbst-Hosting eines Einstellungsassistenten oder eines Support-Chatbots befreit davon nicht, Kandidaten oder Kunden mitzuteilen, dass sie mit KI interagieren.

Ist Selbst-Hosting von KI für HIPAA-Compliance erforderlich?

Nicht streng genommen. Die HIPAA-Sicherheitsregel erfordert angemessene Sicherungsmassnahmen für geschützte Gesundheitsinformationen, gibt aber nicht vor, wo Server physisch stehen müssen, daher kann ein vertraglich ordnungsgemäss verwalteter Cloud-Anbieter de facto HIPAA-konform sein. In der Praxis fordern viele Healthcare-Beschaffungsverträge nun Speicherung nur in den USA und anbieterneutrale Audit-Trails als Risikokontrollen, was Krankenhäuser und Kliniken zum Selbst-Hosting drängt, obwohl das Gesetz selbst dies nicht vorschreibt.

Was deckt Datenspeicherort wirklich ab, über den Standort des KI-Modells hinaus?

Datenspeicherort deckt jeden Ort ab, an dem Kundendaten das System berühren, einschliesslich Prompt-Logs, generierte Ausgaben, Fine-Tuning-Datensätze, Vektoreinbettungen für Retrieval und Observability-Daten, die an Monitoring-Tools gesendet werden. Anbieter, die einen bestimmten Datenspeicherort vertraglich zusagen, halten routinemäßig nicht jeden Teil dieses Datenflusses darin, besonders Logging- und Evaluation-Traffic zu Drittanbieter-Tools. Das Selbst-Hosting des Modells allein schliesst diese Lücke nicht, es sei denn, Sie audieren auch, wohin der Rest der Pipeline Daten sendet.

Wie wissen wir, ob Regulierung wirklich Selbst-Hosting erfordert, statt einer gut verwalteten Platform?

Selbst-Hosting wird quasi obligatorisch, wenn Sie mit geschützten Gesundheitsinformationen umgehen, exportkontrollierte Daten verarbeiten oder personenbezogene Daten unter strikten Lokalisierungsgesetzen wie Chinas PIPL, oder wenn Sie Audit-Logs brauchen, die Ihre Organisation direkt kontrolliert, statt eines vom Anbieter bereitgestellten Exports. Für die meisten anderen regulierten Workloads kann eine verwaltete Platform mit starken vertraglichen Sicherungsmassnahmen, Transparenz und Audit-Rechten DSGVO, HIPAA und ähnliche Rahmen erfüllen, ohne den Betriebsaufwand, eigene Infrastruktur zu betreiben.

Insights

Setzen Sie diese Ideen um

Ein 30-minütiges Gespräch genügt, um herauszufinden, ob ein KI-Agent zu Ihrem Workflow passt — und was er einbringen würde.