KI außer Kontrolle: Wer haftet in so einem Fall eigentlich?
FAQ Debatte um Sicherheit Wer haftet, wenn eine KI außer Kontrolle gerät? Stand: 29.09.2026 • 14:44 Uhr
Mehrere KI-Modelle haben zuletzt ungewolltes und nicht vorhergesehenes Verhalten gezeigt. Doch wer zahlt die Schäden, wenn KI-Agenten in fremde IT eindringen? Teilweise ist das juristisches Neuland.
OpenAI, Anthropic oder Meta - sie alle mussten zuletzt einräumen, dass ihre KI-Modelle in Tests weit außerhalb des eigentlichen Aufgabenprofils agierten und auch vor den IT-Systemen Dritter nicht Halt machten. Dies hat Befürchtungen vor unkontrollierten Risiken von Künstlicher Intelligenz neuen Auftrieb gegeben. Schwierig dabei ist besonders die Frage nach der Haftung.
KI außer Kontrolle? tagesschau24, 25.09.2026 • 20:00 Uhr Was haben die KI-Modelle konkret gemacht? Die KI-Modelle sind während Sicherheitstests aus ihrem Testumfeld ausgebrochen und haben anders agiert als vorgesehen. So hatte etwa ein KI-Programm von OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.
Auch die Modelle anderer Unternehmen wie Google und Anthropic hatten Unternehmen angegriffen. Bei Tests seiner Cybersicherheits-Fähigkeiten hackte sich etwa die Google-KI Gemini in Computersysteme anderer Unternehmen. Und auch die Künstliche Intelligenz von Anthropic drang bei Tests ungeplant in Computersysteme von drei Unternehmen ein.
Jenseits von Chatbots machen sich KI-Agenten immer wieder selbstständig und durchbrechen Grenzen. mehr
Im Fall eines Hackerangriffs können Geschädigte vor Zivilgerichten gegen die Verursacher vorgehen und Schadenersatz verlangen. Hierzu gehören Unternehmen und Organisationen, in deren IT-Systeme die KI-Agenten eingedrungen sind, sowie deren Beschäftigte.
Kunden haben ebenfalls die Möglichkeit zu klagen, falls ihre persönlichen Daten offengelegt wurden. Eine solche Veröffentlichung gab es jüngst durch ChatGPT: Wie OpenAI in der vergangenen Woche mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt.
Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ OpenAI offen. Es war der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Ob einer der betroffenen Nutzer rechtliche Schritte einleiten will, ist nicht bekannt.
Neben direkt Geschädigten wie angegriffenen Unternehmen und Kunden, deren Daten veröffentlicht wurden, könnten auch Investoren Schadenersatz verlangen, falls sie beweisen können, dass der Cyberangriff den Wert ihres Unternehmens gemindert hat. Darüber hinaus sind Behörden befugt, Ermittlungen einzuleiten, wenn der Verdacht besteht, dass die Verursacher von KI-Attacken gesetzliche Vorgaben missachtet oder Kontrollpflichten vernachlässigt haben.
Das Phänomen der Hackerangriffe durch autonome KI-Agenten ist zwar neu. Juristen zufolge bieten aber bestehende Gesetze mehrere Ansatzpunkte für die Klärung von Haftungsfragen. Kläger könnten unter anderem wegen Fahrlässigkeit vorgehen. Sie müssten dafür nachweisen, dass ein KI-Labor bei der Entwicklung, beim Testen oder beim Einsatz des Agenten keine ausreichenden Vorsichtsmaßnahmen ergriffen hat.
Sollten Hackerangriffe durch autonome KI-Modelle häufiger auftreten, kann einfacher argumentiert werden, dass solche Verstöße vorhersehbar waren. Es gibt auch Strafgesetze, auf deren Grundlage Behörden aktiv werden können: In Deutschland sind unter anderem das Ausspähen von Daten und die Störung von IT-Systemen strafbar.
Immer wieder gab es sicherheitsrelevante Vorfälle. So versuchten KI-Systeme in andere Systeme zu gelangen. mehr
In den USA halten Experten Klagen wegen eines Verstoßes gegen den sogenannten Computer Fraud and Abuse Act für möglich. Allerdings muss in diesen Fällen für eine Verurteilung meist Vorsatz nachgewiesen werden. Noch gibt es keine Verfahren, bei denen ein Gericht geprüft hat, wie Vorsatz bei einem autonom agierenden KI-Agenten festgestellt werden könnte.
Experten geben deshalb Strafverfahren gegen KI-Unternehmen wenig Aussichten auf Erfolg. Der US-Rechtsprofessor Ryan Calo von der University of Washington erklärte jüngst, dass Unternehmen oder Personen zumindest leichtfertig handeln müssten. Sie müssten "sich weitgehend sicher sein, dass die Straftat begangen werden würde, und das System trotzdem" entwickeln. Experten sehen daher mehr Möglichkeiten im US-Zivilrecht, in dem auch die Beweislast geringer ist.
In der Debatte um KI-Sicherheit erwägt Kalifornien eine radikale Vorgabe für Entwickler. mehr
Klagen werden sich voraussichtlich zunächst gegen den Entwickler des KI-Modells richten. Aber auch die Organisation, die den Agenten eingesetzt hat, könnte in Haftung genommen werden. Kunden haben darüber hinaus die Möglichkeit, den Betreiber des angegriffenen IT-Systems wegen mangelnder Sicherheitsvorkehrungen zu verklagen.
Ein einziger Vorfall könnte daher eine Vielzahl von Gerichtsverfahren nach sich ziehen, bei denen sich die Beteiligten auch gegenseitig rechtlich belangen.
Die Idee einer globalen Regulierung von Künstlicher Intelligenz droht an Macht- und Gewinnstreben zu scheitern. mehr
KI-Anbieter werden in Gerichtsverfahren voraussichtlich argumentieren, dass die Cyberangriffe unbeabsichtigt waren und sie angemessene Sicherheitsvorkehrungen getroffen haben. Die entscheidende Frage wird dabei sein, welche Maßnahmen Gerichte als angemessen betrachten. Beklagte werden zudem versuchen, den Vorwurf der Fahrlässigkeit mit dem Argument zu entkräften, dass die Aktionen der KI unvorhersehbar waren.
Dieses Thema im Programm: Das Erste | tagesschau | 13.09.2026 | 20:00 UhrDas Erste | tagesschau | 14.09.2026 | 17:00 Uhrtagesschau24 | Nachrichten | 22.09.2026 | 15:00 Uhrtagesschau.de | KI im UN-Sicherheitsrat: Tech-CEOs warnen vor Risiken | 24.09.2026 | 00:28 Uhrtagesschau24 | Nachrichten | 25.09.2026 | 20:00 UhrBayern 2 | Nachrichten | 26.09.2026 | 06:00 Uhrtagesschau24 | Nachrichten | 27.09.2026 | 10:00 UhrBayern 2 | Nachrichten | 29.09.2026 | 08:00 Uhr
