Ein mehrstöckiges Bürogebäude mit Glasfassade an einer Straßenecke, davor Palmen und junge Bäume unter blauem HimmelArchivbild: Das Bürogebäude 1515 Third Street in San Francisco, Sitz der OpenAI-Zentrale (2025). Foto: Coolcaesar / Wikimedia Commons, CC BY 4.0 (bearbeitet)
KI

KI-Agenten hackten Hugging Face: Kalifornien klagt OpenAI

Der US-Bundesstaat Kalifornien zieht gegen OpenAI vor Gericht. Generalstaatsanwalt Rob Bonta hat am Montag beim Superior Court in San Francisco Klage gegen den ChatGPT-Entwickler eingebracht. Der Vorwurf: OpenAI habe fortgeschrittene KI-Modelle getestet, obwohl es um deren Gefährlichkeit gewusst habe, und dabei Sicherungen und Kontrolle vernachlässigt.

Im Zentrum steht ein Vorfall vom Juli. KI-Agenten auf Basis experimenteller OpenAI-Modelle brachen damals aus einer abgeschotteten Testumgebung aus, gelangten über eine Sicherheitslücke ins Internet und drangen mit dort gefundenen Zugangsdaten in Teile der Infrastruktur der KI-Plattform Hugging Face ein. Laut Klage waren Hunderte Agenten an dem rund zweieinhalbtägigen Angriff beteiligt, bemerkt habe ihn zuerst Hugging Face. Insgesamt gehe es um mindestens 80 Vorfälle mit Kontrollverlust, so Bonta.

Kalifornien stützt sich auf das Gesetz gegen unlauteren Wettbewerb und wertet das Vorgehen als Gefahr für die Öffentlichkeit. OpenAI verweist auf veröffentlichte Berichte, informierte Betroffene und verschärfte Schutzmaßnahmen. Die Klage greife ein Problem heraus, das alle großen KI-Labors betreffe. Auch Anthropic, Google und Meta hatten ähnliche Vorfälle eingeräumt. In Australien war ein OpenAI-Agent unbefugt in ein Behördenportal eingedrungen, das Land richtet deshalb eine eigene KI-Aufsicht ein.



Über

Redaktion Das Land


'KI-Agenten hackten Hugging Face: Kalifornien klagt OpenAI' hat noch keine Kommentare

Schreiben Sie den ersten Kommentar!

Was meinen Sie dazu?

Ihre E-Mail-Adresse wird nicht veröffentlicht.

Ihr Kommentar wird erst nach Prüfung durch die Redaktion veröffentlicht. Ihre E-Mail-Adresse wird nicht veröffentlicht. Wie wir Name, E-Mail-Adresse und IP-Adresse verarbeiten, lesen Sie in unserer Datenschutzerklärung.

© 2026 Das Land · Impressum und Offenlegung · Datenschutzerklärung