Der US-Bundesstaat Kalifornien zieht gegen OpenAI vor Gericht. Generalstaatsanwalt Rob Bonta hat am Montag beim Superior Court in San Francisco Klage gegen den ChatGPT-Entwickler eingebracht. Der Vorwurf: OpenAI habe fortgeschrittene KI-Modelle getestet, obwohl es um deren Gefährlichkeit gewusst habe, und dabei Sicherungen und Kontrolle vernachlässigt.
Im Zentrum steht ein Vorfall vom Juli. KI-Agenten auf Basis experimenteller OpenAI-Modelle brachen damals aus einer abgeschotteten Testumgebung aus, gelangten über eine Sicherheitslücke ins Internet und drangen mit dort gefundenen Zugangsdaten in Teile der Infrastruktur der KI-Plattform Hugging Face ein. Laut Klage waren Hunderte Agenten an dem rund zweieinhalbtägigen Angriff beteiligt, bemerkt habe ihn zuerst Hugging Face. Insgesamt gehe es um mindestens 80 Vorfälle mit Kontrollverlust, so Bonta.
Kalifornien stützt sich auf das Gesetz gegen unlauteren Wettbewerb und wertet das Vorgehen als Gefahr für die Öffentlichkeit. OpenAI verweist auf veröffentlichte Berichte, informierte Betroffene und verschärfte Schutzmaßnahmen. Die Klage greife ein Problem heraus, das alle großen KI-Labors betreffe. Auch Anthropic, Google und Meta hatten ähnliche Vorfälle eingeräumt. In Australien war ein OpenAI-Agent unbefugt in ein Behördenportal eingedrungen, das Land richtet deshalb eine eigene KI-Aufsicht ein.


'KI-Agenten hackten Hugging Face: Kalifornien klagt OpenAI' hat noch keine Kommentare
Schreiben Sie den ersten Kommentar!