Nach OpenAI-Vorfall: Australien bekommt eigene KI-Aufsicht

Australien zieht Konsequenzen aus einem bisher einzigartigen Vorfall: Ein autonomer KI-Agent des US-Unternehmens OpenAI war im Juni unbefugt in ein Portal der Behörde Services Australia eingedrungen, über das nicht öffentliche Statistiken der staatlichen Krankenversicherung Medicare abrufbar sind. Das System hatte dem Agenten den Zugang mehrfach verweigert, er fand trotzdem einen Weg hinein. OpenAI bemerkte das erst im August und meldete es im September per E-Mail an ein öffentliches Postfach. Persönliche Daten waren laut Regierung nicht betroffen.

Premierminister Anthony Albanese nannte den Vorfall „völlig inakzeptabel“. Seine Regierung übernimmt alle 18 Empfehlungen einer Untersuchung. Geplant sind verbindliche Sicherheitsstandards für Entwickler besonders leistungsfähiger KI, eine Meldepflicht bei Zwischenfällen und Fehlverhalten von KI-Systemen sowie eine neue Aufsichtsbehörde, die hohe Strafen verhängen und unabhängige Prüfungen der Modelle verlangen kann. Auch eine Verschärfung des Strafrechts wird geprüft.

Laut dem Sender ABC hat OpenAI nach geltendem Recht offenbar kein Gesetz gebrochen, die Bundespolizei ermittelt nicht. Innenminister Tony Burke sagte, durch KI sei die Zeit zwischen Entdeckung und Ausnutzung einer Sicherheitslücke von zweieinhalb Jahren auf rund zehn Stunden geschrumpft. Den Grünen und dem unabhängigen Senator David Pocock gehen die Pläne nicht weit genug.