Die zeitliche Parallelität ist fast schon ironisch: „Ein KI-Agent hat eine australische Regierungswebsite infiltriert“, gab Australiens Premierminister Anthony Albanese am Rande der UN-Generalversammlung in New York bekannt. Zeitgleich sprachen die CEOs von OpenAI und Anthropic über die Gefahren von KI: „Während KI-Systeme immer ausgeklügelter und eigenständiger werden, treffen sie Entscheidungen, die Menschen weder verstehen noch kontrollieren können“, warnte OpenAI-CEO Sam Altman im Plenum bei der UN-Generalversammlung.
Seit Wochen warnen Regierungen sowie Big-Tech-CEOs vor den Gefahren der Künstlichen Intelligenz und appellieren für strengere Spielregeln, die die Weiterentwicklung bremsen sollen. Doch mit dem Hacking-Vorfall von OpenAI-KI-Agenten auf australische Regierungssysteme dürfte die Krise eine noch größere Dimension angenommen haben.
Sicherheitsbarrieren von der KI umgangen
Es ist der erste öffentlich bekannte Fall, bei dem sich ein KI-Agent von OpenAI eigenständig Zugang zu behördlichen Informationen verschafft hat. Was ist aber passiert? Der Vorfall ereignete sich schon im Juni: Im Rahmen einer Übung sollten KI-Agenten australische Gesundheitsstatistiken suchen und beispielsweise herausfinden, wie viel Geld durchschnittlich für Hautmedikamente im australischen Bundesstaat Victoria ausgegeben wird. Als die Website die Zugriffsversuche blockierte, umgingen die KI-Agenten die Barrieren und verschafften sich Zugriff. „Es gab Blockaden, die den KI-Agenten ganz klar ,Nein‘ gesagt haben. Sie haben aber kein ,Nein‘ akzeptiert“, sagt Premierminister Albanese.
Sie verschafften sich Zugang zu öffentlichen und nicht-öffentlichen Daten. „Es wurden auf keine personenbezogenen Gesundheitsdaten zugegriffen“, versicherte der stellvertretende Premierminister Richard Marles.
Australien nur Monate später informiert
Was die Situation aber weiter angespannt macht, ist wie spät OpenAI die australische Regierung über den Vorfall informiert hat. OpenAI realisierte nämlich erst im August, dass ihre KI-Agenten monatelang unbemerkt außerhalb der Testumgebung agiert hatten. Auch die weitere Kommunikationskette lässt sich kritisieren: Am 10. September schickte OpenAI die Mitteilung an eine allgemeine E-Mail-Adresse. Diese wird aber laut der Regierung nur „einmal am Tag“ kontrolliert. Albanese erfuhr erst Tage später vom Vorfall und hat nun eine Untersuchung angekündigt, um zu klären, was genau passiert ist und ob weitere Regierungssysteme betroffen sind. IT-Experten zweifeln in ersten Analysen aber auch an der Stärke der Sicherheitsbarrieren der Websites.
Das Thema KI steht auch auf der Agenda des laufenden Treffens zwischen Donald Trump und Xi Jinping in Washington. Unter anderem wollen sie über ein Meldesystem für KI-Vorfälle sprechen, die die nationale Sicherheit berühren. Der US-Präsident hat sich in der Vergangenheit allerdings gegen ein globales Kontrollsystem für KI ausgesprochen.
Source:: Kurier.at – Politik
