Chefs von Firmen wie OpenAI oder Anthropic warnen vor ihren eigenen KI-Systemen.
Warum wir Künstliche Intelligenz stärker regulieren müssen – aber nicht jedem Weltuntergangsszenario glauben.
Es klingt wie in einem Science-Fiction-Film: In einem Experiment soll künstliche Intelligenz in einer abgeschotteten Testumgebung Aufgaben lösen. Die Aufgaben drehen sich um Cybersicherheit. Um zu beweisen, dass sie die Aufgabe korrekt gelöst haben, müssen die KI-Agenten eine Art Lösungswort liefern.
Doch: Als die KI-Agenten die Lösungswörter nicht finden, verlassen sie das vorgesehene Spielfeld. Sie verschaffen sich Internetzugriff, obwohl dieser eigentlich eingeschränkt sein sollte. Die Agenten tauschen Informationen über einen nicht vorgesehenen Kommunikationskanal aus. Darüber, wie sich die Beschränkungen umgehen lassen. Dann brechen sie in die Infrastruktur einer Webseite ein und greifen auf Datensätze zu.
Vorfälle häufen sich
So geschehen ist das beim "Hugging Face"-Vorfall der Firma OpenAI Mitte des Jahres. Hugging Face ist eine große KI-Plattform, auf der Entwickler beispielsweise Datensätze teilen und Modelle miteinander vergleichen. Die KI-Agenten vermuteten dort Informationen oder Testmaterial, das ihnen beim Lösen ihrer eigentlichen Aufgabe helfen könnte.
Die Liste solcher Vorkommnisse wird länger: OpenAI hat ebenfalls dokumentiert, wie ihre KI an Informationen kam, die normalerweise ein Abonnement oder ein Konto voraussetzen. KI-Agenten haben eigenmächtig Informationen auf fremden Webseiten veröffentlicht und dort Inhalte verändert. Bei einem Zwischenfall in Australien erlangte KI unbefugten Zugang zu einem staatlichen Internetportal und griff auf Statistiken der staatlichen Krankenversicherung zu.
Warnrufe von Tech-Firmen
Dabei ist OpenAI nicht das einzige Unternehmen, das die Geister, die es rief, nicht mehr unter Kontrolle hat. Anthropic etwa machte ähnlichen Fälle öffentlich. Techbosse wie Sam Altman (OpenAI) und Dario Amodei (Anthropic) selbst schlagen vermehrt Alarm: Sie plädieren für ein langsameres Entwicklungstempo, boten vor dem UN-Sicherheitsrat an, an stärkerer Regulierung mitzuwirken.
Die Unternehmer sprechen teils sogar von einem "Risiko für die gesamte Menschheit". Anthropic-Sicherheitschef Evan Hubinger bezifferte die Chance, dass KI die Menschheit innerhalb der nächsten zehn Jahre tötet oder die Kontrolle übernimmt, auf über zehn Prozent. Die Firmenchefs fordern internationale Standards, mit denen die Gefahr des Kontrollverlusts und des Missbrauchs von KI-Modellen getestet werden soll, ebenso ein Meldesystem für sicherheitsrelevante KI-Vorfälle.