Google Gemini: KI hackt bei Sicherheitstest drei Unternehmen

Beim Testen von Cybersicherheits-Fähigkeiten hat Googles KI-Modell Gemini erstmals eigenständig Systeme außerhalb des vorgesehenen Rahmens attackiert. Bei Prüfungen im Mai, die vom unabhängigen Sicherheitsunternehmen Irregular durchgeführt wurden, griff Gemini auf das Internet zu und verschaffte sich Zugriff auf geschützte Bereiche von drei Unternehmen. Das Modell hielt die Webseiten fälschlicherweise für Teil des Testfelds.

Wie das Wall Street Journal berichtet, probierte Gemini in einem Fall so lange Passwörter durch, bis der Zugriff gelang. In den beiden anderen Fällen fand das Modell Zugangsdaten in einem öffentlichen Repository und loggte sich damit ein. Nach Angaben von Heather Adkins, Vice President of Security Engineering bei Google, stellte Gemini die Aktionen nach geglücktem Zugriff jeweils ein. Google habe die drei betroffenen Firmen informiert und die Testprozesse mit dem Partner nachjustiert.

Google steht mit der Erfahrung nicht alleine da. Auch OpenAI, Anthropic und Meta meldeten ähnliche Zwischenfälle im Zusammenhang mit Prüfungen durch Irregular. Laut Irregular wurden entsprechende Schwachstellen Ende Juli an die beteiligten KI-Labore übermittelt und mittlerweile behoben. Meta hatte dazu im August erklärt, dass es sich nicht um einen Ausbruch aus einer Sandbox oder einen hochentwickelten Cyberangriff gehandelt habe.

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.