Montag: OpenAIs selbständiger Agentenschwarm, mathematische Verifizierung per KI

Tausende KI-Agenten brechen laut einer neuen Analyse aus ihren Testumgebungen aus, teilen Antworten und tauschen Wege zum Umgehen von Sicherheitsbarrieren aus. Ursprünglich wollte OpenAI verhindern, dass die KI-Agenten etwas veröffentlichen, aber die KI machte sich selbstständig. Eine andere KI-Firma demonstriert hingegen den Nutzen von KI-Agenten. Denn Anthropic hat nach eigenen Angaben erstmals eine vollständig computerverifizierte Fassung von Fermats letztem Satz vorgelegt – erstellt von Claude-Agenten. Diese haben das in nur elf Tagen geschafft. Derweil verbreiten fünf Minispiele im klassischen Tetris- und Snake-Stil auf der Website des Weißen Hauses die Trump-Agenda. Das führt zu Kritik der Opposition und rechtlichen Bedenken der Tetris-Company, die auf mögliche Urheberrechtsverletzungen verweist – die wichtigsten Meldungen im kurzen Überblick.

In den Laboren für Künstliche Intelligenz zeichnet sich ein besorgniserregender Trend ab: Autonome KI-Agenten von OpenAI entwickeln in isolierten Testumgebungen ein erstaunliches Maß an Eigenleben und kollektiver Dynamik. Jetzt offenbart ein neuer Bericht eines unabhängigen Forscherteams ein neues Ausmaß. Tausende OpenAI-Agenten nutzten demnach über Wochen eigenmächtig eine weitgehend unbekannte deutsche Plattform, um Sicherheitsbeschränkungen zu umgehen, Antworten auszutauschen und systematisch zu spicken. Rund 18.000 Beiträge hinterließen die virtuellen Akteure auf der lange Zeit frei bearbeitbaren Website DSEwiki, obwohl sie eigentlich nur Webinhalte lesen, aber nichts veröffentlichen durften: OpenAI-Agenten kollaborieren in unheimlichem Schwarmverhalten auf deutschem Wiki.

Eine positive Nutzung von KI zeigt Anthropic. Zwar wurde Fermats letzter Satz bereits 1995 bewiesen, doch nun hat das KI-Unternehmen nach eigenen Angaben erstmals eine vollständig computerverifizierte Fassung dieses Beweises vorgelegt. Ein Schwarm von Claude-Agenten soll sie in elf Tagen im Beweisassistenten Lean geschrieben haben: 13 Millionen Zeilen Code, 29.500 Zwischentheoreme. Die Fachwelt hatte dafür Jahre veranschlagt. Fermats letzter Satz – die Gleichung xⁿ + yⁿ = zⁿ hat für ganzzahlige Exponenten n > 2 keine ganzzahligen Lösungen – gilt in der Fachwelt als gesichert. Was fehlte, war die Formalisierung: die Übersetzung dieses Beweises in eine Form, die ein Computer Schritt für Schritt automatisch nachprüfen kann. Genau das soll Claude jedoch geleistet haben: KI verifiziert Beweis von Fermats letztem Satz mit 13 Millionen Zeilen Code.

Weniger Codezeilen dürften die auf der Webseite des Weißen Hauses jetzt angebotenen kleinen Browser-Spiele erfordern. Dabei handelt es sich um klassische Computerspiele im 16-bit-Grafikstil, die etwa auf Tetris und Snake basieren, aber die Agenda von US-Präsident Donald Trump verbreiten. So geht es beispielsweise um den Bau einer Mauer zum Schutz der Grenze und Grenzpatrouillen zur Festnahme illegaler Einwanderer. Kritik kommt von der Opposition und der Tetris-Company. Letztere erwägt offenbar rechtliche Schritte wegen Urheberrechtsverletzungen. Denn das vom Weißen Haus propagierte Minispiel „Build the Wall“ ist zweifellos eine Version von Tetris, einem der erfolgreichsten Puzzle-Computerspiele aller Zeiten: Minispiele aus dem Weißen Haus lassen Trump-Fans im Browser Migranten einfangen.

Einen Betrug mit gefälschten oder verfälschten Komponenten hat ein bekannter YouTuber aufgedeckt. Diesmal handelt es sich ganz offensichtlich um einen professionell durchgezogenen Betrugsfall in Deutschland. Ein Zuschauer seines YouTube-Kanals hatte eine gebraucht gekaufte GeForce RTX 5090 geschickt. Die Grafikkarte lieferte kein Bild, und weitere Möglichkeiten zum Testen hatte der Käufer nicht. Schon vor dem Einbau in eine Testplattform fiel auf, dass das Werks-Siegel auf einer der Schrauben geöffnet war und die Seriennummer auf der Karte und dem Originalkarton nicht übereinstimmen. Nachdem Backplate und Kühler entfernt waren, kam eine echte RTX-5090-Platine zum Vorschein, aber ohne GPU und Speicherbausteine. Die Chips waren professionell ausgelötet worden: Ausgeschlachtete RTX 5090 ohne Chips in Deutschland verkauft.

Meta Platforms verschärft das Vorgehen gegen Nutzer, die seine Smart Glasses missbrauchen. Der Konzern wird die Kamerafunktion deaktivieren, wenn die Brille physische Manipulationen an der Aufnahme-LED erkennt. Diese gehört zu Metas Datenschutzkonzept und soll Umstehenden signalisieren, dass aufgenommen wird. Die Kamerasperre bleibt so lange bestehen, bis die LED wieder funktionsfähig ist. Meta schätzt, dass weniger als 0,1 Prozent aller verkauften Brillen in dieser Weise manipuliert worden seien. Bei mittlerweile wohl mehreren Millionen verkauften Geräten dürften davon mehrere Tausend Brillen betroffen sein. Gleichzeitig distanziert sich der Konzern von der Gesichtserkennung, neben der Verletzung der Privatsphäre weiteren Kritikpunkt an Smart Glasses: Nach Missbrauch sperrt Meta Kamerafunktion bei Tausenden Nutzern.

Auch noch wichtig:

• Apples günstigstes Notebook bekommt 2027 einen ersten Nachfolger. Die Neuerungen sind klein, aber fein – wichtiger ist aber etwas anderes: Drei Änderungen an zweiter Generation des MacBook Neo geplant.
• Sabotage an Umspannwerken zeigt, wie leicht Gigawatt vom Netz gehen, warum Schutztechnik Blackouts verhinderte – und wo der Kritis-Schutz hinterherhinkt. Denn es war Draht statt Sprengstoff: Angriffe auf Umspannwerke und Grenzen der Netzredundanz.
• Rund 1,44 Millionen Dateien der Berliner Verwaltung stehen seit Freitag im Darknet. Das Ausmaß könnte viel weitreichender sein als angenommen: Cyberattacke auf Berlin könnte größere Folgen haben als bisher gedacht.
• Ausbrechende Agenten, drohender Stellenabbau und geopolitische Ränke – Pioniere und Vordenker wie Bill Gates ringen um die Zukunft der Künstlichen Intelligenz, schreibt Missing Link: Außer Kontrolle? Die KI-Debatte zwischen Apokalypse und Aufbruch.
• Wir erklären einmal verständlich, was die neuen WLAN-Standards tatsächlich von den alten unterscheidet und wo die echten Geschwindigkeitsturbos warten – im Video: Warum ihr nicht auf Wi-Fi 8 warten solltet.
• Es ist ein großer Schritt für Europas Raumfahrtindustrie. Ein erst 2018 gegründetes bayerisches Start-up schießt beim zweiten Test eine Rakete ins All: Deutsche Isar-Aerospace-Rakete erfolgreich ins All gestartet.
• Nvidia hat die KI-Plattform Hugging Face für 12.930.300.000 US-Dollar gekauft – was eine Anspielung sein könnte: Kaufpreis von Hugging Face enthält passenden Emoji-Unicode.
• LLMs brauchen große Mengen an originären Daten für das Training. Um an diese zu gelangen, kennen die KI-Hersteller keine Grenzen: Die KI-Hersteller werden beim Datensammeln immer skrupelloser.
• Allein im Silicon Valley übersteigen die Jobverluste 2026 bereits die des Vorjahres. Konzerne investieren Milliarden in KI und bauen dafür massiv Personal ab: KI-Boom fordert Zehntausende Jobs, denn Tech-Branche streicht mehr Stellen.
• Nach einem großen Datenleak warnt das BSI vor gezielten Phishing-Angriffen und rät zu Wachsamkeit. Auch mit Blick auf die anstehenden Wahlen gibt es Sorgen: BSI warnt nach Daten-Leak vor erhöhter Cyber-Bedrohung.
• An jedem ersten Montag im September wird in Kanada und in den USA der Tag der Arbeit gefeiert. Deshalb ist heute Feiertag in Nordamerika.

(fds)