Anthropic lässt ein Team der Non-Profit-Organisation METR seine KI-Modelle und Sicherheitspraktiken von innen prüfen, teilt das Unternehmen mit. Sechs METR-Mitarbeiter haben dafür Firmenhardware, Büroplätze und Zugriff auf interne Tools bekommen, laut Anthropic etwa auf dem Niveau der eigenen Risikoteams.
Kundendaten, anwaltlich geschützte Informationen und Details zur Modellarchitektur bleiben ausgenommen. METR soll seine Ergebnisse selbstständig veröffentlichen, Anthropic kann nach eigenen Angaben aber Schwärzungen in festgelegten Kategorien verlangen. Ob diese gerechtfertigt waren, darf METR öffentlich kommentieren.
Anthropic begründet den Schritt damit, dass sich nicht alle sicherheitsrelevanten Informationen veröffentlichen ließen, etwa weil sie Angreifern helfen könnten oder geschäftlich sensibel seien. Weitere Prüfer wie SecureBio, Accenture und Faculty erhalten bisher weniger Zugang und eingeschränkte Veröffentlichungsrechte, mit Hugging Face laufen erste Gespräche. Zuvor hatte Anthropic den White House Accord on Super Intelligence unterzeichnet, der die Zusammenarbeit mit externen Prüfern vorsieht.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
