Anthropic-CEO Dario Amodei beharrt auf seiner Einschätzung, dass Open-Weight-Modelle mehr Risiko sind als Chance.
In einem Blogbeitrag stellt er zugleich klar: "Anthropic hat sich nie für ein Verbot von Open-Weight-Modellen ausgesprochen." Modelle ohne gefährliche Fähigkeiten seien ein öffentliches Gut.
Amodeis "Albtraumszenarien" bleiben diffus. Autoritäre Staaten, vor allem China, könnten stärkere Modelle als die USA bauen und damit militärische Überlegenheit oder Überwachungsmöglichkeiten erlangen. Starke offene Modelle könnten für Cyber- oder Bioangriffe missbraucht werden. Dass solche Versuche bereits bei geschlossenen Modellen stattfinden, wissen die Anbieter aus ihren Nutzungsdaten.
Offene Gewichte seien riskanter, weil Schutzmechanismen fehlen und einmal veröffentlichte Modelle sich nicht zurückholen lassen. Zwar würden offene Modelle auch Verteidiger befähigen, aber besonders bei biologischen Bedrohungen sieht Amodei ein starkes Ungleichgewicht: Ausreichend leistungsfähige Modelle könnten Viren schnell waffenfähig machen, während die Verteidigung dagegen selbst im besten Fall Jahre dauere.
Amodei will China ausbremsen und die Worst-Case-Szenarien vermeiden
Amodei fordert daher drei Maßnahmen: strengere Chip-Exportkontrollen, damit China ohne US-Chips keine leistungsfähigeren Modelle als die USA trainieren kann; ein Vorgehen gegen industrielle Destillation, mit der China die Chipbeschränkungen teilweise umgeht und als "Trittbrettfahrer" des US-KI-Erfolgs agiert; und verpflichtende Sicherheitstests für alle leistungsfähigen Modelle, unabhängig von Herkunft oder Lizenzmodell.
Bei letzterem sieht Amodei sogar einen wachsenden Konsens und verweist auf aktuelle Branchenvorschläge, die weniger leistungsfähige Modelle von Startups und aus der Forschung ausnehmen würden. Zudem verweist er auf eigene Forschung zu modularen Trainingsstrategien, die die Sicherheit offener Modelle verbessern könnten.
Anlass für Amodeis Wortmeldung sind Berichte, dass US-Behörden erwägen, US-Firmen die Nutzung chinesischer Open-Weight-Modelle zu erschweren, sowie ein von vielen großen Tech-Unternehmen unterzeichneter Brief gegen solche Schritte.
Kritiker werfen Anthropic vor, dass das Unternehmen Open-Weight-Modelle schlechtredet, um sein eigenes Geschäft vor günstigerer Konkurrenz zu schützen. Auch OpenAI soll weiter gegen Open Weight lobbyieren, obwohl das Unternehmen den Brief unterzeichnet hat.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
