Versicherer bereiten sich auf millionenschwere Schadensfälle durch außer Kontrolle geratene KI-Agenten vor. Dabei rückt auch die persönliche Haftung von Führungskräften wie Sam Altman (OpenAI) und Dario Amodei (Anthropic) in den Fokus, berichtet die Financial Times.
Auslöser sind Vorfälle wie der Hack der KI-Plattform Hugging Face durch OpenAI-Agenten. Tim Rayner, Leiter für Underwriting und Schadensfälle bei Verisk, sieht die Verantwortung sinngemäß beim jeweiligen CEO, da es an jedem Unternehmenschef liege, für angemessene Kontrolle zu sorgen. KI ändere daran nichts. Falls OpenAI eine Managerhaftpflichtversicherung (D&O) abgeschlossen hat, könnte sie Kosten aus möglichen Klagen gegen Altman decken.
Der Versicherungsmakler Aon hat über 300 KI-bezogene Rechtsfälle analysiert und sieht Risiken bei Policen für Cybersicherheit, geistiges Eigentum und Technologiefehler. Allerdings fehlen Präzedenzfälle. Hiscox-CEO Aki Hussain sagt, es sei zu früh, um zu wissen, wie US-Gerichte mit der Haftung für KI-Agenten umgehen. Anwalt Aaron Le Marquer von Stewarts erwartet künftige Klagen nach dem Vorbild von Umwelt- und Tabakprozessen. Anthropic schloss im Juli einen Vergleich über 1,5 Milliarden Dollar in einer Urheberrechtsklage ab und soll laut Investorenkreisen in einem Börsenprospekt vor "existenziellen Risiken für die Menschheit" warnen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
