Anthropic hat mit den neuen KI-Modellen Fable 5.1 und Mythos 5.1 ein Programm namens Enterprise Frontier Safeguards (EFS) angekündigt, das Firmenkunden wieder Zero Data Retention (ZDR) ermöglichen soll.
Vor einigen Monaten hatte Anthropic für seine leistungsstärksten Modelle Fable und Mythos eine verpflichtende vorübergehende Aufbewahrung aller Prompts und Modellantworten eingeführt – selbst für Kunden mit bestehenden ZDR-Vereinbarungen. Das Unternehmen begründete dies mit den aktuellen Missbrauchsfällen und sagte, es müsse Daten kurzzeitig speichern, um Ereignisse auswerten zu können.
Bei Firmenkunden kam das schlecht an. Anthropic räumte ein, dass vor allem Unternehmen wie Banken, Versicherungen und Gesundheitsunternehmen in den gespeicherten Logs ein Compliance-Risiko sahen.
Prüfaufwand liegt nun bei Unternehmen
Um Sicherheit und Datenschutz zu verbinden, lagert das KI-Unternehmen den Sicherheitscheck jetzt quasi an die Kunden aus. Im Sinne der Datensicherheit speichert EFS Protokolldaten laut Anthropics Blogeintrag hierzu nun in der Cloud-Umgebung des jeweiligen Kunden – unter kundeneigenen Verschlüsselungsschlüsseln, Zugriffsrichtlinien und Audit-Logs. Dort wird der Traffic auch auf verdächtige Muster hin gescannt. Erkennt das automatisierte Monitoring ein solches Muster, sendet das System die Signale direkt an den Kunden, der den Fund dann selbst prüfen muss.
An Anthropic wird zeitgleich die Info gesendet, dass es einen Vorfall gab, aus welcher Kategorie er stammt und mit welcher Schwere das System ihn klassifiziert hat. Kundendaten sollen hier explizit nicht enthalten sein.
EFS soll schrittweise ab Herbst ausgerollt werden. Unternehmen müssen ZDR jedoch aktiv beantragen. Von allen anderen Kunden, die Anthropics KIs über eine API nutzen und keinen eigenen Rahmenvertrag haben, werden die Daten weiterhin 30 Tage standardmäßig gespeichert.
Wettlauf mit OpenAI um Enterprise-Kunden
Auch bei OpenAI gibt es seit Kurzem eine ZDR-Option. Im August stellte das Unternehmen Zero Data Retention für seine Frontier-Modelle vor und präsentierte zusätzlich ein System namens Private Safety Processing. Dieses soll Missbrauchsmuster ebenfalls über mehrere zusammenhängende Interaktionen erkennen, ohne Datenschutz-Zusagen zu verletzen.
(rie)
