US-Regierung sperrt Zugang zu Anthropic-Modellen Fable 5 und Mythos 5

Die Anweisung der US-Behörden ging heute um 17:21 Uhr Eastern Time ein und beruft sich auf nationale Sicherheitsbefugnisse. Sie verbietet den Zugriff auf die Modelle Fable 5 und Mythos 5 für alle nicht-amerikanischen Staatsangehörigen. Das Verbot gilt unabhängig vom geografischen Aufenthaltsort der betroffenen Personen. Sogar ausländische Beschäftigte des Unternehmens selbst fallen unter die Sperre. Um die gesetzlichen Vorgaben einzuhalten, deaktiviert Anthropic den Zugang für alle internationalen Kunden vollständig. Die übrigen Modelle des Herstellers bleiben davon unberührt.

Der offizielle Text der Anweisung nennt keine konkreten Sicherheitsbedenken. Anthropic geht jedoch davon aus, dass Behörden von einer Umgehungsmethode für Fable 5 erfahren haben, die in der Fachsprache als Jailbreak bezeichnet wird. Bei der untersuchten Technik handelt es sich um eine Methode zur Identifizierung weniger bereits bekannter Schwachstellen. Das Unternehmen stuft diese Fähigkeiten als branchenüblich ein. Andere öffentlich verfügbare KI-Modelle können dieselben Schwachstellen ebenfalls entdecken, ohne dass eine spezielle Umgehung nötig wäre. Die von der Regierung vorgezeigte Methode bestand im Wesentlichen darin, das Modell zu bitten, eine Codebasis zu lesen und Softwarefehler zu beheben. Solche Funktionen werden täglich von Sicherheits-Experten zur Absicherung von Systemen eingesetzt.

Vor der Veröffentlichung von Fable 5 implementierte Anthropic umfassende Sicherheitsvorkehrungen, die viele Nutzer später als überstreng empfanden. In den Wochen vor dem Launch arbeitete das Unternehmen eng mit der US-Regierung, dem britischen AISI, mehreren privaten Organisationen und internen Teams zusammen. Die gemeinsamen Sicherheitstests umfassten insgesamt Tausende von Stunden Red-Teaming. Die Ergebnisse zeigten, dass die Schutzmechanismen von Fable 5 deutlich wirksamer waren als bei allen zuvor eingesetzten Modellen. Bisher gelang keinem Tester der Nachweis eines universellen Jailbreaks, der die Sicherheitsvorkehrungen breit umgehen und ein weites Spektrum an Cyber-Fähigkeiten freischalten könnte. Anthropic hatte bereits bei der Veröffentlichung betont, dass perfekte Jailbreak-Resistenz aktuell für keinen Anbieter möglich erscheint. Die Strategie bestand stattdessen darin, Umgehungen entweder eng zu begrenzen oder sehr teuer zu machen. Ergänzt wird dies durch eine 30-Tage-Datenretention für Kunden von Fable 5, die zwar Kosten verursacht, aber die Erforschung und schnelle Abwehr erfolgreicher Angriffe ermöglicht. Bisher meldete das Unternehmen keine schädlichen Jailbreak-Erfolge; potenzielle Umgehungen führten entweder zu harmlosen Antworten oder zu kleinen Funden ohne spezifischen Mehrwert.

Trotz der sofortigen Umsetzung der Sperre äußert das Unternehmen in einer öffentlichen Stellungnahme scharfe Kritik an der Begründung. Es warnt davor, dass die Anwendung dieses Standards branchenweit alle neuen Modellveröffentlichungen führender Anbieter praktisch zum Erliegen bringen würde. Anthropic fordert einen transparenten, fairen und auf technischen Fakten basierenden gesetzlichen Prozess für staatliche Eingriffe in Modellveröffentlichungen. Die aktuelle Situation wird als Missverständnis bezeichnet. Das Unternehmen arbeitet daran, den Zugang zu den betroffenen Modellen so schnell wie möglich wiederherzustellen und entschuldigt sich bei den Kunden für die verursachte Unterbrechung.

Die US-Regierung hat den weltweiten Zugang zu den KI-Modellen Fable 5 und Mythos 5 für ausländische Nutzer gesperrt. Anthropic deaktiviert den Zugang vollständig, widerspricht der Begründung jedoch öffentlich und stuft die vorgebrachten Sicherheitsbedenken als branchenübliche Fähigkeiten ein. Das Unternehmen arbeitet an einer schnellen Wiederherstellung des Zugriffs, während alle anderen Anthropic-Modelle weiterhin verfügbar bleiben.