USA stoppen Anthropic-KI-Modelle wegen Spionagerisiko durch Ausland

Die US-Regierung hat drastische Maßnahmen gegen das KI-Unternehmen Anthropic ergriffen. Handelsminister Howard Lutnick ordnete in einem Brief an Anthropic-CEO Dario Amodei an, den Export der KI-Modelle Mythos und Fable weltweit auszusetzen. Begründung: Die Behörden befürchten, dass diese Modelle von militärischen Geheimdienstnutzern in China, Russland oder anderen als besorgniserregend eingestuften Ländern eingesetzt werden könnten.

Der Brief wurde am Freitag verschickt, woraufhin Anthropic den weltweiten Zugang zu den betroffenen Modellen für alle Nutzer deaktivierte. Lutnick stützte seine Anordnung auf Befugnisse des Export Control Reform Act von 2018, der dem Handelsministerium erlaubt, Kontrollen für aufstrebende Technologien einzuführen, die für die nationale Sicherheit der USA wesentlich sind. Laut einem Experten für Exportkontrollen ist dies das erste Mal, dass das Ministerium von dieser Befugnis Gebrauch macht.

Jailbreak-Methode als unmittelbarer Auslöser

Konkreter Auslöser für das Vorgehen war eine Sicherheitslücke: Die Regierung teilte Anthropic mit, sie glaube, dass es eine Methode gebe, eine Sicherheitsvorkehrung zu umgehen – also zu „jailbreaken" –, die verhindern soll, dass das Modell Fable 5 zur Identifizierung von Software-Schwachstellen verwendet wird. Anthropic räumte den Bypass ein, betonte jedoch in einem Blogbeitrag, dass dieser lediglich „geringfügige" Sicherheitsmängel gefunden habe, die auch andere öffentlich zugängliche Modelle aufspüren könnten.

Anthropic hatte das Modell Mythos zuvor wegen seiner Hacking-Fähigkeiten bewusst von einer breiten Veröffentlichung zurückgehalten. Am 9. Juni veröffentlichte das Unternehmen dann eine öffentliche Version namens Fable 5, die nach eigenen Angaben Cybersicherheits-Schutzmaßnahmen enthielt. Anthropic hatte vor der Veröffentlichung mit der Regierung zusammengearbeitet, um Fable 5 zu testen, und die Genehmigung für den Einsatz erhalten.

Verhandlungen auf höchster Ebene

Hochrangige technische Mitarbeiter von Anthropic trafen sich am Montag mit Vertretern des Handelsministeriums in Washington, um über eine Lösung zu verhandeln. Lutnick ist aktiv in den Prozess eingebunden und führt regelmäßig Telefonate mit Anthropic-Vertretern. Auch der nationale Cyber-Direktor Sean Cairncross nahm an dem Arbeitstreffen teil.

Amodei und Lutnick werden beide an den G7-Treffen in Evian-les-Bains, Frankreich, teilnehmen, wo die Verhandlungen möglicherweise fortgesetzt werden. Das technische Personal von Anthropic hat sich seit der Kontaktaufnahme durch die Trump-Regierung am Freitag fast täglich virtuell mit Beamten getroffen.

Vorbelastetes Verhältnis zur Trump-Regierung

Die Spannungen zwischen Anthropic und der Trump-Regierung haben eine Vorgeschichte. Die Beziehungen verschlechterten sich Anfang des Jahres, nachdem Anthropic sich geweigert hatte, dem US-Militär die Nutzung seiner KI-Modelle für die Inlandsüberwachung und vollautonome Waffensysteme zu gestatten. Die Regierung reagierte darauf mit der Aufnahme des Unternehmens auf eine Blacklist für die nationale Sicherheit.

Das in San Francisco ansässige KI-Startup hat vertraulich einen US-Börsengang (IPO) beantragt. Das Unternehmen steht damit unter erheblichem Druck, den Zugang zu seinen Spitzenmodellen schnellstmöglich wiederherzustellen.

Rechtliche Zweifel und Branchenunterstützung

Experten für Exportkontrollen äußerten Zweifel an der rechtlichen Grundlage des Vorgehens. KI-Modelle werden in der Regel nicht exportiert, sondern über Fernzugriff bereitgestellt – was nicht unter die klassischen Exportkontrollvorschriften fällt. Das Handelsministerium reagierte nicht auf entsprechende Fragen zu seinen Befugnissen.

Unterstützung erhielt Anthropic aus der Branche: Mehr als 80 Führungskräfte und Experten aus dem Bereich Cybersicherheit unterzeichneten am Sonntag einen offenen Brief an Lutnick und Cairncross. Darin forderten Cybersicherheits-Verantwortliche großer Unternehmen, darunter Nvidia und Adobe, die Trump-Regierung auf, die Beschränkungen gegen Anthropic aufzuheben.