US-Export­kont­rolle als Kill-Switch

In der Diskussion um digitale Souveränität heißt es oft: Warum sollte die US-Regierung uns digitale Services abschalten? Dazu wird es nicht kommen. Nun ist es mit „Fable“ und „Mythos“ von Anthropic passiert. Die US-Regierung legte den „Kill Switch“ um - und die KI-Firma sperrte ihre neuesten KI-Modelle weltweit. Warum weiß niemand genau. Wir erklären, wie das Exportkontrollregime der USA funktioniert und warum dieser Fall ein Weckruf ist.

Was ist passiert?

In der Vergangenheit hatte der CEO von Anthropic, Dario Amodei, mehrfach vor den Risiken seiner Modelle („Mythos“ und „Fable“) gewarnt. Sie erkennen Sicherheitslücken in IT-Komponenten und liefern den Code, um sie zu brechen. Nun entschied das US-Handelsministerium am 12. Juni spontan, ausländischen Staatsangehörigen den Zugang zu diesen Modellen zu entziehen. Weil Anthropic nicht die Pässe seiner Kunden kontrollieren kann, wurden die Modelle weltweit für alle Kunden vom Markt genommen. Es gibt mehrere Theorien, warum es dazu gekommen ist. Zunächst ist es aber wichtig, sich das Instrument anzuschauen, dessen sich die US-Regierung bedient hat.

Das Exportkontrollregime der USA erklärt

Die Export Administration Regulation (EAR) gibt der US-Regierung weitreichende Befugnisse, bestimmte Exporte zu begrenzen oder gar vollständig zu untersagen. Das US-Recht macht an den eigenen Grenzen keinen Halt, sondern beansprucht weltweite, sog. extraterritoriale Anwendung. Formal zuständig ist das Bureau of Industry and Security(BIS). Es untersteht dem US-Handelsministerium, das derzeit Howard Lutnick leitet.

Der zentrale Begriff einer Bedrohung für die nationalen Sicherheit („national security threat“) ist im US-Recht bewusst vage und flexibel ausgestaltet. Dadurch erhält die US-Administration einen nahezu unebgrenzten politischen Spielraum, den auch US-Bundesgerichte nicht im Detail überprüfen. Die Justiz kann auf Antrag lediglich prüfen, ob das vorgesehene Verfahren eingehalten wurde. Willkürliche Entscheidungen verstoßen gegen rechtsstaatliche Standards („due process“). Bislang hat die US-Regierung keine Begründung geliefert.

Unter die Vorschriften des EAR fallen nicht nur klassische Handelsgüter, sondern auch Software und Technologie. Ein bekanntes Beispiel sind die Exportkontrollen für Grafikkarten der Firma Nvidia, die beim Training und Betrieb von Künstlicher Intelligenz zum Einsatz kommen. Im Fall Anthropic kommen nun die KI-Modelle Faible 5 und Mythos 5 in das Visier des US-amerikanischen Außenwirtschaftsrechts.

Ordnet das BIS eine Maßnahme an, gilt bereits der Zugriff einer Person ohne US-Staatsbürgerschaft innerhalb eines Unternehmens als Export (sog. Deemed Exports) – und ist untersagt. Für ein US-Unternehmen mit ausländischen Mitarbeitenden und weltweiten Standorten ist das eine Herausforderung - etwa beim Remote-Zugriffe auf die IT-Infrastruktur, bei der Zusammenarbeit via Cloud oder bei internationalen Forschungsteams.

Die Exportkontrollen erfassen nicht nur Unternehmen mit Hauptsitz in den USA und US-Mehrheitseigner, sondern auch ausländische Unternehmen, an denen US-Investoren beteiligt sind. Seit 2025 gilt die sog. „Affiliates Rule“. Demnach können auch ausländische Unternehmen von US-Exportbeschränkungen betroffen sein, die US-Technologie oder Know-how nutzen.

Neben dem EAR gibt es auch spezielle Regelungen für militärische Exportgüter, wie Satellitenkomponenten oder Verschlüsselungstechnologie. Weitreichende Befugnisse hat die US-Regierung auch im Bereich der Investitionskontrolle - z.B. für den Fall, dass ausländische Unternehmen sich an US-Firmen beteiligen (wollen). Darunter fallen auch Minderheitsbeteiligungen, Joint Ventures, strategische Kooperationen sowie Zugriffe auf sensible Daten oder Technologien.

Das Problem: Die US-Regierung hat den Kill-Switch – und nutzt ihn auch

Was bislang überwiegend ein hypothetisches Szenario war (vor dem wir und andere regelmäßig gewarnt haben), wird nun Wirklichkeit. Ohne eine öffentliche Begründung oder Ankündigung, kann die US-Regierung Firmen zwingen, ein Produkt vom internationalen Markt zu nehmen. Viele US-amerikanische Unternehmen in Europa haben argumentiert, dass es dazu nicht kommen würde. Jetzt wissen wir: Stimmt nicht. Wenn es politisch opportun ist, zieht die US-Regierung die „Kill Switch“-Karte. Die Bedrohung ist real.

Viele Stimmen haben diesen Präzedenzfall in den letzten deshalb als Warnruf für mehr digitale Souveränität verstanden. Mythos und Fable waren noch nicht lange auf dem Markt. Das heißt es gab kaum Firmen oder Behörden, die diese Modelle tief in ihre Prozesse integriert hatten. So eine Exportkontrolle könnte aber auch Software oder Hardware treffen, bei der es unmittelbar spürbare Alltagsfolgen hätte. Microsoft Teams, Google Maps oder Cloud-Services, ohne die kaum noch etwas funktioniert.

Für Tagesschau24 hat Markus Beckedahl erklärt, was das bedeutet. Die Schlussfolgerung aus diesem Vorfall lautet: Wir brauchen europäische digitale Infrastrukturen und Services. Jetzt erst recht.

Warum kam es zur Abschaltung? Dazu gibt es verschiedene Theorien.

Der Konflikt zwischen Pentagon und Anthropic

Im Januar hatte sich Anthropic geweigert, dass das US-amerikanische Militär seine KI für alle militärischen Zwecke oder Überwachung (explizit nur von US-Bürger:innen) einsetzen dürfen sollte. Dario Amadei bestand offenbar darauf, dass die KI nicht eingesetzt werden darf, um Tötungsentscheidungen ohne menschliche Kontrolle zu treffen und eine Massenüberwachung der US-amerikanischen Bevölkerung zu unterstützen. Das Pentagon kündigte daraufhin einen Vertrag mit Anthropic - und entschied sich für OpenAI. Das Verhältnis ist seitdem angespannt. Dass es nun wieder Anthropic trifft, könnte ein Racheakt sein.

Angst vor China

Der Zugang zu Mythos war ausgewählten Regierungsbehörden und Unternehmen vorbehalten. Nun gab es Berichte, dass sich Personen mit Verbindungen nach China dennoch Zugang verschafft hätten. Die Befürchtung ist, dass US-amerikanische Akteure so ihren leichten Vorsprung bei Cyber-Fähigkeiten verlieren oder chinesische Akteure in der Lage sind, das KI-Modell von Anthropic zu destillieren, also das Modellverhalten zu kopieren um einen Konkurrenten zu bauen.

Amazon will Anthropic ärgern

Der Hinweis an die US-Regierung kam offenbar vom CEO von Amazon, Andy Jassy. Sicherheitsforscher bei Amazon hätten einen technischen Umweg (sog. "Jailbreak") gefunden, der es erlaubt auch mit dem KI-Modell „Fable“, der sicherheitsbeschränkten Version von „Mythos“, Sicherheitslücken in Software zu identifizieren und auszunutzen. Es kann aber sein, dass es Amazon nicht nur darum ging. Ein Anreiz für Amazon, sich für härtere Sicherheitskriterien für die Nutzung von führenden KI-Modellen, wie zum Beispiel eine Überprüfung der Nationalität, einzusetzen könnte sein, dass Amazon in der Lage ist, seine Cloud-Geschäftskunden zu identifizieren – Anthropic hingegen nicht. In einer aus Amazons Sicht idealen Welt bezieht man KI-Modelle über die Amazons Cloud, statt über den Anbieter direkt. So könnten Cloud-Anbieter von strengeren Sicherheitsregeln für KI profitieren.

Alles nur PR?

Dario Amodei hatte nur zwei Tage vor dem Vorfall in einem Essay davor gewarnt, dass KI mit ihrer Komplexität und Schnelligkeit eine Herausforderung für staatliche Regulierung darstellt. Immer wieder hatte er auf dramatische Art und Weise vor den Sicherheitsrisiken seiner eigenen Produkte gewarnt. Dahinter wird von einigen eine Strategie vermutet, die darauf abzielt, die Fähigkeiten der Modelle von Anthropic zu hypen und so eine höchstmögliche Bewertung beim geplanten Börsengang zu erreichen. Wenn die US-Regierung das jetzt ernst nimmt, und sein KI-Modell vom internationalen Markt verbannt, hat er womöglich ein Eigentor geschossen.

Der Kill Switch ist Realität

Was das genaue Motiv der US-Regierung war und ob es möglicherweise auch eine Kombination von verschiedenen Motiven war, ist nicht abschließend bekannt. Aber klar ist: Aus europäischer Perspektive sollte das als ein Weckruf für mehr digitale Souveränität angesehen werden. Denn das kann jede Art von Software und digitaler Infrastruktur betreffen, die wir aus den USA einsetzen. Dafür genügt es, wenn sich die US-Regierung künftig erneut diffus und ohne nachvollziehbare Begründung auf die „nationale Sicherheit“ stützt, um einzelne Produkte zu blocken. Die Vorgänge zeigen: Das Problem der Willkür ist größer als der Fall Anthropic.