Sicherheitspakt der Frontier-Labore: Amerikas Selbstregulierung fordert Europas KI-Kurs heraus

<h3>London darf wieder testen: Washingtons Kehrtwende</h3> <p>Monatelang war die wichtigste Prüfung der künstlichen Intelligenz eine politische Frage. Nun hat das Weiße Haus eine Kehrtwende vollzogen: Das britische AI Security Institute erhält wieder Zugang zu den leistungsstärksten Modellen von OpenAI, Anthropic und Google DeepMind – noch bevor sie öffentlich erscheinen. Die zuvor verhängten Beschränkungen sind damit vom Tisch.</p> <p>Hinter der Entscheidung steht monatelange Lobbyarbeit. Der britische KI-Minister Kanishka Narayan hat in Washington dafür geworben, dass Sicherheitstests nicht an Landesgrenzen enden dürfen. Sein Argument: Ein Modell, das in London geprüft wurde, ist auch für amerikanische Nutzer sicherer. Die Trump-Regierung, die sich sonst jeder Regulierung widersetzt, folgte dieser Logik – und vollzog eine der wenigen Kehrtwenden ihrer Technologiepolitik.</p> <p>Geprüft wird dabei, was die Modelle wirklich können – und was sie besser nicht können sollten. Das britische Institut sucht nach Fähigkeiten wie der Unterstützung bei Cyberangriffen, der Entwicklung biologischer Waffen oder der Fähigkeit, sich der eigenen Abschaltung zu entziehen. Es sind Tests, die kein Unternehmen freiwillig an seinen Produkten vornimmt – und genau deshalb braucht es unabhängige Prüfer.</p> <p>Der Zugang ist mehr als Symbolik. Wer ein Modell vor der Veröffentlichung testen darf, kann gefährliche Fähigkeiten finden, bevor Millionen Nutzer sie in den Händen halten. Das britische Institut hat sich mit früheren Prüfungen einen Namen gemacht – umso mehr wiegt es, dass Washington die Tür nun wieder öffnet.</p> <h3>Amodeis Warnung: Der Ruf nach einer Pause</h3> <p>Parallel dazu hat Anthropic-Chef Dario Amodei am vergangenen Samstag einen langen Essay veröffentlicht, der in der Branche wie ein Donnerschlag wirkte. Seine These: Der Wettlauf um immer leistungsfähigere Modelle müsse verlangsamt werden, um „katastrophale Risiken" zu verhindern. Amodei warnt davor, dass die Leistungsfähigkeit der Modelle der Sicherheitsforschung davonläuft.</p> <p>Bemerkenswert ist die Resonanz. Sam Altman, Elon Musk und Demis Hassabis – sonst selten einer Meinung – stellten sich öffentlich hinter den Appell. Altman ging sogar noch weiter: Er erklärte sich bereit, unabhängige Prüfer direkt in die Entwicklungsteams von OpenAI einzubetten. Das ist ein bemerkenswerter Schritt für ein Unternehmen, das jahrelang jede externe Kontrolle als Innovationsbremse abtat.</p> <p>Dass ausgerechnet die Chefs der führenden Labore selbst vor den eigenen Produkten warnen, verleiht dem Appell Gewicht. Es ist das Eingeständnis einer Branche, die ihre Schöpfungen kaum noch versteht – und sie trotzdem weiter skaliert.</p> <h3>Der Pakt der drei Labore</h3> <p>Noch bemerkenswerter ist, was sich hinter den Kulissen abspielt. OpenAI-Politikchef Chris Lehane räumte bei einem Briefing in Washington ein, dass OpenAI, Anthropic und Google DeepMind seit Wochen heimlich an einem gemeinsamen Sicherheitsrahmen arbeiten. Die drei schärfsten Konkurrenten der Branche koordinieren also genau das, was sie öffentlich stets als unmöglich darstellten: gemeinsame Standards für die gefährlichsten Modelle der Welt.</p> <p>Lehane fügte hinzu, die Unternehmen bräuchten dafür keine kartellrechtliche Ausnahmeregelung – ein Hinweis darauf, dass die Zusammenarbeit juristisch vorbereitet wurde. Ein solcher Rahmen könnte Schwellenwerte für gefährliche Fähigkeiten, gemeinsame Testmethoden und Meldepflichten für Vorfälle umfassen. Als Nächstes steht die Gründung einer Selbstregulierungsorganisation an: die Standards Authority for Frontier AI, kurz SAFA. Sie soll künftig die Prüfungen organisieren, die heute noch Regierungen wie die britische übernehmen.</p> <p>Die Ironie ist offensichtlich: Die Labore bauen sich ihre eigene Aufsicht – besetzt mit ihren eigenen Leuten, nach ihren eigenen Regeln. Ob das Sicherheit schafft oder nur den Anschein, wird sich zeigen.</p> <h3>Kongress und Weißes Haus: Zwei Geschwindigkeiten</h3> <p>Während die Labore sich selbst organisieren, bewegt sich auch die Politik – in zwei Geschwindigkeiten. Im Kongress arbeiten überparteiliche Gruppen an Gesetzen: Der Rahmen von Obernolte und Trahan sowie ein Senatsentwurf von Thune, Cruz und Klobuchar zielen auf katastrophale Risiken ab. Senator Sanders plant, kommende Woche sogar einen Gesetzentwurf vorzulegen, der „superintelligente KI" schlicht verbieten würde.</p> <p>Die Bandbreite der Vorschläge zeigt, wie ernst die Lage im Kongress genommen wird: von freiwilligen Rahmenwerken über Risikomanagement bis zum Totalverbot. Dass ausgerechnet in einem von Deregulierung geprägten Washington solche Debatten geführt werden, sagt viel über den Druck, unter dem die Branche steht.</p> <p>Das Weiße Haus dagegen hält Distanz. Präsident Trump bezeichnete Sicherheitsbedenken als „Schwindel" und lehnt Regulierung ab. Gleichzeitig richtete die Regierung eine neue KI-Arbeitsgruppe ein, die Entwickler verpflichtet, Sicherheitsvorfälle zu melden. Die Botschaft ist zwiespältig: keine Regeln, aber Berichtspflicht – Regulierung durch die Hintertür, ohne den Namen.</p> <p>Das Ergebnis ist ein amerikanisches Paradox: Der Kongress schreibt an Verboten, der Präsident spottet über die Gefahr, und die Industrie reguliert sich derweil selbst. Wer in diesem Durcheinander den Ton angibt, ist noch offen.</p> <h3>Was das für Europa bedeutet</h3> <p>Für Europa stellt sich eine unbequeme Frage. Während die USA auf Selbstregulierung durch die Labore selbst setzen, baut die EU mit dem AI Act auf gesetzliche Vorgaben. Nun entsteht jenseits des Atlantiks ein geschlossenes System aus Selbstverpflichtung, Geheimabsprachen und britischen Vorabtests – an dem europäische Prüfer nicht teilnehmen. Wer die Modelle testet, bestimmt auch, was als sicher gilt.</p> <p>Das betrifft europäische Unternehmen unmittelbar. Wer in Deutschland oder Frankreich auf amerikanische Modelle setzt, ist auf deren Sicherheitsversprechen angewiesen – ohne eigenen Zugang zu den Prüfverfahren. Europas viel beschworene KI-Souveränität bleibt solange ein Papiertiger, wie die relevanten Tests in Washington und London stattfinden.</p> <p>Der Ausweg wäre eigene Prüffähigkeit: Das EU AI Office könnte zu einer Instanz ausgebaut werden, die Modelle tatsächlich testet, statt nur Regeln zu schreiben. Doch dafür braucht es Geld, Personal und politischen Willen. Der 14. Oktober 2026 könnte als der Tag in Erinnerung bleiben, an dem Amerika die Regeln für KI-Sicherheit schrieb – und Europa zuschaute. Ob es dabei bleibt, entscheidet sich in Brüssel, Berlin und Paris.</p>