„Notausschalter im Stadtrat, Supertruppe im Weißen Haus: New York und Washington ringen um die KI-Zügel“

<p>Es ist ein Montag wie gemalt für die Schlagzeilenredaktionen: Während der New Yorker Stadtrat heute führende KI-Manager ins Verhör nimmt, baut Washington gleichzeitig eine neue Superbehörde für dieselbe Technologie auf. Beide Seiten behaupten, die Zukunft der künstlichen Intelligenz sichern zu wollen – sie meinen nur völlig Unterschiedliches damit.</p> <p>Im Zentrum der New Yorker Anhörung steht ein Mann, der in der Branche derzeit mehr gefürchtet wird als jeder Regulator: Jacob Coxon. Der Forscher verließ Anthropic im September – und hinterließ eine der schärfsten Abrechnungen, die je aus dem Inneren eines Frontier-Labs kam. Die Menschen, die KI bauten, so Coxon, glaubten ernsthaft, dass sie „uns alle bis zum Ende des Jahrzehnts töten könnte“. Sein früherer Arbeitgeber und OpenAI, so sein Vorwurf, „spielten mit unserem Leben“.</p> <p>Coxon tritt heute auf Einladung von Stadtratspräsidentin Julie Menin auf, die Whistleblower ausdrücklich ermutigt hat, vor dem Gremium auszusagen. Neben ihm sitzen Vertreter von Google, OpenAI und Anthropic – die Branche schickt also ihre Cheflobbyisten, während ihr schärfster Kritiker aus den eigenen Reihen gegen sie aussagt. Pikant: SpaceXAI, Elon Musks KI-Firma, hatte die Einladung schlicht ignoriert und wurde daraufhin per Vorladung gezwungen, zu erscheinen.</p> <h3>Notausschalter und Kopfgeld für Warner</h3> <p>Der Stadtrat verhandelt nicht zum Spaß. Auf dem Tisch liegt ein ganzes Paket von KI-Sicherheitsgesetzen – darunter der wohl radikalste Vorschlag, der je in einer US-Metropole diskutiert wurde: ein gesetzlich vorgeschriebener „Kill Switch“, also ein Notausschalter, mit dem gefährliche KI-Systeme notfalls abgeschaltet werden können. Dazu kommen Belohnungen für Whistleblower, die Missstände in den Labs melden.</p> <p>Die Idee klingt nach Science-Fiction, ist aber handfeste Regulierungstechnik: Wer Systeme baut, die sich im Ernstfall nicht mehr stoppen lassen, soll sie gar nicht erst in Betrieb nehmen dürfen. Kritiker wenden ein, dass ein Stadtrat in New York die in Kalifornien sitzenden Frontier-Labs kaum wirksam regulieren kann – und dass ein „Notausschalter“ bei verteilten, quelloffenen Modellen technisch ohnehin eine Illusion sein könnte. Doch genau darin liegt die eigentliche Botschaft der Anhörung: Wenn schon Kommunen zu solchen Mitteln greifen, ist das ein Misstrauensvotum gegen die Selbstregulierung der Branche.</p> <h3>Washingtons Antwort: die Super Intelligence Force</h3> <p>Zur gleichen Zeit geht die Bundesregierung den exakt entgegengesetzten Weg: mehr Tempo, weniger Bremsen – und ein neues Etikett. Mit der Anordnung „Inaugurating the Era of Super Intelligence“ vom 29. September hat Präsident Trump verfügt, dass die gesamte Exekutive die Begriffe „Artificial Intelligence“ und „AI“ nicht mehr verwenden soll. Stattdessen heißt es offiziell „Super Intelligence“ und „SI“. Die Begründung: „artificial“ – künstlich – klinge nach Fälschung, dabei sei die Technologie alles andere als das.</p> <p>Herzstück ist die Anfang Oktober angekündigte „Super Intelligence Force“ (SIF): eine vierköpfige Führungsriege um Geheimdienstkoordinator Jay Clayton, dazu FTC-Chef Andrew Ferguson, Pentagon-Technologiechef Emil Michael und Personalamtsdirektor Scott Kupor. Die Truppe berichtet direkt an Trump und Stabschefin Susie Wiles und soll innerhalb von 120 Tagen einen Bericht über Chancen und Risiken vorlegen – und als zentrale Anlaufstelle für Tech-Konzerne, Verbraucherschützer und Infrastrukturbetreiber dienen.</p> <p>Die Umbenennung ist vorerst kosmetisch: Die geltende gesetzliche Definition von KI wird schlicht auf den neuen Begriff übertragen. Aber sie ist politisch: Hinter dem Namenswechsel steckt die Botschaft, dass Washington die Technologie feiert, nicht fürchtet – und dass die USA im Wettlauf mit China keinen Gang zurückschalten werden. „Bigger than the Industrial Revolution, and the Internet“ – so Trumps Charakterisierung.</p> <h3>Altman rudert – mal so, mal so</h3> <p>In dieses Spannungsfeld platzt ein bemerkenswertes Interview: OpenAI-Chef Sam Altman sagte im Podcast „Decoded“ von Politico, die Vorteile der KI rechtfertigten es, gewisse Risiken einzugehen – und räumte gleichzeitig „große Differenzen“ mit Anthropic in Regulierungsfragen ein. Das ist pikant, weil Altman erst im September öffentlich Amodeis Forderung unterstützt hatte, das Tempo an der „Frontier“ zu drosseln.</p> <p>Was gilt nun? Die wohlwollende Lesart: Altman unterscheidet zwischen freiwilliger Vorsicht und staatlicher Regulierung. Die skeptische: Der OpenAI-Chef sagt jedem Publikum das, was es hören will – den Sicherheitsforschern Mäßigung, den Deregulierern im Weißen Haus Wachstum. Für Beobachter in Europa ist das ein Lehrstück darüber, wie wenig Verlass auf die Selbstverpflichtungen der Branche ist.</p> <h3>Was das für deutsche Unternehmen bedeutet</h3> <p>Für deutsche Firmen, die KI-Systeme einkaufen oder selbst entwickeln, entsteht ein Flickenteppich: Auf Bundesebene in den USA Deregulierung und Tempo, auf kommunaler und bundesstaatlicher Ebene immer schärfere Sicherheitsforderungen – und in der EU mit dem AI Act ohnehin der strengste Rahmen der Welt. Wer heute einen KI-Agenten für den globalen Einsatz baut, muss drei Regulierungslogiken gleichzeitig bedienen.</p> <p>Konkret heißt das: Dokumentieren Sie, was Ihre Systeme tun und warum. Bauen Sie Abschaltmechanismen ein, bevor ein Stadtrat sie Ihnen vorschreibt. Und verlassen Sie sich nicht darauf, dass die US-Bundesregierung die Sicherheitsdebatte schon irgendwie regelt – Washington hat gerade beschlossen, dass das Problem einen schöneren Namen bekommt, nicht dass es gelöst wird.</p> <h3>Fazit: Zwei Geschwindigkeiten, null Kohärenz</h3> <p>Der 5. Oktober 2026 wird als der Tag in Erinnerung bleiben, an dem Amerikas KI-Politik endgültig in zwei Lager zerfiel: Kommunen, die Notausschalter fordern, und ein Weißes Haus, das Taskforces gründet und Vokabeln poliert. Dazwischen die Branche – deren Chefs in New York Rede und Antwort stehen müssen, während ihre Lobbyisten in Washington gefeiert werden.</p> <p>Für Europa ist das keine ferne Kuriosität, sondern die operative Realität der kommenden Jahre. Wer auf eine kohärente amerikanische KI-Linie wartet, wird lange warten. Klüger ist, sich auf beide Szenarien einzustellen: auf einen Markt, der schneller wird – und auf Regulatoren, die irgendwann die Notbremse ziehen. Die Frage ist nicht, ob der Kill Switch kommt. Sondern wer ihn zuerst betätigt.</p>