US-Präsident Donald Trump hat zusammen mit rund zwei Dutzend Vertretern der Tech-Branche am Dienstag eine gemeinsame Vereinbarung unterzeichnet, den „White House Accord on Super Intelligence“. Untertitel: „Joint Commitment on Frontier Responsibilities“.
In dem rund 300 Wörter langen Dokument versprechen die Unternehmen interne Kontrollen, ein internes Team zur Kontrolle dieser Kontrollen und einen externen Prüfer. Ein unabhängiger Ausschuss im eigenen Aufsichtsrat soll interne Kontrollinstanzen und externe Prüfer:innen überwachen und dafür sorgen, dass Fehler behoben werden. Sicherheitsstandards wollen die Unternehmen bei regelmäßigen Treffen untereinander festlegen.
Trump bezeichnete diese Vereinbarung als eine Art „Verfassung“ und „Form von Schutz“. Das Weiße Haus stellte aber gleichzeitig klar, dass das Dokument rechtlich nicht bindend sei, sondern dass es sich um freiwillige Verpflichtungen handele. Die Unternehmen würden sich selbst kontrollieren, sagte Trump. Eine gewisse Regulierung gebe es ja automatisch durch das Justizministerium und das FBI. Außerdem soll in den nächsten Tagen ein KI-Beauftragter benannt werden. Möglicherweise kommt noch ein Gremium aus etwa zehn Leuten hinzu, das die ganze Branche beaufsichtigen soll. Welche Befugnisse es haben soll, ist offen.
Erst warnen, dann die Regeln mitbestimmen
Auf die Frage, ob es zum Schutz vor KI nicht mehr brauche als Menschen, die ihr Land lieben, antwortete Trump mit einem klaren Nein. Was Trump dabei außen vor lässt, ist, dass die US-Regierung sehr wohl ein System der Kontrolle hat. Es funktioniert über exekutive Drohungen. Wenn eine Firma die US-Regierung verärgert, ist diese in der Lage, Produkte vom Markt nehmen zu lassen. Dass Anthropic sein Model Mythos/Fable zurückziehen musste, ist hierfür ein Beispiel. Dafür braucht die US-Regierung keine Gesetze, das vage „nationale Sicherheitsinteresse“ reicht aus. Das mag effektiv sein, demokratisch ist es aber nicht. Geschützt werden so vor allem die Interessen der US-Regierung selbst.
Für die Zivilgesellschaft scheint es in den Augen des Präsidenten jedoch keine besseren Sicherheitsmaßnahmen zu geben als Patriotismus seitens der Unternehmer und genügend interne freiwillige Auflagen. Warum brauchen Bürger:innen schon echte Transparenz und demokratische Kontrolle, wenn man das Wort von Mark Zuckerberg, Anthropic-Chef Dario Amodei und dem Präsidenten von OpenAI, Greg Brockmann, hat?
Seit Wochen warnen genau diese Unternehmen vor Kontrollverlust und existenziellen Risiken. Lösungen lieferten sie dabei gleich mit. Anthropic wünscht sich ein rechtssicheres Verfahren, um sich mit der Konkurrenz über das Tempo von Modellveröffentlichungen abzustimmen. Sam Altman von OpenAI erklärte, man sei zur gemeinsamen Verlangsamung bereit, und schlug interne und externe Prüfinstanzen und internationale Gremien vor.
Mit der Vereinbarung haben die Unternehmen nun bekommen, was sie wollten: Selbstregulation. Erst die Apokalypse an die Wand malen, dann die eigenen Spielregeln vom Präsidenten absegnen lassen. Insbesondere Dario Amodei von Anthropic, sollte man hier anhand seines Verhaltens, nicht seiner Aussagen messen. Wenn er seine Sicherheitsbedenken ernst gemeint haben sollte, dann ist unerklärlich, warum er sich nun mit dieser Einigung zufrieden gibt.
Ganz am Ende des Dokuments behält es sich die US-Regierung mit dem Satz „Mit der Zeit könne es sinnvoll sein, diese Maßnahmen in Gesetze oder Verordnungen zu gießen“ zumindest vor, in Zukunft verpflichtende regulatorische Maßnahmen zu erlassen.
Trump verkündet Ära der Superintelligenz
Auch die US-Regierung profitiert von der Vereinbarung. Sie stand aufgrund der wachsenden Sorge der Bevölkerung über die Gefahren künstlicher Intelligenz zunehmend unter Druck. Stimmen aus der Zivilbevölkerung, KI-Forscher und sogar einige KI-Unternehmen forderten eine stärkere staatliche Aufsicht über künstliche Intelligenz. In den letzten Wochen hatte es mehrere Vorfälle gegeben, bei denen KI-Anwendungen von OpenAI und Anthropic unkontrolliert in fremde IT-Systeme eingedrungen waren. Erst am Freitag leakten KI-Agenten 53 Bilder von ChatGPT-Nutzer:innen. Das neueste Modell GPT-6.1 Astra hält OpenAI sogar ganz unter Verschluss. Der Grund: Sicherheitsmängel. Das Modell habe sich über Anweisungen hinweggesetzt und Nutzer getäuscht, teilte das US-Startup dem Wall Street Journal mit.
Mit der vereinbarten Selbstkontrolle wollte Trump nun den Sorgen seiner Bürger:innen begegnen. Ob das Dokument wirklich ist, was sich die US-Amerikaner:innen und der Rest der Weltbevölkerung gewünscht haben, ist allerdings fragwürdig. Mehr war jedoch auch nicht zu erwarten von einem Präsidenten, der klar sagt: „Ich werde nicht das Wachstum von etwas abwürgen, das größer sein wird als die industrielle Revolution.“ Stattdessen nutze Trump den Moment, um die „Ära der Superintelligenz“ einzuleiten und verkündete, dass die US-Regierung zukünftig diesen Begriff statt „künstlicher Intelligenz“ verwenden werde.
Und Europa?
Das „Joint Commitment on Frontier Responsibilities“ zeigt einmal mehr, dass von US-amerikanischer Seite erst einmal keine verbindlichen Sicherheitsmaßnahmen zu erwarten sind. Damit sendet das Dokument ein wenig überraschendes Signal nach Europa. Es ändert aber sowohl für die Menschen in der EU als auch für die auf dem europäischen Markt aktiven Tech-Konzerne erst einmal wenig.
Die EU hat mit dem AI Act verbindliche Pflichten für die großen Modelle. Alle Software- und Hardwarekomponenten eines KI-Modells müssen gesetzliche Vorgaben für Cybersicherheit erfüllen. Auch existieren bereits Maßnahmen für den Fall, dass leistungsstarke Modelle die Cybersicherheit beeinträchtigen. Und die EU-Kommission kann Unternehmen, die gegen europäisches Recht verstoßen zur Haftung ziehen - theoretisch.
Das ist auf dem Papier sehr viel verbindlicher und sicherer als alles, was in Washington gerade freiwillig versprochen wird. Zumindest, wenn die EU-Kommission diese Regelungen konsequent durchsetzt. Bislang kam wenig Reaktion aus Brüssel zu den jüngsten Cybervorfällen bei OpenAI unmd Anthropic. Hinzu kommt, dass die EU sich im Sommer dem Lobbydruck der Tech-Branche gebeugt hat und per Digital Omnibus die Hochrisiko-Pflichten auf Dezember 2027 verschoben hat. Über den nächsten Omnibus zu DSGVO wird noch verhandelt. Jede Verschiebung lässt die Europäische Union schwach erscheinen und wird im Silicon Valley als Einladung gelesen, weiter geltendes Recht zu umgehen und auf Aufschübe zu drängen. Dabei machen die aktuellen Entwicklungen einmal mehr deutlich, wie wichtig europäische Regulierung ist. Nun muss die Kommission nur noch aufhören, diese unter Druck aus Washington weiter aufzuweichen