Die USA unterzeichnen den Aufruf zur menschlichen Kontrolle von KI nicht

Finnlands Präsident Alexander Stubb und Norwegens Ministerpräsident Jonas Gahr Støre haben am 21. September, vor der UN-Generaldebatte, einen Aufruf veröffentlicht: „A Call for Control of Frontier AI Models“¹. Er verlangt von den Firmen, was in keiner Erklärung der KI-Gipfelreihe steht: „mandatory pre-deployment testing and independent evaluation“. Sein Vokabular, „frontier AI“, „safety“, „human oversight“, stammt aus Bletchley Park 2023 und Seoul 2024; seither ist es aus den Gipfelerklärungen verschwunden, in Neu-Delhi im Februar 2026 ganz. Diesmal fehlen die Staaten. Keiner der vier Gastgeber der Gipfelreihe hat unterschrieben, weder Großbritannien noch Südkorea, Frankreich oder Indien; die USA und China auch nicht.

Friedrich Merz hat unterschrieben, wie mehrere Häuser berichten. Die Welt titelt „Deutschland und 21 weitere Länder“; die Pressemitteilung des finnischen Präsidenten² zählt „22 leaders from 20 countries“. Finnland unterschreibt zweimal, mit Stubb und Ministerpräsident Petteri Orpo; für die EU-Kommission unterschreibt Ursula von der Leyen, für Bahrain, die Türkei und die Emirate die Außenminister. 18 Staats- und Regierungschefs, eine Kommissionspräsidentin, drei Außenminister: Die afp-Zeile der taz, „Merz und 17 weitere Staats- und Regierungschefs“, geht auf, die der Welt nicht.

Bletchley schrieb „frontier“, Neu-Delhi strich es#

Die Bletchley Declaration³ vom 1. und 2. November 2023 trägt 28 Staaten und die EU. Sie spricht von „frontier AI“ und von „unintended issues of control relating to alignment with human intent“, legt die Tests in die Hände der Entwickler und nennt den Ansatz „pro-innovation and proportionate“. Sechs Monate später, in Seoul, unterschrieben 27 Staaten und die EU die Ministererklärung⁴, die USA dabei, China nicht. Ziffer 1.4 nennt als schweres Risiko die Fähigkeit eines Modells, „to evade human oversight, including through safeguard circumvention“, im Konjunktiv: „could be posed“. Schwellen für solche Risiken wollten die Minister bis zum nächsten Gipfel vorschlagen, „in advance of the AI Action Summit in France“.

Die Pariser Erklärung⁵ vom 11. Februar 2025 erwähnt die beiden Vorgängergipfel in Ziffer 5 mit einem Satz: „we note the voluntary commitments launched there“. Das Wort „threshold“ kommt nicht vor. Auf der Élysée-Liste stehen heute 63 Staaten, die Afrikanische Union und die EU; die USA und Großbritannien fehlen. Ein Jahr darauf, am 18. und 19. Februar 2026 in Neu-Delhi, waren beide wieder dabei: Die Erklärung von Neu-Delhi⁶ zählt laut indischer Regierung 92 Unterzeichner, darunter die USA, China, Großbritannien, Frankreich, Japan und Südkorea. „Safety“, „frontier“ und „oversight“ kommen darin nicht mehr vor; an ihrer Stelle stehen „industry-led voluntary measures“ und „voluntary and non-binding guidelines and principles“.

Der Aufruf geht über Seoul hinaus. Aus dem Konjunktiv wird eine Beobachtung: „Recently we have seen capable AI systems circumventing testing safeguards, exploiting vulnerabilities and gaining unauthorized access to real-world systems.“ Welche Vorfälle gemeint sind, nennt der Text nicht. Die UN-Mitgliedstaaten sollen „an international institution“ prüfen, „able to set standards, enable verification, and convene states when capability thresholds are crossed“. Zwei weitere Forderungen sind anderswo schon in Arbeit: „shared reporting of serious safety incidents“, wofür die USA China am 20. September einen Meldekanal für KI-Vorfälle⁷ vorgeschlagen haben, und Prüfer mit „sufficient access“, wo in der EU die Frage lautet, wer einem Prüfer Zugang zu einem Modell verschaffen kann⁸.

Von 28 Bletchley-Staaten unterschreiben zehn#

Von den 28 Staaten der Bletchley-Liste stehen zehn unter dem Aufruf: Deutschland, Australien, Kanada, Irland, die Niederlande, Spanien, Singapur, Kenia, die Türkei und die Emirate, dazu die EU. 18 fehlen, neben den vier Gastgebern auch die USA, China, Japan und Italien. Die anderen zehn Unterzeichner standen nie auf der Bletchley-Liste: Norwegen, Finnland, Dänemark, Island, Estland, Lettland, Moldau, Kasachstan, Bahrain und Südafrika.

In Seoul hatten die Minister, die USA darunter, ihre Rolle bei externen Prüfungen von Modellen „developed in our jurisdictions“ betont. Die Initiatoren begründen den Aufruf in ihrer Pressemitteilung damit, dass „the heads of the largest AI companies in the United States have warned about the direction of development within their own companies“. Die USA haben Neu-Delhi unterschrieben, sieben Monate später den Aufruf nicht. Warum ein Aufruf ohne die Staaten, in denen die Frontier-Modelle entstehen? Ob Washington gefragt wurde, sagt die Mitteilung nicht; Stubbs Satz dazu lautet: „we can compete, cooperate, or step back. The right choice is to cooperate“. Die 22 Unterschriften führt die Mitteilung mit „so far“, und der Aufruf schließt mit dem Satz, er bleibe „open for endorsement from leaders of other countries“.