USA und China wollen beim KI-Wettlauf nicht bremsen

Warnungen kommen aus der Industrie selbst

Die Warnungen vor zu schneller KI-Entwicklung kommen längst nicht mehr nur von Aktivisten oder Regulierungsbehörden. Sie kommen aus den Unternehmen, die diese Systeme selbst bauen.

Anthropic-Chef Dario Amodei fordert, das Entwicklungstempo an der technologischen Spitze gezielt zu drosseln. Seine Formulierung dafür lautet: „We must pace the frontier.“

Gemeint ist keine vollständige Einstellung der KI-Forschung. Amodei will verhindern, dass die Fähigkeiten neuer Modelle schneller wachsen als die Möglichkeiten, sie zu verstehen, zu testen und abzusichern. Seine Begründung: KI-Systeme könnten zunehmend selbst an der Entwicklung der nächsten Modellgeneration mitwirken, was den Fortschritt weiter beschleunigt. Amodei warnt konkret vor Kontrollverlust, Cyberangriffen und biologischem Missbrauch.

Auch Sam Altman und Elon Musk haben zentrale Teile dieser Forderung nach einem bewussteren Entwicklungstempo unterstützt.

Wer bremst zuerst?

Eine Verlangsamung funktioniert kaum, wenn nur einzelne Unternehmen mitmachen. Sie funktioniert erst recht nicht, wenn ein Land seine leistungsfähigsten Systeme drosselt, während ein geopolitischer Konkurrent weiter beschleunigt.

Damit landet die Diskussion sehr schnell bei den USA und China.

Beide Staaten betrachten künstliche Intelligenz längst als strategischen Faktor für Wirtschaft, Wissenschaft, Cybersicherheit und militärische Fähigkeiten. KI ist weit mehr als ein Werkzeug für Chatbots, Bilder oder Büroautomatisierung.

Genau deshalb ist eine Pause so schwierig.

US-Präsident Donald Trump machte seine Position Mitte September klar: „Whoever wins AI wins.“ Die USA führten gegenüber China, erklärte Trump, und das solle so bleiben. Forderungen nach einer Verlangsamung wies er zurück.

Die amerikanische Argumentation ist nachvollziehbar: Bremst Washington die eigenen Unternehmen, während chinesische Entwickler weiterarbeiten, könnte der technologische Vorsprung verloren gehen.

China glaubt den Amerikanern nicht

Aus chinesischer Perspektive sieht die Sache erstaunlich ähnlich aus, nur mit umgekehrten Vorzeichen.

China reagierte ausgesprochen skeptisch auf die amerikanischen Forderungen. Das chinesische Außenministerium warf Amodeis Vorstoß Angstmache, Konfrontation und „bösartigen Wettbewerb“ vor. In Staatsmedien wurde die Debatte teilweise als Versuch interpretiert, Chinas technologische Entwicklung einzudämmen und den bestehenden amerikanischen Vorsprung abzusichern.

Das Misstrauen kommt nicht ohne Grund. Die USA beschränken seit Jahren Chinas Zugang zu leistungsfähigen Chips und Halbleitertechnologien. Gleichzeitig soll China nun einer internationalen Begrenzung besonders leistungsfähiger KI zustimmen. Die naheliegende Frage aus Peking: Geht es wirklich um Sicherheit, oder darum, den technologischen Vorsprung der USA zu konservieren?

China lehnt KI-Sicherheit dabei keineswegs grundsätzlich ab. Xi Jinping betonte beim Treffen mit Trump, KI müsse zum Guten entwickelt werden und immer unter menschlicher Kontrolle bleiben. China hat bereits zahlreiche eigene Regeln für künstliche Intelligenz eingeführt. Eine generelle Verlangsamung des technologischen Wettlaufs ist allerdings etwas anderes.

Zwei Wochen im September

1. 12. September: „We must pace the frontier“Dario Amodei veröffentlicht seinen Essay. Sam Altman stimmt öffentlich zu.
2. Mitte September: „Whoever wins AI wins“Donald Trump weist Forderungen nach einer Verlangsamung zurück.
3. Mitte September: Peking reagiertChinas Außenministerium spricht von Angstmache und „bösartigem Wettbewerb“, Staatsmedien von Eindämmung.
4. 23. bis 25. September: Xi in WashingtonKI ist großes Thema, eine Vereinbarung über das Tempo bleibt aus.

Die verpasste Gelegenheit in Washington

Am 25. September endete der dreitägige Staatsbesuch von Xi Jinping in Washington. KI gehörte zu den großen strategischen Themen. Eine weitreichende Vereinbarung über eine koordinierte Entwicklung kam jedoch nicht zustande. Selbst eine von Experten geforderte gemeinsame technische Arbeitsgruppe zur Kontrolle besonders leistungsfähiger Systeme wurde nicht eingerichtet.

Das ist bemerkenswert, denn gleichzeitig wächst innerhalb der KI-Industrie die Sorge, dass die Entwicklung der Systeme schneller voranschreitet als die Entwicklung geeigneter Sicherheitsmechanismen.

Das klassische Dilemma

Wenn die USA deutlich verlangsamen, während China weitermacht, droht ein Verlust des technologischen Vorsprungs. Umgekehrt könnte China dauerhaft zurückfallen, wenn es bremst und amerikanische Unternehmen weiterentwickeln. Wenn beide Seiten davon ausgehen müssen, dass der jeweils andere nicht mitzieht, entsteht für beide derselbe Anreiz: weitermachen, selbst wenn die Risiken bekannt sind. Amodei bezeichnet eine international koordinierte Begrenzung als besonders schwierig umzusetzen.

Sicherheit gegen Macht

Damit verschiebt sich die zentrale Frage der KI-Debatte.

Lange lautete sie: Wie sicher können wir künstliche Intelligenz entwickeln? Inzwischen kommt eine zweite hinzu: Können wir uns überhaupt leisten, langsamer zu entwickeln, wenn die andere Seite weitermacht?

Das ist ein wesentlich schwierigeres Problem. Technische Sicherheitsmaßnahmen lassen sich entwickeln, Modelle können getestet, überwacht und eingeschränkt werden.

Geopolitisches Misstrauen lässt sich nicht programmieren.

Das eigentliche Risiko liegt also nicht darin, dass niemand die Gefahren leistungsfähiger KI erkennt. Das eigentliche Risiko liegt darin, dass alle Seiten wissen, was passieren könnte, und trotzdem niemand zuerst bremsen will.

Zur Quellenlage

Amodeis Forderung und seine Einschätzung der internationalen Koordination stammen aus seinem Essay vom 12. September. Die Aussagen von Trump, dem chinesischen Außenministerium und Xi Jinping sind in Berichten von NPR, CNBC, CNN und Bloomberg dokumentiert. Welche Gespräche über KI hinter verschlossenen Türen geführt wurden, ist öffentlich nicht bekannt.

In dieser Serie dokumentieren wir reale Entwicklungen rund um künstliche Intelligenz, bei denen sich eine entscheidende Frage stellt: Entwickelt sich die Technologie schneller, als wir lernen, mit ihren Folgen umzugehen?