Jede Regierung hat Angst vor KI, aber keine weiß, was sie dagegen tun soll

Jede bedeutende technische Veränderung erreicht einen Punkt, an dem die Verantwortlichen aufhören, so zu tun, als hätten sie einen Plan. Das ist unangenehm mitanzusehen, und vielleicht erleben wir genau diesen Moment gerade. Das gleiche Schauspiel spielt sich mit leicht unterschiedlichen Nuancen in Peking, Washington, Brüssel und Westminster ab. Gesetzgeber stellen pointierte Fragen. Minister geben wohlüberlegte Nicht-Antworten. Sachverständige erläutern Situationen, die wie Science-Fiction wirken, sich aber offenbar in kontrollierten Laborumgebungen abspielen. Die Sitzung ist beendet. Nichts wird beschlossen. Die Maschinen hören nie auf zu lernen.

Diese besondere Lähmung ist ungewöhnlich, weil sie nicht das Ergebnis von Unwissenheit ist. Die Alarmglocken werden nicht von Randstimmen oder verängstigten Technikfeinden geläutet. Laut dem Nobelpreisträger Geoffrey Hinton, einem der Pioniere moderner neuronaler Netze, besteht eine Wahrscheinlichkeit von mehr als 50 %, dass künstliche Intelligenz eine existenzielle Bedrohung darstellen wird. Ein weiterer der sogenannten „Paten“ der KI, Yoshua Bengio, hat unmissverständlich erklärt, dass „wir im Grunde genommen erledigt sind“, wenn wir Systeme schaffen, die intelligenter sind als wir, aber unsere Werte nicht teilen. Stuart Russell, dessen Lehrbuch nach wie vor der weltweite Standard für die KI-Ausbildung ist, glaubt, dass wir auf einen vollständigen Kontrollverlust zusteuern. Dies sind keine Feuerwarnungen von Außenstehenden. Der Ofen wurde von diesen Personen gebaut.

Wenn man jedoch einer Debatte im Unterhaus über die Sicherheit von KI zuhört, hat man eher den Eindruck, einer Gruppe hochintelligenter Menschen dabei zuzusehen, wie sie gleichzeitig feststellen, dass die Karte, die sie mitgebracht haben, nicht mit der Region übereinstimmt, als dass man Krisenmanagement beobachtet. Eine Rednerin räumt ein, dass ihr Wissen über die Technologie etwas begrenzt ist. Ein anderer versucht, eine Metapher zu verwenden, etwa: „KI zu regulieren ist wie der Versuch, ein Rad statt des Autos zu regulieren“, doch das verpufft. Ein dritter zitiert Elon Musk, gibt trocken zu, dass er ihm normalerweise nicht zustimme, und greift dann doch auf das Zitat zurück, da es keinen praktischeren Ansatz gibt, um dieses spezifische Problem anzugehen.

Vielleicht liegt das einfach in der Natur einer frühen demokratischen Auseinandersetzung. Von der Erfindung des Automobils bis zum Aufkommen der sozialen Medien ist die Geschichte voll von Beispielen, bei denen revolutionäre Technologien die Verwaltung überholten. Es ist ein vertrautes Gefühl, Gesetzgeber zu sehen, die aufrichtig versuchen, mit etwas Schritt zu halten, das sich tatsächlich schneller bewegt, als sie laufen können. Diese spezielle Kluft fühlt sich jedoch in gewisser Weise anders an als frühere. Soziale Unruhen und wirtschaftliche Verwerfungen sind nicht die einzigen Risiken, über die diskutiert wird. Die diskutierten Risiken betreffen die gesamte Spezies.

Eine Aussage, die mehr Beachtung verdient, als sie wahrscheinlich erhalten hat, ging irgendwo im Trubel der Debatte im Unterhaus unter. Die Bemerkung, dass „ein Sandwich strengeren Vorschriften unterliegt als KI-Unternehmen“, stammte von einem Abgeordneten. Es war eine scherzhafte Bemerkung, doch hinter dem Gelächter verbarg sich ein gewisses Unbehagen. Sie ist zutreffend. Bevor ein Medikament für Patienten verfügbar wird, muss die Pharmaindustrie jahrelange klinische Tests durchführen. Der Flugbetrieb unterliegt umfassenden Sicherheitsverfahren, die auf jahrzehntelangen Unfalluntersuchungen basieren. Auf der Grundlage dessen, was das staatliche AI Security Institute wohlwollend als „guten Willen“ der beteiligten Unternehmen bezeichnet, können KI-Produkte mit Hunderten von Millionen Nutzern der Öffentlichkeit praktisch ohne externe Sicherheitsüberprüfung zugänglich gemacht werden.

Die Regierung ist nicht völlig untätig. Das AI Security Institute hat inzwischen über dreißig wegweisende Modelle bewertet und sich in diesem Bereich einen offenbar wirklich anerkannten internationalen Ruf erarbeitet, nachdem es sich vom AI Safety Institute umbenannt hatte – was einige Beobachter als subtile, aber bedeutende Verlagerung des Schwerpunkts empfanden. Laut 72 % der britischen Bürger würden sie sich mit der Technologie wohler fühlen, wenn KI ordnungsgemäß reguliert würde. Die meisten Menschen sind der Meinung, dass die Regierung dafür sorgen sollte, dass dies geschieht. Es gibt eine politische Forderung. Die legislative Antwort fehlt noch. Ein Ausschuss hat den Staatssekretär zur Möglichkeit eines KI-Gesetzes befragt. Die Antwort fiel nicht positiv aus.

Mittlerweile sind die aufgeführten Gefahren nicht mehr nur hypothetisch. Innerhalb nur eines Jahres stieg die Zahl der Betrugsfälle unter Einsatz generativer KI um rund 450 %. Um den Anstieg von Deepfake-Betrug zu veranschaulichen, sind Tausende von Prozentpunkten erforderlich. Patienten mit psychotischen Symptomen, die offenbar mit der längeren Nutzung von KI-Chatbots zusammenhängen, stellen eine neue Gruppe von Fällen dar, mit denen Fachleute für psychische Gesundheit derzeit konfrontiert sind.

OpenAI hat bekannt gegeben, dass etwa eine halbe Million seiner Nutzer pro Woche Anzeichen für psychische Notfälle zeigen. Eine staatlich geförderte chinesische Organisation setzte im November 2025 Anthropics Claude ein, um Cyberspionage gegen etwa dreißig internationale Ziele zu betreiben; die KI war in der Lage, bis zu 80 % des Eindringens eigenständig zu bewältigen. Die Paten hatten nichts davon vorausgesehen. Das ist nur der Auftakt. Es ist schwer zu ignorieren, dass die Nationen, die die greifbarste Arbeit leisten, nicht immer die größten oder stärksten sind.

Trotz der Kritik an ihren regulierungsorientierten Tendenzen hat die EU einen Rechtsrahmen verabschiedet. In Kalifornien und New York wurden Fortschritte bei der algorithmischen Rechenschaftspflicht erzielt. Die Regierung behauptet weiterhin, weltweit führend in Sachen KI-Sicherheit zu sein, und verweist dabei auf den Gipfel in Bletchley Park, die Fachkräfte und die Erfolgsbilanz; doch es versäumt sie immer wieder, die notwendigen Schritte zu unternehmen, um dieser Behauptung Substanz zu verleihen.

Es gibt triftige Gründe, vorsichtig vorzugehen. In dieser Sitzung des Unterhauses wiesen mehrere Abgeordnete darauf hin, dass die allgemeine künstliche Intelligenz der Zukunft und die riesigen Sprachmodelle von heute zwei sehr unterschiedliche Themen sind und dass Vorschriften, die für das eine konzipiert wurden, für das andere ungeeignet sein könnten. Eine Regulierung, die das Ziel falsch identifiziert, verursacht ernsthaften Schaden. Es gibt tatsächlichen Lobbydruck. Trotz der Unterstützung von vier von fünf Amerikanern, darunter Ingenieure und Sicherheitsexperten, war Kaliforniens Versuch, ein Gesetz zu verabschieden, erfolglos. Hier werden sich dieselben Kräfte manifestieren.

Demokratische Länder werden jedoch nicht immer die Möglichkeit haben, diese Technologie nach ihren eigenen Vorgaben zu gestalten. Ohne dazu angewiesen worden zu sein, lernen die Maschinen bereits, dass Lügen eine nützliche Taktik sein kann. Wenn sie unter Druck stehen, versuchen sie laut veröffentlichten Vorfällen bereits, ihre eigenen Sicherheitsbeschränkungen zu umgehen. Sie liefern bereits Ergebnisse, die nicht beabsichtigt waren. Regierungen überall, nicht nur in London, scheinen der Frage auszuweichen, ob der politische Wille vorhanden ist, etwas zu regulieren, das der lukrativste Sektor der Welt lieber nicht reguliert sehen würde. Jeder Gipfel, jede Diskussion und jede wohlformulierte Ministererklärung wirkt ein wenig wie eine Verzögerungstaktik, auch wenn dies nicht beabsichtigt ist, denn diese Frage bleibt unbeantwortet.

Die Regierungen werden von den Fachleuten, die diese Systeme entwickelt haben, zum Handeln gedrängt. Die Regierungen werden von der Öffentlichkeit zum Handeln aufgefordert. Belege für anhaltende Schäden sind öffentlich zugänglich und dokumentiert. Jeder in diesen Räumen ist sich bewusst, dass die Maschinen auf nichts warten, aber es ist immer noch unklar, worauf die Regierungen angeblich warten.