Warum die klügsten Kopfe der Welt auch die großte Angst vor KI haben

Warum die klügsten Kopfe der Welt auch die großte Angst vor KI haben Wenn jemand etwas wirklich versteht, scheint er eine gewisse Art von Furcht zu empfinden. Nicht die Angst vor Unwissenheit, die leicht zu überwinden ist. Das ist etwas anderes. Es ist das stille, anhaltende Unbehagen eines Menschen, der so genau hingeschaut hat, dass er weiß, dass er den Grund nicht sehen kann.

Es ist wichtig, sich einen Moment Zeit zu nehmen, um zu bedenken, dass diejenigen, die sich am offensten Sorgen um KI machen, keine Technikfeinde oder abwegige Verschwörungstheoretiker sind, die noch nie ein Smartphone benutzt haben. Eines der bedeutendsten KI-Labore der Geschichte wurde von Elon Musk mitbegründet.

Es handelt sich um den verstorbenen Stephen Hawking, der sein Berufsleben der Erforschung der Grenzen physikalischer Erklarungen gewidmet hat. Es handelt sich um Geoffrey Hinton, der einen Turing Preis fur etwas erhielt, von dem er heute behauptet, es sei möglicherweise ein Fehler gewesen. Musk und andere hochrangige Forscher unterzeichneten 2023 uber das Future of Life Institute einen Brief, in dem sie forderten, die Entwicklung von KI fur sechs Monate auszusetzen. Das war eine seltsame Forderung von denen, die in vielerlei Hinsicht genau die Technologie geschaffen hatten, deren Stopp sie nun verlangten.

In dieser Spannung liegt kein Widerspruch. Vielleicht ist genau das der Punkt. Obwohl beide Sorgen berechtigt sind und tatsachliche Auswirkungen haben, hat man das Gefuhl, dass die Angst, die diese Köpfe vermitteln, nicht wirklich mit Arbeitsplatzverlusten oder Falschinformationen zusammenhangt. Das sind die Bedenken, die auf den ersten Blick erkennbar sind und fur Anhörungen im Gesetzgebungsprozess und Meinungsbeitrage aufbereitet werden. Das tiefere Unbehagen, das alter und ungewohnter ist, wird selten ausdrucklich benannt. Es ist die Moglichkeit, dass wir uns schon sehr lange darin geirrt haben, was uns einzigartig macht.

Professor Michael Levin von der Tufts University, der sich mit dem beschaftigt, was er als „Diverse Intelligence” bezeichnet, vertritt die Ansicht, dass die Ablehnung der KI durch den Menschen nicht in erster Linie mit der Technologie selbst zusammenhangt. V ielmehr geht es darum, was diese Technologie impliziert. Seit jeher haben wir klar zwischen dem menschlichen Verstand und dem von Robotern, Tieren und Zellen unterschieden. Diese Grenze war praktisch. Sie bildete die Grundlage fur unsere Moral, unsere Gesetze, unseren Glauben und unseren Sinn fur Sinnhaftigkeit. Doch diese Grenze verschwimmt nun zunehmend, und diejenigen, die klug genug sind, dies zu erkennen, sind verstandlicherweise beunruhigt.

Es ist unangenehm, sich in dieser Art von intellektuellem Schwindelgefuhl zu bewegen. Es ist wahrscheinlich, dass sich die Ingenieure und Wissenschaftler, die moderne KI Systeme entwickelt haben, ihrer eigenen Unwissenheit bewusster sind als die meisten Menschen. Sie haben gesehen, wie Sprachmodelle Antworten generieren, die gelegentlich unheimlich nachdenklich wirken, und sie wissen, dass sie dieses Gefuhl nicht vollig ignorieren durfen, auch wenn sie es nicht angemessen erklaren konnen. Nach seinem Ausscheiden bei Google behauptete Hinton, er könne nicht mehr feststellen, ob diese Systeme uber eine innere Erfahrung verfugten. Dieses Eingestandnis ist nicht unbedeutend, wenn es von jemandem kommt, der die technische Architektur grundlich versteht.

Der HR Analyst und Wirtschaftsjournalist Josh Bersin brachte ein Gegenargument vor, das es wert ist, berucksichtigt zu werden: Er behauptet, dass die spezifischen Bedenken im Zusammenhang mit KI, wie Massenarbeitslosigkeit, existenzielle Risiken und der Zusammenbruch der Zivilisation, größtenteils nicht durch Daten gestutzt werden. Er weist darauf hin, dass die Erfindung der Druckerpresse, die industrielle Revolution und das Internet alle mit ahnlichen Prognosen einhergingen. Keine davon fuhrte zu den Katastrophen, die erwartet worden waren. Hinzu kommt noch ein weiterer Aspekt. Anfang 2023 löste der Bericht von Goldman Sachs, wonach generative KI 300 Millionen Arbeitsplatze betreffen könnte, große Ängste aus; es ist nach wie vor ungewiss, inwieweit sich diese Prognose bewahrheiten wird.

Die Frage, ob diese speziellen Ängste real sind, ist jedoch nicht die interessantere. Dies erklart, warum intelligente Menschen sie weiterhin hegen. Angst konzentriert sich tendenziell auf Dinge, die wir noch nicht quantifizieren können. Was Intelligenz ist, wo sie angesiedelt ist und ob sich die chemischen Prozesse, die den menschlichen Intellekt hervorbringen, stark von dem unterscheiden, was ein entsprechend komplexes neuronales Netzwerk in großem Maßstab leistet all das sind Dinge, die wir weder quantifizieren noch prazise charakterisieren können. Aus einer vollig entgegengesetzten Perspektive schreibt Robert Marks, dass Menschen „nicht berechenbar” seien, dass Bewusstsein, Kreativitat und Emotionen, egal wie komplex sie auch sein mögen, nicht auf algorithmische Funktionen reduziert werden könnten. Das ist eine gewichtige Behauptung, und sie könnte wahr sein. Doch selbst Marks’ein Thema, mit dem sich die Wissenschaft noch nicht umfassend auseinandergesetzt hat.

Es ist schwer zu ubersehen, dass beide Gruppen diejenigen, die Angst vor KI haben, und diejenigen, die keine Angst haben im Grunde genommen uber dieselbe grundlegende Frage diskutieren: Was sind wir? Wenn der menschliche Intellekt nicht auf etwas anderes reduzierbar ist, was macht ihn dann so einzigartig? Was bedeutet das fur den Umgang miteinander und letztlich fur das, was wir geschaffen haben falls es nicht auf etwas anderes reduzierbar ist?

Die intelligentesten Menschen auf dem Planeten haben Angst vor KI, weil sie glauben, dass sie uns zu einer Abrechnung zwingen wird, und nicht, weil sie glauben, dass sie anfangen wird, Intrigen zu schmieden. Ein Sprachmodell treibt diese Abrechnung mit jeder unerwarteten Handlung voran, die es ausfuhrt. Ob diese Abrechnung zu einer Krise oder zu einer Reifung fuhren wird, ist noch vollig offen. Wenn man jedoch miterlebt, wie die sachkundigsten Personen in Echtzeit sichtlich unruhig werden, Briefe unterzeichnen, an Interviews teilnehmen und die von ihnen geschaffenen Labore verlassen, deutet dies darauf hin, dass sie glauben, dass es um echte Risiken geht. Vielleicht ist dieses Unbehagen der ehrlichste Indikator, den wir haben