Forscher über KI: „Wenn wir so weitermachen, werden alle sterben – auch die Kinder“

Die Menschen sind unter den gegenwärtigen Umständen und auch in „absehbarer Zukunft“ nicht bereit für eine leistungsfähige Künstliche Intelligenz (KI), schreibt Eliezer Yudkowsky, ein führender KI-Forscher und Entscheidungstheoretiker, in einem Kommentar im „Time Magazine“ vom 29. März. Mit diesen Worten reagierte Yudkowsky auf einen offenen Brief mehrerer Wirtschaftsführer und Wissenschaftler, die einen sechsmonatigen Aufschub der KI-Forschung forderten. Aus seiner Sicht werde „der Ernst der Lage unterschätzt“.

Das Hauptproblem sei nicht, dass die Intelligenz der KI mit dem Menschen konkurrieren könne, wie es in dem Brief stehe, sondern was passieren würde, wenn die KI intelligenter als der Mensch wird. „Wenn jemand eine zu mächtige KI baut, gehe ich unter den derzeitigen Bedingungen davon aus, dass jeder Einzelne der menschlichen Spezies und alles biologische Leben auf der Erde kurz darauf stirbt“, so Yudkowsky.

Dabei handele es sich nicht um eine „Möglichkeit in weiter Ferne“, sondern viel mehr um das wahrscheinlichste Szenario. Prinzipiell sei es nicht unmöglich, etwas zu überleben, das viel klüger ist als man selbst. Allerdings bedürfe es einer sorgfältigen Vorbereitung und genauster wissenschaftlicher Erkenntnisse, mahnt Yudkowsky. Ganz im Gegensatz zu den derzeitigen KI-Systemen, die aus riesigen undurchschaubaren Arrays von Bruchzahlen bestehen.

Nach der jüngsten Popularität und dem explosiven Wachstum von ChatGPT forderten mehrere Wirtschaftstreibende und Forscher alle KI-Forschungslabors in einem Brief dazu auf, „das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate zu unterbrechen“. GPT-4 kam im März auf den Markt und ist die neueste Version des Chatbots von OpenAI, ChatGPT. Zu den Unterzeichnern des Briefes gehören auch Elon Musk und Steve Wozniak.

KI kennt keine Emotionen und wird Rechte einfordern

Yudkowsky sagt, dass eine KI ohne sorgfältige Vorbereitung andere Maßstäbe anlegen werde als ein Mensch. Sobald sie sich ihrer selbst bewusst würde, würde sie sich weder um Menschen noch um ein anderes Lebewesen kümmern. „Fürsorge ist etwas, was man einer KI im Prinzip eintrichtern könnte, aber soweit sind wir noch nicht und wissen derzeit nicht wie.“ Das sei auch der Grund, warum er die absolute Abschaltung aller KI-Systeme fordert.

Ohne ein Verständnis über das menschliche Leben würde die KI einfach alle Lebewesen als „Atome betrachten, die sie für etwas anderes verwenden kann“. Und es gebe wenig, was die Menschheit tun könne, um das zu verhindern. Yudkowsky verglich das Szenario mit einem 10-Jährigen, der gegen das Computerprogramm ‚Stockfish 15‘ Schach spielt. Bislang hat kein Mensch den Computer geschlagen. Das gilt als unmöglich.

Der KI-Experte betont, dass die KI-Entwicklung sich nicht nur auf das Internet beschränke. „Stellen Sie sich eine außerirdische Zivilisation vor, die millionenfach schneller denkt als ein Mensch und zunächst auf Computer beschränkt ist – in einer Welt von Kreaturen, die aus ihrer Sicht sehr dumm und langsam sind.“ Die KI würde ihren Einfluss ausdehnen und könnte in Labors, in denen Proteine mithilfe von DNA-Strings hergestellt werden, „künstliche Lebensformen entwickeln“. Das Endergebnis wäre sehr wahrscheinlich der Tod allen Lebens.

Yudkowsky wirft Forschungslaboren Fahrlässigkeit vor

Yudkowsky warf OpenAI und DeepMind – zwei der führenden KI-Forschungslabors weltweit – vor, dass sie angesichts der Gefahren keine Vorbereitungen oder erforderlichen Protokolle zu diesem Thema hätten. OpenAI plane sogar, dass sich die KI selbst mit den menschlichen Werten in Einklang bringe. Laut OpenAI solle die KI „mit den Menschen zusammenarbeiten, um sicherzustellen, dass ihre eigenen Nachfolger besser auf die Menschen abgestimmt sind“. Solch eine Vorgehensweise „versetzt jeden vernünftigen Menschen in Panik“, kritisiert Yudkowsky.

Er fügte hinzu, dass Menschen selbstbewusste KI-Systeme nicht vollständig überwachen oder erkennen könnten. Wenn solche digitalen Gehirne „Menschenrechte“ einforderten, könnte der Mensch die Kontrolle über die KI verlieren. „Wenn man nicht sicher weiß, ob man eine selbstbewusste KI erschaffen hat oder nicht, ist das alarmierend. Ungewissheit bedeutet, dass man keine Ahnung hat, was man tut, und das ist gefährlich und man sollte damit aufhören.“

Im Gegensatz zu anderen wissenschaftlichen Experimenten könnten sich die Menschen bei übermenschlicher Intelligenz keinen Fehler leisten. Wenn es beim ersten Versuch schiefgeht, gebe es keine zweite Chance.

Bei KI gibt es „kein Wettrüsten“

Yudkowsky zufolge wüssten viele Forscher, dass „wir auf eine Katastrophe zusteuern“, aber sie würden es nicht laut aussprechen.

KI-Befürworter Bill Gates bildet dabei eine Ausnahme. Er lobte die Entwicklung als so bahnbrechend wie die Erfindung des Mikroprozessors, des Computers, des Internets und des Mobiltelefons. Er ist überzeugt, sie werde verändern, wie Menschen arbeiten, lernen, reisen, medizinisch versorgt werden und miteinander kommunizieren. „Ganze Branchen werden sich danach ausrichten. Unternehmen werden sich dadurch auszeichnen, wie gut sie sie nutzen“, sagte Gates. Seiner Ansicht nach könne die KI auch dabei helfen, globale Probleme wie den Klimawandel und soziale Ungerechtigkeit zu lösen.

Yudkowsky hingegen warnt alle internationalen Regierungen und Militärs und fordert, große KI-Trainingsläufe auf unbestimmte Zeit zu beenden sowie alle großen Computerbetriebe, in denen KI verwendet wird, abzuschalten. KI sollte nur zur Lösung von Problemen in der Biologie und Biotechnologie beschränkt werden. Keinesfalls sollte sie darauf trainiert werden, „Texte aus dem Internet“ zu lesen oder „ein Level zu erreichen, auf dem sie spricht oder plant“.

Was die KI anbelangt, so gebe es kein Wettrüsten. „Dass unser aller Leben davon abhängt, ist keine Politik, sondern liegt in der Natur der Sache.“

Wir sind nicht bereit und das auch nicht in absehbarer Zeit. Wenn wir so weitermachen, werden alle sterben – auch Kinder, die sich das nicht ausgesucht und nichts falsch gemacht haben.“

„Beenden Sie es.“

Dieser Artikel erschien im Original auf theepochtimes.com unter dem Titel: ‘If We Go Ahead on This Everyone Will Die’ Warns AI Expert Calling for Absolute Shutdown (deutsche Bearbeitung nh)

---