„Intelligente Killermaschinen bringen dritte Revolution in Kriegsführung“: UNO soll KI-Waffen verbieten

Elon Musk wendet sich gemeinsam mit anderen CEOs und KI-Spezialisten in einem offenen Brief an die UNO, um die Nutzung von künstlicher Intelligenz zu verbieten.

Der Brief wurde am Montag veröffentlicht, dem gleichen Tag, an dem sich eine Gruppe von Regierungsexperten für tödliche autonome Waffensysteme traf. Bei dem Meeting sollte es um den Schutz der zivilen Bevölkerung vor Missbrauch von automatischen Waffen gehen, es wurde kurzfristig auf November verschoben.

Die Videos der laufenden Roboter von Boston Dynamics sorgten im Internet immer wieder für Furore. Foto: Cheetah Robot image courtesy of Boston Dynamics/dpa/dpa

Die Büchse der Pandorra

„Intelligente Killermaschinen drohen die dritte Revolution in der Kriegsführung auszulösen“, heißt es in dem Brief, der durch CEOs von Unternehmen wie Cafe X Technologies and PlusOne Robotics unterzeichnet wurde. „Ist diese Büchse der Pandora erst einmal geöffnet, wird es schwierig sein, sie wieder zu schließen“, heißt es darin weiter.

Tödliche Waffe mit Fernsteuerung: Eine Drohne von Typ MQ-1 Predator der US Air Force. Foto: Lt. Col. Leslie Pratt/dpa

Der offenen Brief erinnert an einen anderen offenen Brief, den Musk zusammen mit mehr als 3.000 anderen AI-Spezialisten und Roboter-Forschern, wie Physiker Steven Hawking und Apple Mitbegründer Steve Wozniak, vor zwei Jahre unterzeichnete.

Im Brief von 2015 warnten die Unterzeichner vor den Gefahren der Künstlichen Intelligenz in Waffen. Sie warnten zudem vor verschiedenen Szenarien wie Mordanschlägen, der Destabilisierung von Nationen sowie der selektiven Tötung von Bevölkerungsteilen und bestimmten ethnischen Gruppen.

Die erste unbemannte Drohne (X-47B Unmanned Combat Air System UCAS), die von dem US-Fluzeugträger George H.W. Bush (CVN 77) am 14. Mai 2013 im Atlantischen Ozean gestartet wurde. Foto: Alan Radecki/U.S. Navy/Northrop Grumman via Getty Images

Drohnenangriffe sind für viele Nationen heute Realität. Diese werden aktuell noch von Menschenhand gesteuert.

Drohnen erzeugen weniger Kosten, da die Soldaten nicht mehr direkt im Feld eingesetzt werden. Außerdem wird dadurch nicht mehr deren Leben aufs Spiel gesetzt, wodurch diese Art Waffensysteme zunehmend populär wird.

Präsentation des nEUROn, einem unbemannten Flugkörper (UAV) oder Drohne, am 12. Juni 2014 in Istres, Frankreich. Foto: Thierry Chesnot / Getty Images

Hemmschwelle für den Einsatz von Killerautomaten könnte weiter fallen

Automatische Waffen würden ein Schritt weiter gehen und den Eingriff von Menschen in das Kriegsgeschehen völlig unnötig machen. Möglicherweise steigert dies auch die Effizienz.

Dadurch könnte aber ein völlig neues Problem aufkommen. Die Hemmschwelle für den Einsatz von Killerautomaten könnte weiter fallen und ein globales Wettrüsten angefacht werden, das auf eine Massenproduktion von Killermaschinen hinausläuft, einschließlich deren Hacking und Missbrauch.

So könnten bewaffnete Quadcopter zum Einsatz gebracht werden, die nach bestimmten Kriterien Menschen eliminieren, heißt es im Brief.

Googles Roboter „Atlas“ unterwegs auf einem Waldweg. Noch ist er von einer externen Energieversorgung abhängig. Foto: YouTube Screenshot / DRCihmcRobotics

Terminator: Musk warnte bereits 2015 vor intelligenten Killerrobotern

„Die Entwicklung von künstlicher Intelligenz hat einen Punkt erreicht, der den Einsatz solcher Systeme — vielleicht nicht legal, aber praktisch möglich — innerhalb von Jahren, nicht Jahrzehnten, ermöglicht. Es steht vieles auf dem Spiel“, heißt es in dem Brief von 2015.

Und: „Es ist lediglich eine Frage der Zeit, bis sie auf dem Schwarzmarkt erscheinen und in die Hände von Terroristen und Diktatoren gelangen, die ihre Bevölkerung besser kontrollieren wollen und ethnische Säuberungen durchführen.“

Philip Finnegan, Direktor für Unternehmensanalyse  in der Teal Group, sagte, es gebe beim US-Militär „keinen Appetit” darauf, den Menschen als Entscheidungsträger aus der Gleichung zu entfernen und es Robotern zu erlauben selbständig Feinde ins Visier zu nehmen.

„Das US-Militär hat betont, es habe kein Interesse daran“, sagte er.

Beim vollautomatischen Waffensystem SGR-A1 wird vor allem der Verlust der menschlichen Kontrolle über die Waffengewalt kritisiert. Ebenso sei das System vor manipulativen Angriffen nicht geschützt. Das System son Samsung kam bislang an der Grenze zu Nord-Korea zum Einsatz, wurde aber wieder aus dem Verkehr gezogen. Foto: MarkBlackUltor CC BY-SA 4.0

Musk warnt seit langem vor der Verbreitung von künstlicher Intelligenz und damit verbundenen Gefahren. Bereits 2014 zog er den Film Terminator zum Vergleich heran, als er über die Entwicklung künstlicher Intelligenz sprach.

Musk agiert gleichzeitig als Sponsor für OpenAI, einer Non-Profit-Organisation, die er gemeinsam mit Unternehmern wie Peter Thiel and Reid Hoffman gründete. So soll gemeinsam künstliche Intelligenz entwickeln werden, die sicher ist und deren Vorteile so weit und gleichmäßig wie möglich verbreitet werden.

Foto: Boston Electronics

Anfang dieses Jahren enthüllte Musk Details über sein neues Unternehmen Neuralink, eine Firma in Kalifornien. Diese plant und entwickelt ein Gerät das in das Gehirn eingepflanzt werden kann um Menschen mit bestimmten Gehirnverletzungen, wie einem Schlaganfall, zu helfen.

Kontrolle des Menschen über KI oder wie kann Mensch mit der KI in Symbiose gehen?

Das Gerät ermöglicht dem Träger eine kabellose Verbindung mit der Cloud aufzubauen. Auch soll die Verbindung mit anderen Trägern und anderen Gehirnen, die dieses Implantat tragen, möglich sein.

Ziel des Gerätes ist es potentiell gefährliche Anwendungen künstlicher Intelligenz abzuwehren.

„Wir werden vor der Wahl stehen entweder abgehängt zu werden und im Endeffekt nutzlos zu sein oder uns mit der Sache anzufreunden – wie mit einer Hauskatze, oder etwas ähnlichem – oder herausfinden auf welche Weise wir mit der KI in Symbiose gehen können und mit ihr verschmelzen, erklärt Musk auf der Webseite „Wait But Why“.

Foto: Boston Electronics

Musks Ansichten über die Risiken künstlicher Intelligenz widersprechen denen von Mark Zuckerberg und anderen in der KI-Forschung.

Letzten Monat hatte Mark Zuckerberg Musks Warnungen als überzogen beschrieben und bezeichnet sich selbst als „optimistisch“. Musk erklärte darauf Zuckerbergs Verständnis von der Materie sei „beschränkt“.