Am 27. November 2020 starb der Kopf des iranischen Atomprogramms, Mohsen Fachrisadeh, bei einem mysteriösen Mordanschlag auf seine Fahrzeugkolonne. Der Physiker und Brigadegeneral wurde auf dem Khomeini-Boulevard der Kleinstadt Absard von vier Kugeln aus einer autonom operierenden Roboterwaffe mit Gesichtserkennungssoftware getroffen, die so präzise feuerte, dass die Frau des Wissenschaftlers, welche unmittelbar neben ihm saß, unverletzt blieb. Wer hinter dem Attentat steckte, ist bis heute unklar. Auf jeden Fall handelte es sich hier aber um den geheimdienstlichen Einsatz von Künstlicher Intelligenz (KI).

Der Begriff in seiner ursprünglichen englischen Form „Artificial Intelligence“ geht auf den US-Informatiker John McCarthy zurück, der ihn 1955 erstmals verwendete. Heute gilt KI als „die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“ – so die Definition des EU-Parlaments. Es wird zwischen schwacher und starker KI unterschieden. Erstere dient dem Zweck, konkrete Anwendungsaufgaben zu meistern und den Menschen beim Denken und Handeln zu unterstützen. Dagegen agieren die Computersysteme der starken KI sehr viel stärker auf Augenhöhe mit ihren Schöpfern und stellen auch keine Eins-zu-Eins-Nachahmungen der kognitiven Architektur des Homo sapiens dar.

Experten warnen vor KI-Waffen

Die schwache KI kann unser Leben enorm verbessern. Man denke an Internet-Suchmaschinen und -Übersetzer, die Analyse und Vorhersage von Entwicklungen aller Art vom Wettergeschehen bis zu den Börsen, Programme zur Sprach- und Bilderkennung, selbstfahrende Verkehrsmittel, „nimmermüde“ Fertigungsroboter und so weiter. Gleichzeitig existiert aber ein erhebliches Missbrauchspotential, wie der Mord an dem Atomphysiker oder die Verwendung anderer autonom agierender Tötungsmaschinen zeigt. 

Das rief im August 2017 allerlei Experten aus der Technologiebranche auf den Plan, welche die Vereinten Nationen davor warnten, dass nach der Erfindung des Schwarzpulvers und der Atombombe nun die dritte große Revolution in der Kriegführung drohe. Und „wenn die Büchse der Pandora erst einmal geöffnet ist, wird es schwierig, sie wieder zu schließen“. Deshalb, so die 116 Unterzeichner eines offenen Briefes an die UN, sollte die Weltgemeinschaft die computergesteuerten Waffensysteme ächten.

Ebenso stellt die KI ein Unterdrückungsinstrument ersten Ranges dar, wenn sie von diktatorischen Regimen genutzt wird. In China, dessen Regierung 2017 einen ambitionierten Plan zur Nutzung der KI verabschiedet hat und das bis 2030 zum unangefochtenen Spitzenreiter beim Einsatz dieser Technologie aufsteigen will, wird schon jetzt mit Hilfe von Gesichtserkennungs- und anderer Kontrollsoftware gegen unbequeme nationale Minderheiten oder die politische Opposition vorgegangen. 

Seit Ende 2021 testet Peking sogar „Staatsanwälte mit Künstlicher Intelligenz“. Die sollen automatisiert Anklage bei Delikten wie „Widerstand gegen die Staatsgewalt“ und „Störung der öffentlichen Ordnung“ erheben. Dann wäre es möglich, tausende „Unruhestifter“ auf einmal im Fließbandverfahren abzuurteilen. Das klingt bereits reichlich dystopisch, ist aber nicht der Grund dafür, dass der populäre britische Physiker Stephen Hawking die KI ab 2014 als ernsthafte Bedrohung für die Menschheit bezeichnete.

Schutzgott, Diktator, „Zoowärter“

Die größte Gefahr geht von einer Perfektionierung der starken KI aus, an deren Ende die sogenannte Technologische Singularität steht, welche nach Einschätzung des US-Computerpioniers Raymond Kurzweil bereits um das Jahr 2045 eintreten könnte. Hierbei handelt es sich um den Zeitpunkt, zu dem die Künstliche Intelligenz die menschliche überflügelt, woraufhin die Maschinen anfangen, sich selbst zu vermehren und zu verbessern. Das wiederum wäre der Beginn einer Entwicklung, in deren Verlauf die Menschheit die Kontrolle über das weitere Geschehen in ihrer Welt verliert und zu einer Spezies mutiert, deren Wohl und Wehe von der in blindem Fortschrittsglauben optimierten KI abhängt, die fürderhin als sogenannte Superintelligenz (SI) agiert.

Wie der aus Schweden stammende Wissenschaftsphilosoph Max Tegmark in seinem richtungsweisenden Buch „Life 3.0: Being Human in the Age of Artificial Intelligence“ (Leben 3.0: Mensch sein im Zeitalter der Künstlichen Intelligenz) 2017 darlegte, sind mehrere Szenarien denkbar. Zum Ersten besteht die Möglichkeit der Entstehung eines „Libertären Utopia“, in dem die Superintelligenz den unterlegenen Menschen vorrangig Gutes tut. Andererseits ist nicht auszuschließen, dass die Superintelligenz den „Wohlwollenden Diktator“ mimt und unserer Art ein Leben nach ebenso rationalen wie strengen Regeln aufzwingt. 

Zum Dritten hält Tegmark auch eine SI für möglich, welche als „Schutzgott“ fungiert und nur sehr verdeckt Kontrolle ausübt, weshalb dann viele Menschen an ihrer Existenz zweifeln würden. Ebenso wäre eine SI denkbar, die gegenüber dem ins technologische Abseits gedrängten Homo sapiens als „Zoowärter“ auftritt. Oder sie nimmt die Rolle des paranoiden „Torwächters“ ein, dessen Trachten neben der Niederhaltung des Menschen darauf abzielt, die Entstehung weiterer, konkurrierender Superintelligenzen zu verhindern. 

Zu gar nicht so guter Letzt skizziert Tegmark zwei Szenarien, in denen die SI die Menschheit entweder auf abrupt-gewaltsame oder eher schleichende beziehungsweise feierlich-zeremonielle Art und Weise auslöscht. Das Fortbestehen unserer Spezies könnte also nicht nur deshalb gefährdet sein, weil die Natur regelmäßig Krankheitserreger mit globalem Killer-Potential wie Pestbakterien oder Pockenviren hervorbringt. Vielmehr droht theoretisch auch ein Aus aufgrund unkalkulierbarer technischer Entwicklungen.