Schnelleinstieg:
Direkt zum Inhalt springen (Alt 1)Direkt zur Sekundärnavigation springen (Alt 3)Direkt zur Hauptnavigation springen (Alt 2)

Roberto Simanowski
Gott und gütiger Diktator?

Was haben wir in Zukunft von der der Künstlichen Intelligenz zu erwarten: die Rettung der Menschheit oder den Untergang derselben? Algorithmen gelten in diesem Kontext als Machthaber der Zukunft. Roberto Simanowskis Buch handelt von dem moralischen Dilemma, vor das uns die Künstliche Intelligenz stellt.

Von Holger Moos

Simanowski: Todesalgorithmus © Passagen Verlag Todesalgorithmus. Das Dilemma der künstlichen Intelligenz heißt Roberto Simanowskis aktuelles Werk. Was reißerisch klingt, ist eine sehr kluge Analyse dessen, was Künstliche Intelligenz (KI) künftig eventuell zu leisten vermag, auch wenn wir Menschen dafür einen Preis zahlen müssen.
 
Den titelgebenden Todesalgorithmus findet man vielleicht schon bald in selbstfahrenden Autos. In Extremsituationen wird ein Algorithmus entscheiden, ob das Fahrzeug in eine Gruppe von Fußgängern, auf eine Mutter mit Kind oder doch gegen eine Hauswand fährt. In dem ersten der drei Essays des Bandes geht der Literatur- und Medienwissenschaftler von der Frage aus, ob wir zulassen möchten, dass eine Maschine Menschenleben gegeneinander aufrechnet und dann entscheidet, welches Leben geopfert wird. Je nachdem, ob man der Pflicht- bzw. Gesinnungsethik oder der Zweck- bzw. Verantwortungsethik folgt, fällt die Antwort unterschiedlich aus.
 
Nach Simanowski ist es in Deutschland – in der Tradition der Moralphilosophie Kants, „wonach gutes Handeln nur dann moralisch ist, wenn es freiwillig (also aus Pflichtgefühl) geschieht“ – kategorisch verboten, Menschen zu objektivieren oder zu instrumentalisieren. Das verstieße auch gegen die im Grundgesetzt verankerte Menschenwürde. Das Verbot selbstfahrender Autos wäre eine gesinnungsethische Entscheidung, nach der kein Mensch als Opfer instrumentalisiert werden darf, um andere zu retten. Doch dagegen argumentieren  Verantwortungsethiker wie folgt: „Noch unmoralischer, als kühl und herzlos das Leben eines Kindes gegen das eines Rentners abzuwägen, wäre es, eine Technologie zu blockieren, die Zehntausende von Unfalltoten pro Jahr verhindern könnte.“

Zeitalter des Posthumanismus

Es geht auch um den „Kult des Individuums“, der nach Simanowski durch die Künstliche Intelligenz vom „Kult der Gesellschaft“ abgelöst wird. Der Mensch wird von „KI-Nannys“ geleitet und entledigt sich der Eigenverantwortung. Er schafft sich als autonomes Subjekt ab, indem er sich Schritt für Schritt den Anweisungen von Algorithmen unterwirft. Das gibt es heute schon bei der Partnervermittlung in Online-Portalen oder bei der Befolgung der Anweisungen des Navigationssystems. „Souveränitätstransfer“ nennt Simanowski das – oder auch Entmachtung des Menschen. Übrig bleibe nur ein „Scheinkult des Individuums“, der „im Interesse des Fortbestands der Menschheit und als Ausdruck einer emanzipativen Entwicklung“ auch noch überwunden werden müsse.
 
Dazu bedarf es einer „starken“ (und selbstverständlich vorurteilsfreien) KI, da diese im Gegensatz zur „schwachen“ KI nicht einfach nur einer simplen Wenn-Dann-Logik folgt, sondern die Erreichung vorgegebener Ziele selbstständig plant und – auch gegen die kurzsichtigen Interessen des Menschen – durchsetzt. Eine Öko-Diktatur wäre nach diesem Verständnis nur als KI-Diktatur denkbar. Nachdem Gott im Prozess der Säkularisierung durch die Selbstvergötterung des Menschen entmachtet wurde, könnte der Mensch in einem Akt der Selbstentmachtung den Staffelstab an die KI übergeben. „Heilig“ sind dann nicht mehr Individuen, sondern Daten. Damit wäre dann das Zeitalter des „Posthumanismus“ erreicht, „als eine Lösung der Selbstwidersprüche des Menschen". KI rettet die Menschheit also vor sich selbst.
 
Das moralische Dilemma dieser schönen neuen KI-Welt wäre, dass es kein moralisch gutes Verhalten mehr gäbe, sondern nur noch moralisch richtiges: KI „schafft perspektivisch eine Gesellschaft, in der alles gut ist, aber niemand mehr gut sein kann.“ Denn wie soll man etwas Gutes tun, wenn man gar nicht mehr Herr seiner Entscheidungen ist und nur noch den normierten und normierenden Vorgaben der KI folgt? Der Mensch wäre dann – frei nach Hegel – nur ein Zwischenwirt der Vernunft gewesen, die „List des absoluten Geistes“ würde die Weiterentwicklung der Vernunft danach in die Hände der KI legen. Aus Fehlern lernt dann kein Mensch mehr, sondern nur noch der Algorithmus.

Enttäuschung über den modernen Menschen

Natürlich lösen diese Vorstellungen, auch wenn sie etwas nach Science-Fiction klingen, Unbehagen aus: „Die bange Frage ist, ob man noch ins Steuer greifen kann, wenn einem der Kurs nicht gefällt.“ Doch ist einem nicht auch heute schon bange, wenn man sich die Macht- und Entscheidungsprozesse in unseren Gesellschaften betrachtet. Bang wird einem nicht nur bei der Beobachtung von Populisten à la Trump, sondern auch, wenn man verwinkelt argumentierenden Verschwörungstheoretiker*innen zuhört oder Politiker*innen, die Alternativlosigkeit propagieren. Das alles klingt häufig schon so, als spräche da Gott, ein bestenfalls wohlmeinender Diktator oder eben die KI-Nanny.
 
Überraschend ist, dass Simanowski, der sich in seinen früheren Büchern eher kritisch mit dem Thema Big Data befasst hat, nun sehr viele Hoffnungen mit der Künstlichen Intelligenz verbindet. Diese Hoffnung nährt sich wohl auch aus der Enttäuschung über den modernen Menschen, der so konditioniert zu sein scheint, „sich und die Gegenwart den anderen und der Zukunft vorzuziehen“. An die Alternative der Rettung durch Technologie und die Abkehr vom zerstörerischen Kapitalismus zu glauben, fällt angesichts der aktuellen gesellschaftlichen Entwicklungen schwer.
 
Rosinenpicker © Goethe-Institut / Illustration: Tobias Schrank Roberto Simanowski: Todesalgorithmus. Das Dilemma der künstlichen Intelligenz
Wien: Passagen Verlag, 2020. 144 S.
ISBN: 978-3-7092-0417-7
Diesen Titel finden Sie auch in unserer Onleihe

Top