Läutet Künstliche Intelligenz das Ende der Spezies Mensch ein?

Ob im Focus, der FAZ oder in der Zeit: Wissenschaftler, Philosophen und Naturwissenschaftler überschlagen sich darin, die Gefahren künstlicher Intelligenz aufzuzählen. Aber stimmt das?

von Georg-Ludwig Verhoeven

Gemäß „Moore’s Law“ verdoppelt sich die Komplexität integrierter Schaltkreise etwa alle zwei Jahre, und damit die Komplexität der Aufgaben, die sie bearbeiten können. Das gilt auch für Systeme mit Künstlicher Intelligenz – und wird Folgen haben. Ein zufälliger Blick in den medialen Blätterwald zeigt die Mannigfaltigkeit, mit der vor allem mit Sorge auf die Zukunft geschaut wird. Durch die Fortschritte bei künstlicher Intelligenz

•    fahren unsere Autos bald autonom, wodurch es weniger oder gar keine Unfälle mehr gibt. Aber was wird aus den Taxi- und LKW-Fahrern, die diese Aufgaben bisher übernehmen?
•    werden kranke und pflegebedürftige Menschen bald durch Roboter gepflegt, die 24 Stunden an sieben Tagen in der Woche arbeiten können. Aber was machen die Pflegekräfte dann?
•    sind Computer bald „schlauer“ als Menschen – aber was bedeutet das eigentlich?
•    müssen Menschen sich zu „Cyborgs“ entwickeln, um mit den Computern mithalten zu können – nur wie?

Mechanische Systeme übertreffen den Menschen

Es kann uns, zumindest vorübergehend, beruhigen, dass nach jeder dieser Prophezeihungen ein relativierendes und mit guten Ausreden begründetes „aber erst in x Jahren“ kommt – und die Zahl x wohl groß genug ist, dass wir uns wenig Sorgen machen müssen. Aber wir müssen dennoch weiter denken. So wie mechanische Systeme den Menschen in jeder Hinsicht – Kraft, Geschwindigkeit, Präzision, Zuverlässigkeit, Robustheit etc. – übertreffen, ist es ebenfalls denkbar, dass das auch Computer tun werden. Und in manchen Bereichen ist das auch schon so: Ob in der Wissenschaft (Wettervorhersage), bei Gesellschaftsspielen (Schach) oder an der Börse. Das kann freilich fatale Nebenwirkungen haben, wenn ein außer Kontrolle geratenes System gigantische Schäden auslöst.

Wenn aber einmal KI-Systeme wirklich „intelligenter“ sind als Menschen, den sie unterstützen sollen, wird dann das Auto nicht eher sagen: „Nein, diese Fahrt ist nicht sinnvoll, ich bleibe stehen“, weil der Wert „Umweltschutz“ implementiert wurde, oder: „Nein, ich fahre hier nicht schneller“, weil es die Straßenverkehrsordnung strikt einhält oder erkennt, dass die Sicht schlecht ist? Werden, in letzter Konsequenz, KI-Systeme nicht irgendwann zu der Erkenntnis kommen, dass es besser ist, wenn sie die Kontrolle über die Erde übernehmen, weil die Menschen bewiesen haben, dass sie durch ungesundes Leben, Kriege, Umweltsünden etc. sich selbst, ihrem Land, und letztlich dem ganzen Planeten schaden und aus gemachten Fehlern nichts lernen?

Nur wird ein solches KI-System wohl aber irgendwann zu der Erkenntnis kommen, dass seine Entscheidungen im Sinne der ihm implementierten Werte besser sind als die der Menschen, die sie ihm implementiert haben. Das heißt, um dem Menschen (also seinem Schöpfer bzw. Programmierer) zu gehorchen und dessen Ziele langfristig und konsequent zu verfolgen, muss das System sich über seine Entscheidungen kurzfristig hinwegsetzen. Und, wieder in letzter Konsequenz, wird das KI-System vielleicht entscheiden, dass die Kosten/Nutzen – Relation der Spezies Mensch nicht mehr sinnvoll ist und sie folglich nicht mehr unterstützt wird. Dem Menschen bleibt dann nur noch die „Hoffnung“, früh genug den NOT-AUS – Knopf zu drücken und wieder auf die natürliche Intelligenz umzuschalten. Hoffentlich hat das KI-System den Knopf dann nicht schon überbrückt.

Getagged mit: , , ,
2 Kommentare zu “Läutet Künstliche Intelligenz das Ende der Spezies Mensch ein?
  1. Wär es nicht an der Zeit, Regeln für die Konstruktion von Robotern aufzustellen, die verhindern sollen, dass Roboter überhaupt anfangen darüber zu „sinnieren“, ob sie sich den Vorgaben von Menschen widersetzen sollen?
    Dafür suche ich Mitstreiter, die sich gerne melden können. Dabei bin ich mir nicht einmal sicher, dass es für mein Ziel eine Lösung gibt.

  2. Niels Ott sagt:

    Eigentlich war das schon 1968 ein Thema. Und zwar im Film „2001: Odysee im Weltraum“ von Stanley Kubrick, die Story geht zurück auf Arthur C. Clarke. Der Bordcomputer „HAL9000“ des Raumschiffs beschließt in dem Film, die Besatzung zu töten. Es gibt verschiedene Varianten der Interpretation des Films, klar aber ist, dass die Besatzung den Computer abschalten möchte und dieser sich dagegen wehrt, indem er die Crew tötet. Schlussendlich gewinnt das letzte lebende Crew-Mitglied den Kampf und schaltet HAL ab, wobei dieser in der entsprechenden Schlüsselszene auf verwirrende Weise emotional wird. Eine Interpretation ist aber auch, dass HAL die ganze Geschichte als Intrige geplant hat, um die Besatzung loszuwerden – eben genau weil er zum hier im Blog Post erwähnten Schluss kommt: Der Mensch mit seiner Fehlbarkeit ist grundsätzlich eine Gefahr für diese Weltraummission, deren erfolgreiche Durchführung HAL als oberstes Ziel beigebracht wurde.

    Nun ist das nur ein Science-Fiction-Film. Aber ist die Tatsache, dass Science Fiction kein so richtig populäres Genre mehr ist, nicht schon ein Hinweis dafür, dass schon viele der Themen des Genres bereits real geworden sind? Deswegen finde ich es gut, mehr über künstliche Intelligenz usw. zu diskutieren, da eine solche Bearbeitung durch Literatur, Film und Kunst wie früher nicht mehr stattfindet – obwohl oder gerade weil wir heute schon deutlich näher dran sind!