Ob im Focus, der FAZ oder in der Zeit: Wissenschaftler, Philosophen und Naturwissenschaftler überschlagen sich darin, die Gefahren künstlicher Intelligenz aufzuzählen. Aber stimmt das?

von Georg-Ludwig Verhoeven

Gemäß „Moore’s Law“ verdoppelt sich die Komplexität integrierter Schaltkreise etwa alle zwei Jahre, und damit die Komplexität der Aufgaben, die sie bearbeiten können. Das gilt auch für Systeme mit Künstlicher Intelligenz – und wird Folgen haben. Ein zufälliger Blick in den medialen Blätterwald zeigt die Mannigfaltigkeit, mit der vor allem mit Sorge auf die Zukunft geschaut wird. Durch die Fortschritte bei künstlicher Intelligenz

•    fahren unsere Autos bald autonom, wodurch es weniger oder gar keine Unfälle mehr gibt. Aber was wird aus den Taxi- und LKW-Fahrern, die diese Aufgaben bisher übernehmen?
•    werden kranke und pflegebedürftige Menschen bald durch Roboter gepflegt, die 24 Stunden an sieben Tagen in der Woche arbeiten können. Aber was machen die Pflegekräfte dann?
•    sind Computer bald „schlauer“ als Menschen – aber was bedeutet das eigentlich?
•    müssen Menschen sich zu „Cyborgs“ entwickeln, um mit den Computern mithalten zu können – nur wie?

Mechanische Systeme übertreffen den Menschen

Es kann uns, zumindest vorübergehend, beruhigen, dass nach jeder dieser Prophezeihungen ein relativierendes und mit guten Ausreden begründetes „aber erst in x Jahren“ kommt – und die Zahl x wohl groß genug ist, dass wir uns wenig Sorgen machen müssen. Aber wir müssen dennoch weiter denken. So wie mechanische Systeme den Menschen in jeder Hinsicht – Kraft, Geschwindigkeit, Präzision, Zuverlässigkeit, Robustheit etc. – übertreffen, ist es ebenfalls denkbar, dass das auch Computer tun werden. Und in manchen Bereichen ist das auch schon so: Ob in der Wissenschaft (Wettervorhersage), bei Gesellschaftsspielen (Schach) oder an der Börse. Das kann freilich fatale Nebenwirkungen haben, wenn ein außer Kontrolle geratenes System gigantische Schäden auslöst.

Wenn aber einmal KI-Systeme wirklich „intelligenter“ sind als Menschen, den sie unterstützen sollen, wird dann das Auto nicht eher sagen: „Nein, diese Fahrt ist nicht sinnvoll, ich bleibe stehen“, weil der Wert „Umweltschutz“ implementiert wurde, oder: „Nein, ich fahre hier nicht schneller“, weil es die Straßenverkehrsordnung strikt einhält oder erkennt, dass die Sicht schlecht ist? Werden, in letzter Konsequenz, KI-Systeme nicht irgendwann zu der Erkenntnis kommen, dass es besser ist, wenn sie die Kontrolle über die Erde übernehmen, weil die Menschen bewiesen haben, dass sie durch ungesundes Leben, Kriege, Umweltsünden etc. sich selbst, ihrem Land, und letztlich dem ganzen Planeten schaden und aus gemachten Fehlern nichts lernen?

Nur wird ein solches KI-System wohl aber irgendwann zu der Erkenntnis kommen, dass seine Entscheidungen im Sinne der ihm implementierten Werte besser sind als die der Menschen, die sie ihm implementiert haben. Das heißt, um dem Menschen (also seinem Schöpfer bzw. Programmierer) zu gehorchen und dessen Ziele langfristig und konsequent zu verfolgen, muss das System sich über seine Entscheidungen kurzfristig hinwegsetzen. Und, wieder in letzter Konsequenz, wird das KI-System vielleicht entscheiden, dass die Kosten/Nutzen – Relation der Spezies Mensch nicht mehr sinnvoll ist und sie folglich nicht mehr unterstützt wird. Dem Menschen bleibt dann nur noch die „Hoffnung“, früh genug den NOT-AUS – Knopf zu drücken und wieder auf die natürliche Intelligenz umzuschalten. Hoffentlich hat das KI-System den Knopf dann nicht schon überbrückt.