Für Sie gelesen: Menschliches Denken und künstliche Intelligenz
Michael Mörike, Vorstand der Integrata Stiftung, teilt mit Ihnen seine kritischen Bemerkungen nach Lesen des Buches von Matthias Pfeffer, Dietz-Verlag 2021.
Nach langen Jahrzehnten der Beschäftigung (seit 1963) mit IT beschäftige ich mich seit fünf Jahren intensiv mit künstlicher Intelligenz (KI) und lese auch viele Bücher darüber – schon auch, weil sie mir von Bekannten empfohlen werden und die dann erwarten, dass ich mit ihnen darüber diskutiere. Das ist auch richtig so, denn nur durch Gespräche untereinander können wir in unserer Gesellschaft das Phänomen KI nach und nach begreifen.
So auch Matthias Pfeffer, der– von der Philosophie her kommend – versucht, das Wesen von KI zu begreifen. Das ist zunächst ein löbliches Unterfangen. Leider unterliegt er aber immer wieder unausgesprochenen Annahmen, die von der Philosophie her so tradiert sind, anstatt auch mal zu hinterfragen, ob sie denn kritischen Fragen standhalten oder ob sie eventuell sogar in sich selbst widersprüchlich sind. Das führt m.E. dazu, dass er ab und zu auch zu falschen Folgerungen kommt.
Außerdem wirft er den zeitlichen Rahmen immer wieder durcheinander. Er unterstellt z.B., dass KI auch in Zukunft nur statistische Aussagen machen kann, nur weil sie heute nicht mehr kann. Vermutlich hat er sogar recht damit, wenn er – wie die meisten Leute, die sich über KI auslassen – nur monolithische KI betrachtet. Aber wer sagt denn, dass KI für immer monolithisch bleiben muss? Auch die Biologie hat im Menschen mit dem Neocortex ein Denkorgan geschaffen, das aus etwa 100.000 verschiedenen und sauber getrennten neuronalen Netzen besteht, die alle etwas anderes machen, aber alle (systematisch) zusammen arbeiten. In der Technik koppeln wir aktuell gerade mal drei (Hautkrebserkennung) oder eine Handvoll untereinander, wenn es hochkommt. Es gibt keinen Grund, es der Natur nicht nachzumachen und viele zusammenzuschalten. Dann bearbeitet jedes einzelne eine (relativ einfache) Aufgabe, aber alle zusammen bringen es zu wirklicher Höchstleistung!
Ein weiterer typischer Denkfehler ist zu glauben, dass wenn KI Bewusstsein erlangt – also über sich selbst nachdenken kann und sich eventuell im Spiegel wieder erkannt – dass sie dann auch Schmerz oder Freude empfinden kann. Beim Menschen mag das untrennbar miteinander einhergehen. Das ist aber nicht notwendig so. Wozu hat die Evolution dem Menschen Schmerzempfingen mitgegeben? Der Nutzen von Schmerz ist doch zu signalisieren: „Mensch da stimmt etwas nicht. Mach es anders!“ Auch ein Roboter muss eventuell erkennen, ob etwas schief läuft. Aber muss er deshalb darunter leiden? Das ist nicht logisch zwingend. Welcher Ingenieur wird es bevorzugen, eine KI zu bauen, die leidet, wenn er es auch anders hinbekommt? Leiden in eine KI einzubauen ist schwieriger, als ihr ein einfaches Signal mitzugeben, dass da etwas nicht stimmt und sie dazu zu bringen, besser darauf zu achten. Leiden zu können ist biologisch durch Jahrmillionen entstanden und in uralten Teilen des Gehirns angesiedelt, nicht aber im Neocortex. Der Zweck kann einfacher erreicht werden.
Matthias Pfeiffer schildert als Beispiel auch das „Chinesische Zimmer“. Da werden sture Regeln angewandt, um einen Text in einen anderen zu übersetzen. Das Beispiel wird gerne angeführt, um zu zeigen, die dumm KI ist und wie wenig sie „denken“ kann. Klar, denn hier ist denken auch nicht nötig. Wenn man aber zulässt, dass denken immer vernetzt ist, also zu jedem vorkommenden Begriff alle eventuell damit zusammenhängenden anderen Begriffe betrachtet werden, dann kann KI schon heute deutlich mehr. In autonomen Robotern (oder Autos) wird solch vernetztes Denken schon heute – wenigstens ansatzweise und nur in sehr geringem Umfang- angewandt. Vernetztes Denken beruht auf einer Ontologie, die heute meist in Form von Wissensgrafen realisiert werden. Davon ist im Buch leider nirgendwo die Rede. Es passt halt auch nicht zur Ansicht von Matthias Pfeffer.