Nach langen Jahrzehnten der Beschäftigung (seit 1963) mit IT beschäftige ich mich seit fünf Jahren intensiv mit künstlicher Intelligenz (KI) und lese auch viele Bücher darüber – schon auch, weil sie mir von Bekannten empfohlen werden und die dann erwarten, dass ich mit ihnen darüber diskutiere. Das ist auch richtig so, denn nur durch Gespräche untereinander können wir in unserer Gesellschaft das Phänomen KI nach und nach begreifen.

So auch Matthias Pfeffer, der– von der Philosophie her kommend – versucht, das Wesen von KI zu begreifen. Das ist zunächst ein löbliches Unterfangen. Leider unterliegt er aber immer wieder unausgesprochenen Annahmen, die von der Philosophie her so tradiert sind, anstatt auch mal zu hinterfragen, ob sie denn kritischen Fragen standhalten oder ob sie eventuell sogar in sich selbst widersprüchlich sind. Das führt m.E. dazu, dass er ab und zu auch zu falschen Folgerungen kommt.

Außerdem wirft er den zeitlichen Rahmen immer wieder durcheinander. Er unterstellt z.B., dass KI auch in Zukunft nur statistische Aussagen machen kann, nur weil sie heute nicht mehr kann. Vermutlich hat er sogar recht damit, wenn er – wie die meisten Leute, die sich über KI auslassen – nur monolithische KI betrachtet. Aber wer sagt denn, dass KI für immer monolithisch bleiben muss? Auch die Biologie hat im Menschen mit dem Neocortex ein Denkorgan geschaffen, das aus etwa 100.000 verschiedenen und sauber getrennten neuronalen Netzen besteht, die alle etwas anderes machen, aber alle (systematisch) zusammen arbeiten. In der Technik koppeln wir aktuell gerade mal drei (Hautkrebserkennung) oder eine Handvoll untereinander, wenn es hochkommt. Es gibt keinen Grund, es der Natur nicht nachzumachen und viele zusammenzuschalten. Dann bearbeitet jedes einzelne eine (relativ einfache) Aufgabe, aber alle zusammen bringen es zu wirklicher Höchstleistung!

Ein weiterer typischer Denkfehler ist zu glauben, dass wenn KI Bewusstsein erlangt – also über sich selbst nachdenken kann und sich eventuell im Spiegel wieder erkannt – dass sie dann auch Schmerz oder Freude empfinden kann. Beim Menschen mag das untrennbar miteinander einhergehen. Das ist aber nicht notwendig so.  Wozu hat die Evolution dem Menschen Schmerzempfingen mitgegeben? Der Nutzen von Schmerz ist doch zu signalisieren: „Mensch da stimmt etwas nicht. Mach es anders!“ Auch ein Roboter muss eventuell erkennen, ob etwas schief läuft. Aber muss er deshalb darunter leiden? Das ist nicht logisch zwingend. Welcher Ingenieur wird es bevorzugen, eine KI zu bauen, die leidet, wenn er es auch anders hinbekommt? Leiden in eine KI einzubauen ist schwieriger, als ihr ein einfaches Signal mitzugeben, dass da etwas nicht stimmt und sie dazu zu bringen, besser darauf zu achten. Leiden zu können ist biologisch durch Jahrmillionen entstanden und in uralten Teilen des Gehirns angesiedelt, nicht aber im Neocortex. Der Zweck kann einfacher erreicht werden.

Matthias Pfeiffer schildert als Beispiel auch das „Chinesische Zimmer“. Da werden sture Regeln angewandt, um einen Text in einen anderen zu übersetzen. Das Beispiel wird gerne angeführt, um zu zeigen, die dumm KI ist und wie wenig sie „denken“ kann. Klar, denn hier ist denken auch nicht nötig. Wenn man aber zulässt, dass denken immer vernetzt ist, also zu jedem vorkommenden Begriff alle eventuell damit zusammenhängenden anderen Begriffe betrachtet werden, dann kann KI schon heute deutlich mehr. In autonomen Robotern (oder Autos) wird solch vernetztes Denken schon heute – wenigstens ansatzweise und nur in sehr geringem Umfang- angewandt. Vernetztes Denken beruht auf einer Ontologie, die heute meist in Form von Wissensgrafen realisiert werden. Davon ist im Buch leider nirgendwo die Rede. Es passt halt auch nicht zur Ansicht von Matthias Pfeffer.

Im Buch von Dr. Horst Walther und Andreas Dripke: „2045 das Jahr, in dem die KI schlauer wird als der Mensch“ wird davon ausgegangen, dass man eine KI konstruieren kann und wird, die selbst wiederum verbesserte KI konstruieren kann und wird. Wenn das der Fall ist, ist eine den Menschen überholende, eventuell ihn sogar überrumpelnde KI denkbar. Wie sollte das gehen?

1. KI lernt aus Daten

KI wird – mindestens nach allem, was man heute weiß – mit Hilfe von Daten / Informationen trainiert.

Eine KI, die eine neu konstruierte und bessere KI trainiert, braucht neue verbesserte oder erweiterte Daten.
Woher nehmen? Im Internet sind sehr viele Texte verfügbar, die man statistisch semantisch analysieren kann.
Schließlich sind sie alle nach entsprechenden Grammatiken formuliert.

Im Internet sind sehr viele Bilder verfügbar, die mehr oder weniger gut annotiert sind.
Entweder man annotiert die Bilder noch besser (kann das eine KI?) oder steckt als Mensch viel Arbeit rein.
Sehr viele Bilder sind nicht klassisch annotiert, haben aber durchaus einen Bezug zu Texten, die sie beschreiben oder in die sie eingebunden sind. Vielleicht kann eine künftige KI diese Texte so interpretieren, dass sie aus den Bildern lernen kann?

Ähnliches gilt für kleine Filmchen (youtube). Sie enthalten oft gesprochenen Text, der interpretiert werden könnte. Oder sie werden außerhalb in entsprechenden Texten beschrieben.
Aber auch dazu braucht es deutlich verbesserte Trainingsmethoden, dass daraus eine KI neues lernen kann.

Ähnliches gilt für Musik.

Junge Menschen lernen, indem man sie durch die Welt führt und ihnen Erklärungen dazu abgibt.
Könnte das ein Vorbild für eine KI sein? Mindestens anfangs könnten Menschen eine lernende KI durch die Welt führen. Wie aber kann eine bestehende KI einer (noch jungen, lernenden) neuen KI die Welt erklären?

Um die Welt zu verstehen, müsste die KI vernetzt denken können. Noch gibt es das nicht. Es ist aber durchaus vorstellbar, dass eine KI eine Ontologie zur Verfügung hat, mit deren Hilfe sie vernetzt denken könnte.
Woher kommt so eine – umfassende – Ontologie?

Kann man mit einer KI eine Ontologie aufbauen?
Zunächst in Form eines (sehr großen, umfangreichen) Wissensgraphen (knowledge graph).
Der müsste aber von Menschen geprüft und zertifiziert werden. Eine sich selbst verbessernde KI kann frühestens dann gebaut werden, wenn eine solche Ontologie verfügbar ist. 2045? Eher nicht.

2. KI braucht Ziele innerhalb von Anwendungsgebieten

Jede KI benötigt zur operativen Arbeit Ziele, die sie verfolgt – nicht anders als der Mensch auch.

Der Mensch hat durch die Evolution Ziele vorgegeben bekommen (Größenordnung: 100 Ziele oder mehr).
Woher bekommt eine sich selbst verbessernde KI immer wieder neue Ziele?
Kann diese Ziele auch die bereits vorhandene KI haben, ohne sie verfolgen zu können?
Dann könnte die Alte der Neuen aus diesem Reservoir weitere Ziele vorgeben.
Aber dieses Reservoir müsste vom Menschen initial angelegt werden. Wollen wir das machen?

Diese Ziele können bei der konkreten Durchführung / Umsetzung in Konflikt miteinander stehen (Ethik lässt grüßen!). Damit das nicht permanent und unkontrolliert geschieht, müssten diese Zeile untereinander verglichen werden können: Sie brauchen Gewichte. Diese Gewichte könnte anfangs der Mensch vorgeben. Warum sollte er es?

Macht er es eventuell fahrlässig, indem er „seine“ KI-gestützten Helferlein baut und ihnen solche Gewichte vorgibt, die die sich selbst verbessernde KI dann einfach übernimmt / kopiert / klaut?

Ziele beziehen sich immer auf Anwendungsgebiete. Beim Menschen ist das Anwendungsgebiet sein eigenes Leben. Dies und das Umfeld zu optimieren hat ihm die Evolution als Ziel vorgegeben. Als Menschen verfolgen wir nicht alle denkbaren Ziele: Z.B. haben wir nicht den intensiven Wunsch mit dem Kopf nach unten an den Bäumen zu hängen. Das bringt uns nämlich nichts.

Jede KI hat – zumindest, solange sie noch nicht dem Menschen überlegen ist, ihr eigenes Anwendungsgebiet. Die immer schlauer werdende KI müsste ihr Anwendungsgebiet Zug um Zug erweitern. Wie soll das gehen? Geben wir der ersten sich selbst verbessernden KI alle künftigen Anwendungsgebiete mit? Implizit mit den Zielen oder explizit?

Oder probiert die KI einfach rum – zufallsgesteuert oder besser durch mehr oder weniger zufällige kleine Änderungen ihrer Aufgaben, ihrer Ziele? So jedenfalls hat es die Evolution mit uns Lebewesen gemacht.

3. Kann eine KI rumprobieren?

Zweifellos kann man eine KI bauen, die einfach zufallsgesteuert rumprobiert. Dabei geht dann vieles schief und die Fehlversuche werden abgebrochen. Dies würden wir bemerkten als Menschen jedoch bemerken. Ich jedenfalls würde die KI dann ganz schnell abstellen, ihr den Stecker ziehen.

Wenn eine KI rumprobiert, wie kann sie feststellen, ob eine neu geschaffene KI leistungsfähiger ist als die alte oder leistungsschwächer? Welche Kriterien sollen da gelten? Wenn sie ihre Ziele schneller erreicht? Wenn sie neue Ziele erreicht? Wie kann eine (zunächst noch) leistungsschwache KI unterscheiden zwischen dem Erreichen eines neuen außerhalb des bisherigen Rahmens liegenden Ziels und einem Fehlversuch? Wie kann sie das Erreichen eines außerhalb des bisherigen Anwendungsgebietes liegenden Ziels als erfolgreich und weiterführend erkennen?

Fragen über Fragen, deren Beantwortung das Buch verschweigt.

Das Buch trägt den Untertitel „KI zu Ende gedacht“ und ist wohl als Wortspiel zu verstehen. Diesem Ziel werden die Autoren offensichtlich nicht gerecht.

Ich jedenfalls habe keine Angst vor dem Jahr 2045.

Michael Mörike, Vorstand der Integrata-Stiftung

Novozän, so nennt James Lovelock das kommende Zeitalter, in dem künstliche Lebewesen neben den Menschen die Erde bevölkern werden. Er wagt mit dieser Prophezeiung einen Blick in die ferne Zukunft. Uns Menschen sieht er an der Schwelle zu einem neuen Zeitalter, dem der Hyperintelligenz. Dazu hat er im hohen Alter von 99 Jahren ein Buch geschrieben, das 2020 im C.H.Beck-Verlag auf Deutsch übersetzt erschienen ist.

Wie bei allen solchen Prophezeiungen lese ich die Begründungen dafür immer mit großer Skepsis und suche mögliche Denkfehler, denen die Propheten unterliegen könnten. Sehr oft werde ich fündig und muss  dann schließen, dass die jeweilige Prophezeiung wenig Wahrscheinlichkeit für ihren Eintritt bietet. Auch diesmal konnte ich nicht umhin, das Buch aus solcher Perspektive heraus zu lesen.

Lovelock unterstellt in seinem Buch auch seine Gaia-Hypothese: Sie sieht die ganze Natur auf der Erde inklusive ihrer geologischen Beschaffenheit wie ein Lebewesen. Gewiss, Gaia kann sich – wie Viren – nicht fortpflanzen. Aber Gaia wehrt sich gegen steigende Temperaturen mit pflanzlichem Wachstum, das der Atmosphäre CO2 entzieht, in Form von Kohle, die in die Tiefe transportiert wird und damit zur Kühlung beiträgt. Und Gaia hat den Menschen einschließlich seiner Intelligenz hervorgebracht.

Dem Menschen wird es gelingen – so Lovelocks Prophezeiung – eine allgemeine künstliche Intelligenz zu erschaffen und sie in Maschinen einzubauen, die dann zusätzlich zu den Menschen die Erde bevölkern und deutlich intelligenter und schneller sein werden als die Menschen. Diese Cyborgs werden den Menschen als intelligentestes Wesen ablösen. Aber sie werden ihn nicht umbringen, denn sie brauchen ihn – so seine Vermutung. Denn auch die Cyborgs benötigen Gaia, die gekühlte Erde.

Bei der Vorstellung, wie sie entstehen werden, macht er vermutlich einen Denkfehler. Er meint, das könne so ähnlich geschehen, wie AlphaZero entstanden ist: Künstliche Intelligenz wird auf das Brettspiel GO angesetzt und lernt es ganz selbständig, einfach indem es gegen sich selbst spielt, ohne dass ihm irgendwelche Regeln vorgegeben werden. Das war aber bei AlphaZero so nicht. Auch bei AlphaZero musste der KI die Regel vorgegeben werden, wer gewonnen hat. Und damit hatte AlphaZero ein Ziel vorgegeben, nämlich gemäß dieser Regel zu gewinnen. Und wenn man KI künftig darauf ansetzt, eine allgemeine künstliche Intelligenz zu entwickeln, muss auch – mindestens – ein Ziel vorgegeben werden. Meine persönliche Vermutung: Es müssen sogar mehrere Ziele sein, die man dazu benötigt. Es ist wie bei der natürlichen Evolution: Den Lebewesen werden Ziele vorgegeben: Möglichst lange zu überleben und nicht nur als Individuum, sondern auch als Art. Also das weitere Ziel, Kinder und Enkel zu bekommen. Und noch ein Ziel, nämlich nicht nur Kinder in möglichst großer Zahl, sondern so, dass Enkel und Urenkel entstehen können. Also insgesamt jedenfalls mehrere Ziele.
Meine persönliche Vermutung: wenn wir genauer hinschauen kommen noch weitere Ziele hinzu.

Dies verhindert aber nicht, dass ich gerne glauben mag, dass Lovelock korrekt prophezeit, dass der Mensch durch intelligentere Wesen abgelöst werden wird. Wir sind eben nicht notwendig das Ende der Entwicklung.

Nebenher versucht er, das Fermi-Paradox zu lösen. Das ist für mich aber nicht überzeugend. Er beschreibt die Historie des Kosmos (Weltall) leider ziemlich anders, als es von der aktuellen Wissenschaft angenommen wird. Nach dem Urknall vermutet er mehrere Milliarden Jahre eine Art Konsolidierung, die es so gemäß aktueller Forschung nicht gegeben hat. Wir sehen bereits nach (relativ) wenigen Millionen Jahren die ersten Galaxien und die ersten Supernovae. Die Entwicklung von intelligentem Leben wäre durchaus schon viel früher möglich gewesen. Wenn wir heute einzigartig sind – was wir nicht wissen – dann jedenfalls nicht deshalb, weil der Kosmos so lange gebraucht hat, sich und uns zu entwickeln. Überhaut teile ich auch nicht seine Ansicht, der Kosmos hätte das Ziel, verstanden zu werden. Ich meine, der Kosmos hat gar kein Ziel. Und wenn wir Menschen und die uns nachfolgenden Cyborgs auch versuchen, den Kosmos zu verstehen, dann ist das m.E. ein ungeplanter Nebeneffekt unserer Existenz, aber auf jeden Fall nicht ein intrinsisches Ziel des Kosmos.

„Novozän-Das kommende Zeitalter der Hyperintelligenz“ ist ein kurzweiliges, lesenswertes Buch, findet Michael Mörike, Vorstand der Integrata-Stiftung.

Was halten Sie von dem Buch, bzw. den hier angerissenen Themen? Sie sind herzlich eingeladen, mit uns darüber in Diskussion zu treten. Wir freuen uns darauf.

In dem Buch fügt der Autor eine Aussage nach der anderen aneinander über sein Wissen über die Welt, ohne auch nur ein einziges Argument zum Titel zu liefern. Die Aussagen stehen fast beziehungslos nebeneinander. Teilweise widersprechen sie sich sogar. Sie eignen sich gut als Hetzkampagne gegen die Entwicklung der Informationstechnologie (IT), aber sie eignen sich nicht für eine sachliche Diskussion. Ist das Philosophie? Haben das deutsche Philosophen nötig? Hat der Autor das nötig?

Beim Lesen kann man den Eindruck gewinnen, im Buch wird Bewusstsein mit Denken verwechselt – eigentlich eine ureigene Domäne der Philosophie. Als Menschen denken wir sehr, sehr viel mehr, als wir uns bewusst machen können. Der Autor redet (oder schreibt) viel, ohne nachzudenken; und vermutlich ist er sich dessen auch nicht bewusst.

Der Autor beschreibt viele Phänomene, die wir derzeit – auch en detail – erleben, scheint aber das Phänomen der Emergenz nicht zu kennen, das wir in der KI derzeit eben auch erleben. Jedenfalls wird keine derartige Erkenntnis im Buch sichtbar.

Precht vermischt immer wieder Bedeutung und Gedanken – ich meine ganz unzulässig. Bedeutung hat eben nicht nur etwas, was wir bewusst durchdenken. Bedeutung kann auch etwas haben, das wir nie gedacht haben und nie bewusst denken werden. Die Welt ist nun mal auf unsere menschlichen Gedanken nicht angewiesen. Was ist Bedeutung? Wird im Buch leider nicht geklärt. Dafür kommt ganz zum Schluss im Buch etwas zur Bedeutung des Sinns des Lebens – leider aber ohne auf die Evolution einzugehen, die uns ja den Sinn unseres Lebens mitgegeben hat. Auf die moderne Philosophie in der Giordano-Bruno-Stiftung dazu geht R. D. Precht natürlich nicht ein. Schließlich passt sie eher nicht zu seinem Weltbild.

Wenn ich mir diese Entwicklung vor Augen führe, könnte ich den Eindruck gewinnen, dass dieses Buch ein Beleg dafür ist, dass die klassische Philosophie des Denkens, der Gefühle und der Ethik hier ihr letztes Gefecht gegen eine Technisierung des Denkens oder menschlichen Gefühle führt. Schließlich fängt die Technik gerade an, unser Denken (KI) und letztlich daraus folgend dann auch unsere menschlichen Gefühle nachzubauen. Durch den Nachbau lernen wir viel über uns selbst. Im Buch übrigens ist keine Rede davon! Von einem gestandenen Philosophen hätte ich erwartet, dass er genau das in seinem Buch beschreibt – und vielleicht zunächst notgedrungen akzeptiert, aber dann daraus eine moderne weiterführende Philosophie begründet.

Das ist definitiv nicht gelungen.

Michael Mörike, Vorstand der Integrata-Stiftung.