Bewusstsein für Maschinen?

Die Vorstellung von Maschinen, die über ein Bewusstsein verfügen, wurde lange Zeit vor allem vom Science-Fiction-Genre verarbeitet und geprägt. Durch die beschleunigte Entwicklung der IT soll es in naher Zukunft jedoch tatsächlich schon möglich sein, Maschinen zu entwickelt, die über ein Bewusstsein verfügen. Unser Autor Michael Mörike, Vorstand der Integrata-Stiftung für humane Nutzung der IT, beleuchtet den Begriff „Bewusstsein“ und stößt mit seiner Einschätzung eine Debatte über die Folgen einer mit Bewusstsein ausgestatteten Maschine an.

Schon immer haben Menschen gerätselt, was Bewusstsein ist. Sie haben ihr eigenes Bewusstsein bemerkt und erforscht, haben es bisher aber nicht wirklich verstanden. Mit dem Aufkommen von „intelligenten“ Maschinen, die menschliches Denken versuchen nachzuahmen, fragen wir uns, können diese Bewusstsein erlangen? Es ist daher höchste Zeit, Bewusstsein naturwissenschaftlich zu erforschen.

Bewusstsein ist aktuell kein eindeutiger Begriff, sondern umfasst mehrere Phänomene, die unabhängig voneinander vorkommen können.

  1. Man kann Bewusstsein auffassen als oberste Kontrollinstanz im Kopf, die versucht, die unterlegten Schichten des Denkens zu steuern und zu kontrollieren – oft mit unvollständigem Erfolg. Beispiel: Unbewusste, nicht steuerbare Handlungen (Atmen, Herzschlag, Niesen, Gänsehaut, …).
  2. Man kann darunter auch verstehen, dass wir nachdenken über das, was im Kopf so abgeht. Im Kopf haben wir – von unseren Sensoren vermittelt – ein Bild der realen Welt als Grundlage für das, was wir denken und tun. Es bildet nicht alles ab, was da draußen ist, sondern nur einen winzigen Teil – denjenigen Teil, der uns eben „wichtig“ ist. Abgesehen davon, dass es sehr, sehr unvollständig ist, kann es ganz schön daneben liegen. Schon Plato hat das in seinem Höhlengleichnis vor mehr als zwei Jahrtausend dargestellt.
    Soweit ist das auch in einer Maschine nicht anders. Warum sollte sie nicht auch über die gespeicherte Information „nachdenken“ können, wenn wir ihr ein Programm einbauen, das ihre eigene Information analysiert. Beispiel: Ein Roboter, der passend programmiert ist, stellt mit seinem Analyse-Programm fest, dass er gerade den Fuß hebt, um einen Schritt nach vorne zu machen und dazu sagt: ich gehe einen Schritt voran. Ist das dann schon Bewusstsein?
  3. Versteht man unter Bewusstsein, dass es die Bedeutung möglicher Handlungen einschätzen kann, wird es schon interessanter. Was aber ist gemeint mit „Bedeutung“? Ich meine damit die Wechselbeziehungen, die eine Handlung auf andere Menschen oder Objekte der Welt da draußen direkt oder indirekt hervorruft. Wie könnte man das einem Computer (einer KI) beibringen? Man müsste ihr eine Ontologie der (von ihr wahrgenommenen) Welt beibringen, die alle Relationen der Objekte untereinander enthält und abrufbar bereitstellt. Das ist nicht unlösbar, aber (aktuell noch) mit viel Aufwand verbunden, was aber bald der Vergangenheit angehören könnte. Wenn eine KI die Wechselbeziehungen dann auf Nutzen und Kosten analysiert, kann sie Großes bewirken – auch großen Schaden. Und wenn man das kombiniert mit den schier unendlichen Speicher- und Rechenmöglichkeiten von Maschinen, dann kann so eine Maschine deutlich mehr Bewusstsein erlangen, als ein Mensch je haben kann. Was macht sie damit? Wir wissen es nicht.

Ich halte das für gefährlich.

Wenn Sie meinen, es geht nicht, einem Computer das beizubringen, dann gebe ich Ihnen Recht, denn einem Computer fehlen die Sinnesorgane. Wenn Sie meinen, es geht auch nicht, dass einem Roboter beizubringen, dann bin ich da anderer Meinung. Das geht sehr wohl! Und wir werden es bald erleben!

Jedenfalls ist das eine Lehre, die ich aus meinen bald 60 Jahren Beschäftigung mit der Informatik ziehe. 1963 habe ich zunächst programmiert, dann Software gestaltet und Programmierung überwacht, dann immer größere Systeme entworfen für Unternehmen und für die Gesellschaft. Ich habe BTX mitentwickelt, den Vorläufer des Internets. Meine Auftraggeber haben mich oft gefragt, wie geht es weiter? Wohin wird das alles führen? Ich habe dazu Stellungnahmen verfasst und Bücher über Trends der T geschrieben. Heute bin ich stolz darauf, nie wirklich grob daneben gelegen zu haben und Trends von Hypes immer sauber unterschieden zu haben. Und heute bittet mich Karsten Wendland, mich zu äußern, wie geht es weiter?

Heute bin ich in meiner letzten Lebensphase – im Vorstand der Integrata-Stiftung für humane Nutzung der Informationstechnologie. Wir meinen, die IT solle nicht nur zur Rationalisierung und Automatisierung eingesetzt werden, sondern vor allem zur Steigerung der Lebensqualität der einzelnen Menschen. Wir stellen den Menschen in den Mittelpunkt unseres Strebens und fordern, Roboter sollen immer den Menschen dienen – sie sollen die Menschen achten. Der Mensch soll Herr auf der Erde bleiben.
Dafür ist es erforderlich, den Robotern unsere Moral beizubringen. Das geht aber nur, wenn sie die „Bedeutung“ ihrer Handlungen beachten, also die Folgen korrekt abschätzen können.
Im oben genannten Sinne haben sie dann Bewusstsein.

Ich fordere explizit nicht, sie sollen die Bedeutung „verstehen“, weil das viele – vor allem Philosophen traditioneller Denke – falsch auffassen könnten. Es reicht, wenn die Roboter bei ihren Handlungen unsere Moral und unsere Wünsche immer so beachten, wie wir Menschen uns dies wünschen.

Die Entwicklung der IT hat sich seit 80 Jahren mehr und mehr beschleunigt. Moore lässt grüßen.
Es wäre falsch anzunehmen, dass dieses „exponentielle“ Wachstum demnächst plötzlich endet. Es wird irgendwann enden, aber eben nicht demnächst. Nun gibt es neuerdings KI as a Service (AaaS). Und das open-Source-System für Autonome Roboter (ROS) entwickelt sich rasant schnell weiter. GPT-3 und Alphafold2 überraschen uns mit Leistungen, die selbst Experten so nicht erwartet hatten. Erste Ontologien kommen zum Einsatz – zunächst in der Landwirtschaft. Warum dort? Weil sich dort keiner daran stört. So war das immer: Es geht dort am schnellsten, wo kaum einer hinschaut.
Das Feld wird immer unübersichtlicher. Wer kann denn noch mithalten?
Die Gefahr wächst, dass es uns Menschen entgleitet.

Jedenfalls bin ich der Meinung, dass wir rechtzeitig anfangen sollten, uns mit den möglichen Folgen solcher Maschinen zu befassen und wie wir sie „im Griff“ behalten können. Dazu gehört eben auch, dass wir verstehen, was Bewusstsein ist. Wir sollten lieber früher als später damit starten:

Also Jetzt!

Getagged mit: , , ,

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*