Es geht der Integrata-Stiftung um eine humane Nutzung der Informationstechnologie, und bei aller Freude über dieses Vorhaben darf man fragen, was mit dem „humanen“ vor der Nutzung gemeint ist. Es geht Menschen natürlich immer um Menschen, vor allem den Menschen, die seit dem 17. Jahrhundert Wissenschaft treiben, um „die Bedingungen der menschlichen Existenz zu erleichtern“, wie eine berühmte Formulierung lautet. Die Geburt der modernen Wissenschaft ist in einer humanistisch geprägten Kultur gelungen, denn die Anfänge des Humanismus finden sich im Italien der Renaissance. Seit dem Ende des 15. Jahrhunderts gab es dort an Universitäten Gelehrte, die „studia humanista“ unternahmen und damit eine gute Bildung und geschliffene Manieren von Menschen fördern wollten. Dadurch gedieh „die Pflanze ´Mensch´ besser als anderswo“, wie Jacob Burckhardt in seiner „Kultur der Renaissance in Italien“ 1860 geschrieben hat. Die „Kultur des Humanismus“ bekommt zu Burckhardts Lebzeiten eine wissenschaftliche Grundlage, wie der Theologe Dietrich Rössler 1984 in einem Symposium über Grenzfragen der Medizin in einem Essay festgestellt hat, in dem er „Forschung und Humanität“ verbindet. Hier ist zu lesen:

„Fortschritt und wissenschaftliche Forschung gelten in der abendländischen Kultur als Grundlage und Voraussetzung aller Entwicklung von Humanität. Wissenschaftlicher Fortschritt und Fortschritt in der Humanisierung der Welt waren für eine große Epoche unserer Kulturgeschichte geradezu identisch. Vor allem das 19. Jahrhundert hat sichtbar gemacht, dass die Befreiung des Menschen von niederdrückender und entfremdeter Arbeit, die Erweiterung von persönlichem Lebensraum, die Vermehrung von Lebensqualität und Partizipationsmöglichkeiten an den unterschiedlichen Lebensformen erst denkbar geworden sind durch den Fortschritt in Wissenschaft und Technik. Am eindrücklichsten konnte dieser innere Zusammenhang von Fortschritt und Humanität durch die Medizin belegt werden: Im Laufe weniger Jahrzehnte wurde eine unglaubliche Verminderung von Leiden und eine Befreiung von Krankheitsübeln Wirklichkeit, durch die die ganze Zivilisation verändert worden ist. Der innere Zusammenhang von Forschung und Humanität aber lässt sich auch als prinzipielles Motiv der Anthropologie ins Auge fassen: Der Mensch ist als weltoffenes ein experimentelles Wesen. Er ist für jeden Schritt seiner Weltgestaltung auf das Experiment als auf das elementare Instrument seiner Lebenspraxis verwiesen, und er hat deshalb mit Recht das wissenschaftliche Experiment als die dem Humanen gemäße Form der Weltbewältigung in die Grundlagen seiner Kultur aufgenommen.“

Ein humane Welt ist also eine Welt, in der gebildete Menschen sich auf die beschriebene Weise darum bemühen, ihr eigenes Leben und das von anderen zu erleichtern, und das bedeutet im konkreten Fall von Informationstechnologien, dass ein iPhone alle Wünsche erfüllt, die Menschen haben – in Kontakt mit Freunden und Familienangehörigen zu bleiben, über Ereignisse aktuell informiert zu werden, einen Weg zu einem Ziel oder durch eine Stadt zu finden, und manches mehr. Nützliches Wissen hat im Laufe der Geschichte große Lebensveränderungen mit sich gebracht und unter anderem zur Stiftung des Nobelpreises geführt, der seit dem Beginn des 20. Jahrhunderts für Leistungen vergeben wird, die den Menschen den größten Nutzen gebracht haben. Wer über den Nobelpreis nachdenkt, wird finden, dass er oder sie die meisten Laureaten schon vergessen hat, bevor sie in Stockholm ihren Preis entgegen nehmen konnten, während die ausgezeichneten Menschen in Erinnerung geblieben sind, die sich eher dem reinen Denken hingaben, ohne auf einen Nutzen aus zu sein. Das berühmte Beispiel ist Albert Einstein, der seine Mitmenschen 1930 gescholten hat, dass sie sich schämen sollten, wenn sie die Wunder der Technik nutzen und dabei von den Apparaten weniger verstehen als eine Kuh von der Botanik der Pflanzen, die sie mit Wohlbehagen frisst. Humane Nutzung einer Technologie heißt dann, anders als eine Kuh mit den Dingen umzugehen und etwas von den raffinierten Mechanismen verstehen zu wollen, die einem iPhone erlauben, Bilder zu machen, Musik zu speichern und erklingen zu lassen, und überhaupt dafür zu sorgen, dass mir die ganze Welt in meiner Hand zur Verfügung steht und mit dem Wischen von Fingerspitzen auf ein Display gezaubert werden kann. Wie und wann ist die Welt überhaupt in solch eine Maschine gekommen und wer hat den digitalen Raum erschaffen und geöffnet, in dem sich das aktuelle Leben abspielt? Das lohnt doch ein Nachsinnen.

Das große Problem besteht darin, dass parallel zum Entstehen der wissenschaftlich bestimmten Welt in den 1960er Jahren das Ideal einer humanistischen Bildung geopfert wurde, was äußerlich sichtbar am Verschwinden des humanistischen Gymnasiums wurde. Seit diesen Tagen herrschen im Schulbetrieb Abwählbarkeit und kulturelle Unverbindlichkeit, und die Frage lautet, ob eine neue Art von Bildung Aufgabe und Wert der alten übernehmen kann. Die in den 1960er Jahren ausgelöste Bildungskatastrophe kam zum Höhepunkt, als 1999 ein Bestseller über „Bildung“ den Menschen „alles was man wissen muss“ vorstellte und dabei die Naturwissenschaften ausdrücklich – und unter dem Jubel der gesellschaftspolitischen Denkerinnen und Denker – aussparte. Seitdem sind die Menschen immer zuverlässiger die Kühe geworden, von denen Einstein gesprochen hat, und es macht Mühe, mit diesem Viehhaufen über eine „humane Nutzung der Informationstechnologie“ zu verhandeln. Die weltabgewandten Handynutzerinnen und -nutzer sind sämtlich höchst kompetent – beim Drücken der Knöpfen und Scrollen des Displays –, aber sie bleiben so ungebildet und dumm wie das iPhone trotz all seiner künstlichen Intelligenz selbst. Je dümmer, desto Handy, wird feststellen müssen, wer etwa an einem Bahnhof auf den Zug wartet, und dabei kann man nur traurig werden. Humane Nutzung meint, das Gerät nicht einzusetzen, um die Zeit totzuschlagen, sondern um mehr Menschlichkeit werden zu lassen. Weniger Kühe mit Kompetenz und mehr Menschen mit Manieren, wie sie im Rahmen der ursprünglichen „studia humanista“ herangezogen werden sollten. Ein humane Nutzung wird nur gelingen, wenn Bildung wieder in die Kultur einführt und nicht als Aus- oder Fortbildung die Menschen davon wegleitet. Wohin denn auch? Einbildung ist wörtlich „In-Formation“ und damit wichtiger als Ausbildung, auch wenn das Wort verpönt ist. Aber was soll man von einer Gesellschaft halten, in der jeder informiert sein will und niemand eingebildet sein darf?

Schon immer haben Menschen gerätselt, was Bewusstsein ist. Sie haben ihr eigenes Bewusstsein bemerkt und erforscht, haben es bisher aber nicht wirklich verstanden. Mit dem Aufkommen von „intelligenten“ Maschinen, die menschliches Denken versuchen nachzuahmen, fragen wir uns, können diese Bewusstsein erlangen? Es ist daher höchste Zeit, Bewusstsein naturwissenschaftlich zu erforschen.

Bewusstsein ist aktuell kein eindeutiger Begriff, sondern umfasst mehrere Phänomene, die unabhängig voneinander vorkommen können.

1. Man kann Bewusstsein auffassen als oberste Kontrollinstanz im Kopf, die versucht, die unterlegten Schichten des Denkens zu steuern und zu kontrollieren – oft mit unvollständigem Erfolg. Beispiel: Unbewusste, nicht steuerbare Handlungen (Atmen, Herzschlag, Niesen, Gänsehaut, …).
2. Man kann darunter auch verstehen, dass wir nachdenken über das, was im Kopf so abgeht. Im Kopf haben wir – von unseren Sensoren vermittelt – ein Bild der realen Welt als Grundlage für das, was wir denken und tun. Es bildet nicht alles ab, was da draußen ist, sondern nur einen winzigen Teil – denjenigen Teil, der uns eben „wichtig“ ist. Abgesehen davon, dass es sehr, sehr unvollständig ist, kann es ganz schön daneben liegen. Schon Plato hat das in seinem Höhlengleichnis vor mehr als zwei Jahrtausend dargestellt.
   Soweit ist das auch in einer Maschine nicht anders. Warum sollte sie nicht auch über die gespeicherte Information „nachdenken“ können, wenn wir ihr ein Programm einbauen, das ihre eigene Information analysiert. Beispiel: Ein Roboter, der passend programmiert ist, stellt mit seinem Analyse-Programm fest, dass er gerade den Fuß hebt, um einen Schritt nach vorne zu machen und dazu sagt: ich gehe einen Schritt voran. Ist das dann schon Bewusstsein?
3. Versteht man unter Bewusstsein, dass es die Bedeutung möglicher Handlungen einschätzen kann, wird es schon interessanter. Was aber ist gemeint mit „Bedeutung“? Ich meine damit die Wechselbeziehungen, die eine Handlung auf andere Menschen oder Objekte der Welt da draußen direkt oder indirekt hervorruft. Wie könnte man das einem Computer (einer KI) beibringen? Man müsste ihr eine Ontologie der (von ihr wahrgenommenen) Welt beibringen, die alle Relationen der Objekte untereinander enthält und abrufbar bereitstellt. Das ist nicht unlösbar, aber (aktuell noch) mit viel Aufwand verbunden, was aber bald der Vergangenheit angehören könnte. Wenn eine KI die Wechselbeziehungen dann auf Nutzen und Kosten analysiert, kann sie Großes bewirken – auch großen Schaden. Und wenn man das kombiniert mit den schier unendlichen Speicher- und Rechenmöglichkeiten von Maschinen, dann kann so eine Maschine deutlich mehr Bewusstsein erlangen, als ein Mensch je haben kann. Was macht sie damit? Wir wissen es nicht.

Ich halte das für gefährlich.

Wenn Sie meinen, es geht nicht, einem Computer das beizubringen, dann gebe ich Ihnen Recht, denn einem Computer fehlen die Sinnesorgane. Wenn Sie meinen, es geht auch nicht, dass einem Roboter beizubringen, dann bin ich da anderer Meinung. Das geht sehr wohl! Und wir werden es bald erleben!

Jedenfalls ist das eine Lehre, die ich aus meinen bald 60 Jahren Beschäftigung mit der Informatik ziehe. 1963 habe ich zunächst programmiert, dann Software gestaltet und Programmierung überwacht, dann immer größere Systeme entworfen für Unternehmen und für die Gesellschaft. Ich habe BTX mitentwickelt, den Vorläufer des Internets. Meine Auftraggeber haben mich oft gefragt, wie geht es weiter? Wohin wird das alles führen? Ich habe dazu Stellungnahmen verfasst und Bücher über Trends der T geschrieben. Heute bin ich stolz darauf, nie wirklich grob daneben gelegen zu haben und Trends von Hypes immer sauber unterschieden zu haben. Und heute bittet mich Karsten Wendland, mich zu äußern, wie geht es weiter?

Heute bin ich in meiner letzten Lebensphase – im Vorstand der Integrata-Stiftung für humane Nutzung der Informationstechnologie. Wir meinen, die IT solle nicht nur zur Rationalisierung und Automatisierung eingesetzt werden, sondern vor allem zur Steigerung der Lebensqualität der einzelnen Menschen. Wir stellen den Menschen in den Mittelpunkt unseres Strebens und fordern, Roboter sollen immer den Menschen dienen – sie sollen die Menschen achten. Der Mensch soll Herr auf der Erde bleiben.
Dafür ist es erforderlich, den Robotern unsere Moral beizubringen. Das geht aber nur, wenn sie die „Bedeutung“ ihrer Handlungen beachten, also die Folgen korrekt abschätzen können.
Im oben genannten Sinne haben sie dann Bewusstsein.

Ich fordere explizit nicht, sie sollen die Bedeutung „verstehen“, weil das viele – vor allem Philosophen traditioneller Denke – falsch auffassen könnten. Es reicht, wenn die Roboter bei ihren Handlungen unsere Moral und unsere Wünsche immer so beachten, wie wir Menschen uns dies wünschen.

Die Entwicklung der IT hat sich seit 80 Jahren mehr und mehr beschleunigt. Moore lässt grüßen.
Es wäre falsch anzunehmen, dass dieses „exponentielle“ Wachstum demnächst plötzlich endet. Es wird irgendwann enden, aber eben nicht demnächst. Nun gibt es neuerdings KI as a Service (AaaS). Und das open-Source-System für Autonome Roboter (ROS) entwickelt sich rasant schnell weiter. GPT-3 und Alphafold2 überraschen uns mit Leistungen, die selbst Experten so nicht erwartet hatten. Erste Ontologien kommen zum Einsatz – zunächst in der Landwirtschaft. Warum dort? Weil sich dort keiner daran stört. So war das immer: Es geht dort am schnellsten, wo kaum einer hinschaut.
Das Feld wird immer unübersichtlicher. Wer kann denn noch mithalten?
Die Gefahr wächst, dass es uns Menschen entgleitet.

Jedenfalls bin ich der Meinung, dass wir rechtzeitig anfangen sollten, uns mit den möglichen Folgen solcher Maschinen zu befassen und wie wir sie „im Griff“ behalten können. Dazu gehört eben auch, dass wir verstehen, was Bewusstsein ist. Wir sollten lieber früher als später damit starten:

Also Jetzt!

Demokratie und Partizipation entspringen dem durch die Evolution entstandenen Wunsch des Menschen nach Beteiligung bei der Gestaltung der Gemeinschaft.

In der seit Jahrhunderten praktizierten Form von Demokratie wählen die Bürger Abgeordnete, denen sie vertrauen und die sie in ein Parlament schicken, in dem sie dann die politischen Entscheidungen nach Mehrheiten aushandeln. Die dazu erforderliche Tätigkeit der Abgeordneten verlangt heute nach mehr und mehr Zeitaufwand. So haben die Abgeordneten Im deutschen Bundestag aktuell durchschnittlich 3 Mitarbeiter, die ihnen zuarbeiten und ihre Argumente fürs Parlament vorbereiten. Im US-Parlament sind es im Durchschnitt 7 Mitarbeiter. Diese Zahl wächst mit der Zeit und ist den komplexer werdenden Themen in modernen Gesellschaften geschuldet, die zur Entscheidung anstehen.

Ein Normalbürger hätte nicht die Zeit, sich in die Themen selbst einzuarbeiten. Daher ist es gut, wenn er sie den Spezialisten überlässt, also den Abgeordneten. Allerdings wünschen sich die Bürger dennoch mehr Beteiligung. Zweifellos kann sich ein Bürger nie und nimmer in alle Themen einarbeiten – auch nicht in die, die ihn betreffen. Wie kann er also partizipieren und mitwirken an der Gestaltung des Gemeinwesens?

Partizipation: Kein Zweifel, er sollte sich das ihn interessierende Thema wählen können, an dem er „mitreden“ möchte. Um erfolgreich mitreden zu können, muss er auch eingearbeitet sein. Er braucht dazu alle verfügbaren Informationen. Und er muss sie verstanden haben, um ernst genommen zu werden.

Informationen: Bei vielen – vor allem lokalen Themen – kann ein Bürger zusätzliche Informationen beisteuern, die z.B. in der Verwaltung nicht vorliegen. Der Bürger sollte sie einbringen können, um die bereits vorhandenen Informationen zu vervollständigen.

Toleranz: Um die Informationen zu verstehen muss er damit umgehen können und darüber reden. Das geschieht, indem er die Informationen wahrnimmt, sich dann äußert und die Reaktionen der anderen – ebenfalls interessierten – Bürger beobachtet. Am beten geht das in kleinen Runden. So entsteht Einsicht und Toleranz bezüglich späterer Entscheidungen.

Argumente: Außerdem entstehen dabei die Argumente, die – ob dafür oder dagegen – für die im Parlament zu treffenden Beschlüsse später wichtig sind.

Eine gute Beteiligung sammelt daher zusätzliche Informationen ein, erstellt Argumentationen und erzeugt nebenher Toleranz und Befriedigung des allgemeinen menschlichen Wunsches nach Partizipation.

Bürgerbeteiligung ist daher eine gute Ergänzung der Demokratie auf unterster Ebene. Die Bürger bringen sich ein und unterstützen dabei ihre Abgeordneten. Bürgerbeteiligung ergänzt den traditionellen Informationsfluss in der Demokratie. Bürgerbeteiligung sollte daher systematisch eingeführt und institutionalisiert werden.

Übrigens gilt ähnliches auch außerhalb des öffentlichen Lebens, also in Firmen oder Organisationen. Menschen haben den Wunsch nach Mitarbeiterbeteiligung. Wird sie praktiziert, lassen sich Entscheidungen auf Führungsebene verbessern und die Mitarbeiter zusätzlich motivieren. Die Phänomene sind vergleichbar mit denen bei Bürgerbeteiligung. Ähnliches gilt für Kundenbeteiligung, wie sie manche moderne Firmen praktizieren.

Bürgerbeteiligung sollte daher systematisch gesetzlich verankert werden, um die Demokratie auf unterster Ebene zu ergänzen und zu festigen. Bei jedem möglichen Thema, das im Parlament zur Entscheidung ansteht, sollte Bürgerbeteiligung verpflichtend angeboten werden, so dass interessierte Bürger mitmachen können. Sie sollen nicht entscheiden, sondern den Abgeordneten zuarbeiten. Die Entscheidungen müssen den gewählten Abgeordneten überlassen bleiben, denn nur sie haben die Übersicht über alle anstehenden Entscheidungen, die für einen übergeordneten politischen Ausgleich erforderlich ist.