Informationstechnologie wird zu unterschiedlichen Zwecken genutzt: zur Kommunikation, zur effizienten Verwaltung großer Datenmengen und zur Automatisierung und Beschleunigung von beliebigen Prozessen.

Eine Automatisierung nimmt dem Menschen die Verantwortung für die Bedienung von Maschinen, für Prozesssteuerung, für Programmaufrufe oder für die Einleitung von Sicherheitsmaßnahmen. Es gibt keine Konzentrationsprobleme, Ermüdungserscheinungen oder eine Notwendigkeit für Pausen und es sind Reaktionszeiten möglich, die für einen Menschen nicht erreichbar sind.

Diese Automatisierung wird standardmäßig durch die Definition von Regelsystemen und die Programmierung von Algorithmen umgesetzt.

KI ist eine Technik, die selbst lernen kann und bei der nicht alle Optionen programmiert werden müssen. Für diese Technik werden Modelle definiert und es wird eine zu diesen Modellen passende Datenbasis ausgewählt. Der Trainingsprozess von KI-Modellen ist oft komplex und erfordert viel Zeit, Rechenressourcen und Fachwissen.

Die Bereitstellung der „richtigen“ Daten zum Training der KI-Modelle scheitert oft an der fehlenden Vollständigkeit oder an einer unzureichenden Datenbereinigung und Vorverarbeitung. Damit bleibt auch nach einer Validierung und Freigabe von KI-Modellen ein Risiko für Fehler.

Dieses Risiko führt zu der Frage, wer KI kontrollieren kann und ob KI grundsätzlich beherrschbar ist. Diese Frage ist eng verknüpft mit der Herausforderung, komplexe Prozesse zu beherrschen.

Eine Lösung ist die konsequente Modularisierung und damit Spezialisierung von Prozessen und KI-Modellen. Die Bereitstellung von Methoden zur Erklärung und Interpretation dieser Modelle bleibt trotzdem eine Herausforderung.

Eine konsequente „Data First“-Strategie bietet einen Ansatz, dieses Problem zu lösen.

Die tatsächliche Anzahl von Datenzustandsänderungen ist im Vergleich zu den theoretisch möglichen Optionen sehr begrenzt. Das erlaubt eine Festlegung von Definitions- und Wertebereichen sowohl für mögliche Eingaben als auch für die erwarteten Ausgaben pro Modul. Module können eine Benutzerinformation liefern oder einen Datenzustand ändern.

Ein Prozess stoppt oder erzeugt einen Fehler, sobald ein ausgegebener Datenzustand nicht im Wertebereich des aktiven Moduls oder nicht im Definitionsbereich eines Folgemoduls liegt.

Der Aufruf von neuen Modulen, beziehungsweise von Teilprozessen, durch eine Datenzustandsänderung führt zu einem neuen Ansatz für die Steuerung komplexer Prozesse. Dieser Ansatz erlaubt eine robuste Verkettung von KI-gesteuerten Modulen mit fest programmierten Algorithmen.

Eine solche Verkettung schafft nicht nur die Basis für Skalierung und Parallelisierung von automatisierten Lösungen, sondern sie erlaubt auch eine Verifizierung und Nachvollziehbarkeit für den Anwender.

Das dadurch geschaffene Vertrauen ist eine Voraussetzung, um Akzeptanz für den Einsatz neuer Lösungen zu schaffen und das Thema KI zu entmystifizieren.

Woher kommt das?

Charles W. Morris (1901–1979) unterscheidet in seiner Zeichentheorie (Semiotik) drei Ebenen:

Syntax (Grammatik), Semantik (Bedeutung) und Pragmatik (Zweck).

Beispiel: Ein Mensch fährt mit seinem Auto auf eine Ampel zu, erkennt das rote Licht (Zeichen) und versteht, dass er warten muss (Bedeutung des roten Lichts), und weiß auch, warum er warten muss (Zweck des roten Lichts). Menschen denken immer – ungewollt – auf allen drei Ebenen.

Wie lernt KI?

Ein Computer (KI) bekommt derzeit beim Lernen große Mengen von Daten (Zeichen, Bildpunkte, Worte und so weiter) vorgelegt und setzt diese in Beziehung zueinander. Dann beurteilen Menschen das Ergebnis danach, ob es richtig oder falsch ist. Damit korrigiert der Computer (KI) seine Einstellungen. Das geschieht so lang, bis die KI – mehr oder weniger – alles richtig zuordnet.

Wie lernt der Mensch?

Der Mensch hat eine „natürliche“ Intelligenz, die sich in Jahrmillionen evolutionär entwickelt hat. Schon als frisch geborenes Kleinkind sieht, hört und fühlt er immer bewegte Objekte; er lernt nicht aus statischen Bildern. Und als Mensch hat er genetisch vererbte Ziele, die er immer mit seinen – anfangs unbewussten – Beobachtungen zusammenführt. Diese meisten Wunschziele sind biochemisch basiert (Beispiele: Hunger, Zärtlichkeit, Neugier, Abenteuerlust oder Selbstbestimmung). Die wenigsten sind kulturell anerzogen (wie etwa Höflichkeit).

Natürliche Intelligenz stellt einen Überlebensvorteil dar. Sie ist von den Ursprüngen her zielorientiert und pragmatisch angelegt. Das gilt schon für Einzeller wie z.B. Amöben. Ohne Nerven kriechen sie in die Richtung, in der es etwas zu fressen gibt. Das wird bei ihnen rein chemisch gesteuert: Sie kriechen in die Richtung, aus der Duftmoleküle kommen, die Nahrung versprechen. Meist sprechen wir hier nicht von Intelligenz, sondern von Instinkt. Aber was ist eigentlich der Unterschied? Der biologische Zweck ist jedenfalls derselbe.

Im Laufe der Evolution haben sich dann Nervenzellen entwickelt, die Informationen schneller verarbeiten können und so wiederum einen Überlebensvorteil darstellen. Daraus haben sich weiterhin Zentralorgane entwickelt, die als Hirn den ganzen Organismus steuern können. Und entwicklungsgeschichtlich in jüngerer Zeit hat sich der Neocortex entwickelt, der beim Menschen besonders groß ausgebildet ist.

Aber immer – von der Amöbe bis zum Mensch – ist die Planung der jeweils nächsten Handlungen Aufgabe dieser Gehirne gewesen. Diese Planung dient zunächst dem Überleben oder jedenfalls einer Verbesserung der Überlebenschancen. So kommen wir auch zu unserer Definition:

Intelligenz ist die Fähigkeit, eine gegebene Situation zu verstehen und möglichst schnell daraus Schlüssefür vorteilhafte Handlungen zu ziehen.

Zusammenfassung:

• Computer lernen aus Faktenwissen. Menschen lernen aus Planungsschritten.
• Computer reproduzieren Faktenwissen, Menschen planen immer – meist in kleinen Planungsschritten.

Das ist ein großer Unterschied und führt natürlich zu den bereits geschilderten Beobachtungen.

Wer es nicht glaubt, möge sich selbst mal bei alltäglichen Handlungen möglichst detailliert beobachten.

Beispiel: Schlüssel aus der Tasche nehmen und eine Tür aufschließen. Wir denken dabei etwa eine Sekunde voraus – völlig unbewusst: Wir planen eben.

Wie geht es weiter?

Wenn wir eines Tages Computer so programmieren, dass sie auch aus Planungsschritten lernen, dann – so meine Prophezeiung – werden sie viel ähnlicher denken wie wir Menschen, als das heute der Fall ist.

Und erst dann können sie uns wirklich überlegen sein. Der Weg dahin ist aber noch weit.

Unser Stifter Wolfgang Heilmann hat vor langer Zeit in seiner Integrata-Unternehmensberatung eine große Schulungsabteilung aufgebaut, die damit für die Dauer von einigen Jahren Ende der 1980er und Anfang der 1990er Jahre das größte Schulungshaus für IT in Deutschland war. Noch heute ist der Name Integrata dafür bekannt.
Vor seinem Tod im vergangenen Jahr hat er den dringenden Wunsch geäußert, dass die Stiftung ihre Themen Ethik und KI in der Form von Schulungen auf den Markt bringt.

Seither bieten wir in unserer Integrata-Akademie (IAK) solche Schulungen in zweifacher Form an:

• Mit IAKpublic veranstalten wir Vorträge im Stil eines Studium Generale alle 14 Tage – immer montagabends. Jede Person, die sich angemeldet hat, kann kostenlos per Zoom teilnehmen. Dabei ist uns das Wichtigste, dass die Teilnehmer aktiv zuhören und mitdiskutieren, um inhaltlich möglichst viel mitzunehmen.

• In IAKprofessional wollen wir ab dem Jahr 2024 Seminare anbieten, ebenfalls rund um Ethik und KI. Und das Ganze in einer modernen Form:
  • virtuell
  • zur Weiterbildung von Erwachsenen, daher als Abendtermine
  • in kurzen Schulungseinheiten von ca. 60 min
  • ebenfalls mit viel Diskussionsmöglichkeiten
  • mehrteilig, damit Teilnehmer zwischendurch Zeit haben, zu üben und zu wiederholen.

Die Themen sollen zunächst die Grundlagen für ethische KI schaffen:

1. Wie funktioniert KI? Warum lernt eine KI anders als ein Mensch? Welche Vor- und Nachteile ergeben sich?

• Grundlagen von KI, der Unterschied zwischen Programmieren und Lernen
• Lernmethoden der KI: ausführliche Darstellung und Übungen

2. Welche Anwendungen und Möglichkeiten gibt es bereits?

• Wo funktioniert KI gut, wo weniger gut? Warum? Bleibt das so?
• Planung und Einführung von KI im Betrieb

3. Ethik für KI – evolutionäre Grundlagen der Ethik: Welchen Nutzen und welche Notwendigkeit bestehen? Wie lassen sich Risiken vermeiden?

• Auf KI-Anwendungen angewandte Ethik
• In KI-Anwendungen eingebaute Ethik

4. KI in der Produktion: Prozesse und Daten unabhängig gestalten.

• Die verschiedenen Arten von Daten und deren Bedeutung
• Prozesse gestalten und professionell steuern

5. Kritischer, ethischer Blick auf die Daten

• Daten: Anforderungen an Vollständigkeit und Konsistenz (Daten sammeln, verwalten und löschen)
• Speicherung: Schutz vor Missbrauch von Daten ohne die Nutzung einzuschränken
• Steuerung von Prozessen durch Daten bzw. durch Datenzustandsänderungen
• Datenverfügbarkeit für Test, Simulation, Auswertung und für Business Intelligence

Das Ganze bieten wir in Zusammenarbeit mit Swen Heinemann (scio.zone) und dessen Lernplattform an. Es ist ein völlig neuartiges Lernsystem, das die verschiedenen Prozesse miteinander integriert:

• Teilnehmer-Prozess: Anmeldung, Teilnahme, Übungen, Prüfung, Zertifikat
• Verwaltung-Prozess: Terminfestlegung, Referenten-Auftrag und (virtuelle) Raumorganisation
• Vermarktungsprozess: Anzeigen, Werbung, Anfragen, Preisgestaltung, Lizenzierung und ähnliches
• Erstellungsprozess: Inhalt & Darstellung, Didaktische Planung, Übungen & Korrekturen und Urheberrechte

Die Seminare werden von der Stiftung entwickelt und sollen später von unserer Tochterfirma, der Human IT Service GmbH (HIT), durchgeführt werden.

Zu Beginn wollen wir die Seminare einmal testweise durchführen: dazu werden wir sie kostenlos anbieten. Einzige Bedingung ist, dass die Teilnehmer sich verpflichten, die Test-Seminare ausführlich zu bewerten und bei erforderlichen Korrekturen mitzuwirken.

Derzeit entwickelt sich die Technik für die künstliche Intelligenz rasant schnell weiter. Alle paar Monate kommen neue bahnbrechende Entwicklungen auf den Markt. Neuestes Beispiel ist ChatGPT, das erstaunlich gute Texte zu vorgegebenen Themen verfassen kann. Weitere bahnbrechende Beispiele werden folgen.

Forderungen kommen auf, die KI zu regulieren. Europa ist Vorreiter und teilt die KI in Risikostufen ein, die geprüft und genehmigt werden müssen, bevor sie zum Betrieb zugelassen werden. Befürchtungen werden formuliert, dass eine hochentwickelte KI den Menschen die Herrschaft wegnehmen könnte.
Auch wenn ich das so bald nicht für wahrscheinlich halte, weil eine KI immer die ihr vorgegebenen Ziele verfolgt. Und wenn wir ihr nicht das Ziel vorgeben und sie darauf trainieren, die Herrschaft über die Menschheit zu übernehmen, macht sie das auch nicht. Dennoch wird uns alle dies doch nachhaltig beeinflussen. Angestammte Arbeitsplätze werden wegrationalisiert oder ändern ihren Charakter. Und unsere Gesellschaft wird sich verändern und wir damit auch. 

Wenn wir zunächst KI-Anwendungen verwenden, die uns „nur“ unterstützen und sich das als sehr hilfreich erweist, werden wir der KI mehr und mehr vertrauen und uns auf sie verlassen. Und wenn sie dann doch mal einen Fehler macht, werden wir es nicht mehr bemerken. So verlernen wir, die KI wirklich zu beherrschen.
Noch ein Beispiel: KI kann derzeit schon Texte vorlesen. Wir müssen bald nicht mehr lesen können. KI kann unser gesprochenes Wort in Texte wandeln. Wir müssen bald auch nicht mehr schreiben können. KI kann derzeit schon einfache Rechenaufgaben lösen und wird bald noch viel besser rechnen können. Wir müssen dann nicht mehr rechnen können.

Mit großer Wahrscheinlichkeit werden wir dafür neue Fähigkeiten entwickeln und lernen, spezielle Aufgaben zu lösen, die die KI jeweils noch nicht lösen kann. Es werden genug Aufgaben für Menschen übrig bleiben.
Wir werden uns gegenseitig ergänzen und beide „Arten“ – KI und Menschheit – werden sich weiterentwickeln.
Damit dies zu unserem Nutzen gelingt, sollten wir der KI die Beachtung unserer Werte zum Ziel setzen.

Werte, die wir im täglichen Leben ganz selbstverständlich beachten, machen unsere Moral aus.
Wenn wir in eher seltenen Fällen unsere Werte gegeneinander abwägen müssen, nennen wir das die Ethik.

Aber was sind denn unsere Werte? Unsere Werte sind evolutionär entstanden und viele davon werden mit unserer DNA in Form von Wünschen vererbt. Beispiele: Gutes Essen, schöne Menschen, Empathie (durch unsere Spiegelneuronen), Kooperation, Führen und geführt werden, Abenteuerlust, Selbstverwirklichung, etc…

Nicht alle sollten wir der KI oder in Roboter einbauen. Braucht ein Roboter gutes Essen? Naja – er braucht Energie – aber eben in Form von Strom, um seine Batterie aufzuladen. Sollte ein Roboter sich selbst verwirklichen können? Sollte ein Roboter Abenteuerlust verspüren?
Ein Roboter sollte Empathie haben – aber nur mit uns Menschen. Bauen wir ihm Spiegelneuronen ein!
Ein Roboter sollte kooperieren – auch mit anderen Robotern, aber vor allem mit uns Menschen.
Ein Roboter sollte sich führen lassen. Vielleicht sollte er auch manchmal führen können.

Es macht Sinn, den Robotern nur solche Werte beizubringen, die uns Menschen nützen.

Daraus wird ersichtlich, dass in die KI und ihr Anwendungsfeld in den Robotern nur solche Werte eingebaut werden, die unsere menschlichen Erwartungen oder Werte ergänzen. KI und Roboter werden uns Menschen ergänzen und wir werden uns gemeinsam weiterentwickeln – noch lange gesteuert von den Menschen.

Das meine ich mit Koevolution.

Unzweifelhaft verfolgen wir Menschen Werte. Unser „Leben“ ist ein hoher Wert; daher gilt es, Leben zu schützen. „Familie“ stellt auch einen solchen Wert dar. Und es lassen sich viele weitere aufzählen. Die Plattform Wertesysteme (www.wertesysteme.de ) zählt rund 130 Werte auf, die sich voneinander deutlich unterscheiden lassen.

Um die Frage nach der Herkunft zu beantworten, kann man sich zunächst vor Augen führen, dass es Werte gibt, die uns ganz offensichtlich viel bedeuten und andere, auf die wir eventuell verzichten könnten. Maslow hat sie in einer Pyramide angeordnet: Unten die grundlegenden Bedürfnisse, weiter oben die eher luxuriösen.

Wünsche sind evolutionär entstanden.

Bei der Betrachtung der Maslowschen Pyramide wird schnell klar, dass dahinter tief in uns verankerte Wünsche stecken, die teilweise angeboren sind, also mit den Genen uns vererbt wurden. Unschwer findet man hier Sex und den Wunsch, das eigene Leben zu bewahren. Bei genauerer Betrachtung sind es viele mehr, die vererbt werden. Andere werden uns in unserer Kindheit beigebracht, weil sie in unserem Umfeld so üblich sind: kulturelle Werte werden uns mit unserer Kultur tradiert. Die Zusammensetzung unserer Gene hat sich mit der Evolution herausgebildet. Auch unsere Gepflogenheiten haben sich durch fortwährend kleine Änderungen zu dem entwickelt, was wir heute unsere Kultur nennen. Beide sind in Form von Wünschen so tief in uns verankert, dass wir uns meist nicht bewusst machen, wie sie entstanden sind.

Wozu nützen uns unsere Wünsche?

Unsere Wünsche können zweifellos manchmal sogar lästig werden: Schon wieder Hunger, also schon wieder eine Unterbrechung, um etwas zu essen oder zu trinken. Unsere Wünsche leiten unser Tun: einige ganz stark, andere eher schwächer. Unbewusst wägen wir ab, was in jedem Einzelfall dringender ist. Über unsere Wünsche hilft uns die Evolution, unsere Ziele zu verfolgen: Eine bessere Kombination von Wünschen – also eine bessere Zielverfolgung – ist ein Überlebensvorteil und setzt sich längerfristig durch.

Werte sind Abstraktionen von Wünschen.

Zum Beispiel gilt das auch für den Wunsch nach Anerkennung. Wer diesem Wunsch nachgeht, muss (im Prinzip) etwas tun, was der Gemeinschaft hilft, um anerkannt zu werden. Und damit hilft es allen gemeinsam, besser zu überleben. Anerkennung ist also eine Abstraktion des Wunsches, etwas für die Gemeinschaft zu tun. Generell kann man sagen, Werte sind die Abstraktionen von Wünschen. Die Wünsche sind das Original, Werte sind daraus abgeleitete semantische Begriffs-Reduktionen. Sie erleichtern die Diskussion insbesondere, wenn sie im aktuellen Konflikt miteinander stehen.

Beispiel: Soll ich mein Leben retten (Wert „Menschenleben“), indem ich zu Hause meine Krankheit auskuriere, oder soll ich ins Kino gehen (Wert „Bildung“, aber auch weitere Werte)?