Nach langen Jahrzehnten der Beschäftigung (seit 1963) mit IT beschäftige ich mich seit fünf Jahren intensiv mit künstlicher Intelligenz (KI) und lese auch viele Bücher darüber – schon auch, weil sie mir von Bekannten empfohlen werden und die dann erwarten, dass ich mit ihnen darüber diskutiere. Das ist auch richtig so, denn nur durch Gespräche untereinander können wir in unserer Gesellschaft das Phänomen KI nach und nach begreifen.

So auch Matthias Pfeffer, der– von der Philosophie her kommend – versucht, das Wesen von KI zu begreifen. Das ist zunächst ein löbliches Unterfangen. Leider unterliegt er aber immer wieder unausgesprochenen Annahmen, die von der Philosophie her so tradiert sind, anstatt auch mal zu hinterfragen, ob sie denn kritischen Fragen standhalten oder ob sie eventuell sogar in sich selbst widersprüchlich sind. Das führt m.E. dazu, dass er ab und zu auch zu falschen Folgerungen kommt.

Außerdem wirft er den zeitlichen Rahmen immer wieder durcheinander. Er unterstellt z.B., dass KI auch in Zukunft nur statistische Aussagen machen kann, nur weil sie heute nicht mehr kann. Vermutlich hat er sogar recht damit, wenn er – wie die meisten Leute, die sich über KI auslassen – nur monolithische KI betrachtet. Aber wer sagt denn, dass KI für immer monolithisch bleiben muss? Auch die Biologie hat im Menschen mit dem Neocortex ein Denkorgan geschaffen, das aus etwa 100.000 verschiedenen und sauber getrennten neuronalen Netzen besteht, die alle etwas anderes machen, aber alle (systematisch) zusammen arbeiten. In der Technik koppeln wir aktuell gerade mal drei (Hautkrebserkennung) oder eine Handvoll untereinander, wenn es hochkommt. Es gibt keinen Grund, es der Natur nicht nachzumachen und viele zusammenzuschalten. Dann bearbeitet jedes einzelne eine (relativ einfache) Aufgabe, aber alle zusammen bringen es zu wirklicher Höchstleistung!

Ein weiterer typischer Denkfehler ist zu glauben, dass wenn KI Bewusstsein erlangt – also über sich selbst nachdenken kann und sich eventuell im Spiegel wieder erkannt – dass sie dann auch Schmerz oder Freude empfinden kann. Beim Menschen mag das untrennbar miteinander einhergehen. Das ist aber nicht notwendig so.  Wozu hat die Evolution dem Menschen Schmerzempfingen mitgegeben? Der Nutzen von Schmerz ist doch zu signalisieren: „Mensch da stimmt etwas nicht. Mach es anders!“ Auch ein Roboter muss eventuell erkennen, ob etwas schief läuft. Aber muss er deshalb darunter leiden? Das ist nicht logisch zwingend. Welcher Ingenieur wird es bevorzugen, eine KI zu bauen, die leidet, wenn er es auch anders hinbekommt? Leiden in eine KI einzubauen ist schwieriger, als ihr ein einfaches Signal mitzugeben, dass da etwas nicht stimmt und sie dazu zu bringen, besser darauf zu achten. Leiden zu können ist biologisch durch Jahrmillionen entstanden und in uralten Teilen des Gehirns angesiedelt, nicht aber im Neocortex. Der Zweck kann einfacher erreicht werden.

Matthias Pfeiffer schildert als Beispiel auch das „Chinesische Zimmer“. Da werden sture Regeln angewandt, um einen Text in einen anderen zu übersetzen. Das Beispiel wird gerne angeführt, um zu zeigen, die dumm KI ist und wie wenig sie „denken“ kann. Klar, denn hier ist denken auch nicht nötig. Wenn man aber zulässt, dass denken immer vernetzt ist, also zu jedem vorkommenden Begriff alle eventuell damit zusammenhängenden anderen Begriffe betrachtet werden, dann kann KI schon heute deutlich mehr. In autonomen Robotern (oder Autos) wird solch vernetztes Denken schon heute – wenigstens ansatzweise und nur in sehr geringem Umfang- angewandt. Vernetztes Denken beruht auf einer Ontologie, die heute meist in Form von Wissensgrafen realisiert werden. Davon ist im Buch leider nirgendwo die Rede. Es passt halt auch nicht zur Ansicht von Matthias Pfeffer.

Im Buch von Dr. Horst Walther und Andreas Dripke: „2045 das Jahr, in dem die KI schlauer wird als der Mensch“ wird davon ausgegangen, dass man eine KI konstruieren kann und wird, die selbst wiederum verbesserte KI konstruieren kann und wird. Wenn das der Fall ist, ist eine den Menschen überholende, eventuell ihn sogar überrumpelnde KI denkbar. Wie sollte das gehen?

1. KI lernt aus Daten

KI wird – mindestens nach allem, was man heute weiß – mit Hilfe von Daten / Informationen trainiert.

Eine KI, die eine neu konstruierte und bessere KI trainiert, braucht neue verbesserte oder erweiterte Daten.
Woher nehmen? Im Internet sind sehr viele Texte verfügbar, die man statistisch semantisch analysieren kann.
Schließlich sind sie alle nach entsprechenden Grammatiken formuliert.

Im Internet sind sehr viele Bilder verfügbar, die mehr oder weniger gut annotiert sind.
Entweder man annotiert die Bilder noch besser (kann das eine KI?) oder steckt als Mensch viel Arbeit rein.
Sehr viele Bilder sind nicht klassisch annotiert, haben aber durchaus einen Bezug zu Texten, die sie beschreiben oder in die sie eingebunden sind. Vielleicht kann eine künftige KI diese Texte so interpretieren, dass sie aus den Bildern lernen kann?

Ähnliches gilt für kleine Filmchen (youtube). Sie enthalten oft gesprochenen Text, der interpretiert werden könnte. Oder sie werden außerhalb in entsprechenden Texten beschrieben.
Aber auch dazu braucht es deutlich verbesserte Trainingsmethoden, dass daraus eine KI neues lernen kann.

Ähnliches gilt für Musik.

Junge Menschen lernen, indem man sie durch die Welt führt und ihnen Erklärungen dazu abgibt.
Könnte das ein Vorbild für eine KI sein? Mindestens anfangs könnten Menschen eine lernende KI durch die Welt führen. Wie aber kann eine bestehende KI einer (noch jungen, lernenden) neuen KI die Welt erklären?

Um die Welt zu verstehen, müsste die KI vernetzt denken können. Noch gibt es das nicht. Es ist aber durchaus vorstellbar, dass eine KI eine Ontologie zur Verfügung hat, mit deren Hilfe sie vernetzt denken könnte.
Woher kommt so eine – umfassende – Ontologie?

Kann man mit einer KI eine Ontologie aufbauen?
Zunächst in Form eines (sehr großen, umfangreichen) Wissensgraphen (knowledge graph).
Der müsste aber von Menschen geprüft und zertifiziert werden. Eine sich selbst verbessernde KI kann frühestens dann gebaut werden, wenn eine solche Ontologie verfügbar ist. 2045? Eher nicht.

2. KI braucht Ziele innerhalb von Anwendungsgebieten

Jede KI benötigt zur operativen Arbeit Ziele, die sie verfolgt – nicht anders als der Mensch auch.

Der Mensch hat durch die Evolution Ziele vorgegeben bekommen (Größenordnung: 100 Ziele oder mehr).
Woher bekommt eine sich selbst verbessernde KI immer wieder neue Ziele?
Kann diese Ziele auch die bereits vorhandene KI haben, ohne sie verfolgen zu können?
Dann könnte die Alte der Neuen aus diesem Reservoir weitere Ziele vorgeben.
Aber dieses Reservoir müsste vom Menschen initial angelegt werden. Wollen wir das machen?

Diese Ziele können bei der konkreten Durchführung / Umsetzung in Konflikt miteinander stehen (Ethik lässt grüßen!). Damit das nicht permanent und unkontrolliert geschieht, müssten diese Zeile untereinander verglichen werden können: Sie brauchen Gewichte. Diese Gewichte könnte anfangs der Mensch vorgeben. Warum sollte er es?

Macht er es eventuell fahrlässig, indem er „seine“ KI-gestützten Helferlein baut und ihnen solche Gewichte vorgibt, die die sich selbst verbessernde KI dann einfach übernimmt / kopiert / klaut?

Ziele beziehen sich immer auf Anwendungsgebiete. Beim Menschen ist das Anwendungsgebiet sein eigenes Leben. Dies und das Umfeld zu optimieren hat ihm die Evolution als Ziel vorgegeben. Als Menschen verfolgen wir nicht alle denkbaren Ziele: Z.B. haben wir nicht den intensiven Wunsch mit dem Kopf nach unten an den Bäumen zu hängen. Das bringt uns nämlich nichts.

Jede KI hat – zumindest, solange sie noch nicht dem Menschen überlegen ist, ihr eigenes Anwendungsgebiet. Die immer schlauer werdende KI müsste ihr Anwendungsgebiet Zug um Zug erweitern. Wie soll das gehen? Geben wir der ersten sich selbst verbessernden KI alle künftigen Anwendungsgebiete mit? Implizit mit den Zielen oder explizit?

Oder probiert die KI einfach rum – zufallsgesteuert oder besser durch mehr oder weniger zufällige kleine Änderungen ihrer Aufgaben, ihrer Ziele? So jedenfalls hat es die Evolution mit uns Lebewesen gemacht.

3. Kann eine KI rumprobieren?

Zweifellos kann man eine KI bauen, die einfach zufallsgesteuert rumprobiert. Dabei geht dann vieles schief und die Fehlversuche werden abgebrochen. Dies würden wir bemerkten als Menschen jedoch bemerken. Ich jedenfalls würde die KI dann ganz schnell abstellen, ihr den Stecker ziehen.

Wenn eine KI rumprobiert, wie kann sie feststellen, ob eine neu geschaffene KI leistungsfähiger ist als die alte oder leistungsschwächer? Welche Kriterien sollen da gelten? Wenn sie ihre Ziele schneller erreicht? Wenn sie neue Ziele erreicht? Wie kann eine (zunächst noch) leistungsschwache KI unterscheiden zwischen dem Erreichen eines neuen außerhalb des bisherigen Rahmens liegenden Ziels und einem Fehlversuch? Wie kann sie das Erreichen eines außerhalb des bisherigen Anwendungsgebietes liegenden Ziels als erfolgreich und weiterführend erkennen?

Fragen über Fragen, deren Beantwortung das Buch verschweigt.

Das Buch trägt den Untertitel „KI zu Ende gedacht“ und ist wohl als Wortspiel zu verstehen. Diesem Ziel werden die Autoren offensichtlich nicht gerecht.

Ich jedenfalls habe keine Angst vor dem Jahr 2045.

Michael Mörike, Vorstand der Integrata-Stiftung

Zunehmend sind alle IT Nutzer mit den komplexen Möglichkeiten der neuen Technik überfordert, was zu Kontrollverlust und zu Angst (durch Rationalisierung und Arbeitsplatzverlust) insbesondere bei der Künstlichen Intelligenz (KI) führt.

Wirtschaftsunternehmen sind im vergangenen Jahrhundert organisiert nach dem skalierbaren und effizienzorientierten Modell von Taylor entstanden. Effizienz wird durch Standardisierung der Arbeitsschritte erreicht, die spezialisiert und beherrschbar sind (Taylorismus). Skalierbarkeit definiert sich durch die Integration aller Arbeitsschritte und Optimierung der Übergänge von Arbeitsplatz zu Arbeitsplatz.

Falls zukünftige Arbeitsinhalte so sind, können dies Maschinen besser, billiger, verlässlicher und schneller.

Es stellt sich die fundamentale Frage, welche Tätigkeiten von Maschinen nicht übernommen werden können. Arbeiten, die Neugier, Kreativität, Imagination oder Empathie erfordern, sind aktuell noch nicht auf intelligente IT-Systeme übertragbar. Damit kann Humanität am Arbeitsplatz wieder entstehen, KI-Technologie könnte helfen, Tätigkeiten zu identifizieren, wo der Mensch gebraucht wird.

Dies erfordert digitale Transformation in allen Lebensbereichen der Gesellschaft.

Neugier, Kreativität, Imagination und Empathie sind dem Menschen angeboren und waren schon immer, also auch in der vorindustriellen Zeit, überlebensnotwendig. Durch die Industrialisierung wurde das Bildungssystem auf das Skalierbar-Effizienz-Modell ausgerichtet, d.h. Wissen und Arbeitsschritte wurden standardisiert und mit IT perfektioniert, und die menschlichen Kreativ-Fähigkeiten wurden durch die Vorgaben (Lehrplan, Fabrik) ignoriert. Die Unternehmen haben die Fähigkeiten, die Produkte und die Leistungen vorgegeben, die der Mensch zu akzeptieren hatte. Der Mensch ist zur Maschine mutiert, wie es Charly Chaplin in dem Film Moderne Zeiten parodiert hat.

Diese industrielle Evolution hat sich nicht zufällig ergeben. Sie hat zu Produktivität und Wohlstand geführt und war bisher nur mit den Menschen umsetzbar. Die Maschinen waren Hilfsmittel für schwere Arbeiten, die dem Menschen seine Arbeit erleichtert haben. Die dadurch sichtbar gewordenen VUCA (Virtual, Uncertain, Complex, Agile) -Probleme sind aber nur mit Kreativität und Innovation in den Firmen lösbar. Darum ist die digitale Transformation in Unternehmen komplex, langwierig, kostenintensiv und lernintensiv, weil sie das gesamte Gesellschaftssystem (Bildung, Politik, Exekutive, Legislative, Judikative) und die Wirtschafts-Ethik verändern muss.

Diese Wirtschaftsethik hat zu einem gegen Veränderungen resistenten Immunsystem für Komplexität in den Organisationen geführt, was die Einführung von intelligenter KI-Technologie gleichsam als Antikörper (Change Resistance) behindert. Auch Personalführung, Entwicklung und Unternehmensleitung waren dem „Diktat“ der Effizienz- und Produktivitätssteigerung untergeordnet. Solche Unternehmen haben – nach der Globalisierung und der Verlagerung von Arbeitsplätzen – in der Produktivitäts-Erfahrungskurve den Zenit überschritten, wo menschliche Leistung mit Maschinen Produktivitätssteigerungen liefern können. Die Produktivität stagniert seit dem Auftreten der post-industriellen Informationsgesellschaft. Sogar die Gewinne schwinden mit zunehmendem internationalem Wettbewerb. Auch die Massen-Produkte und -Leistungen entsprechen immer weniger den individuellen Ansprüchen der Konsumenten.

Nur Innovationen versprechen weiterhin einen wachsenden Marktanteil und Gewinne. Leider wird Innovation in Institutionen auf Produkt-, Prozess-, Service- und Geschäftsmodell-Innovation eingeschränkt und bedient demnach weniger als die Hälfte der globalen Bedürfnisse der Menschen. Deshalb müssen kreative Fähigkeiten reaktiviert und am Arbeitsplatz eingesetzt werden (Lebenslanges Lernen unter Einsatz von KI-Hilfsmitteln).

Was muss sich verändern? Erfahrungen aus dem Silicon Valley:

• IT-Plattformen und Ecosysteme: Statische Performanz-Systeme (kostenoptimiert) sind durch dynamisch lernende Systeme (Kapazitäten und Beschleunigung) zu ersetzen.
  Agile Projekte und Teams werden Plattformen für Aggregation und für Soziale Systeme werden mit Mobilisierung und durch Lern-Plattformen erweitert.
• Strategie: Reaktive Top-Down- / Bottom Up- (ROI)-Strategie wird durch agile Zoom Out- / Zoom In- (Vision/Opportunities)-Strategie ersetzt. Der kurzsichtige Shareholder-Value-Ansatz migriert zum nachhaltigen Stakeholder-Value-
• Aus festen Arbeitsverhältnissen (Payroll) werden Zeitarbeitsverträge (Gig economy). Arbeiten in agilen Netzwerk-Teams mit “learn quick, fail fast“-Kultur.

Digitale Transformation kann nur gelingen, wenn der Mensch in den Mittelpunkt gestellt wird.

Welche Kompetenzen werden für die digitale Transformation (in der Cyber World) benötigt?

• Manufaktur anstatt Massenfertigung – Individuelle, kreative Produkte und Services
• Coaches anstatt Manager – Talententwicklung, Work Life Balance, Empowerment
• Composer anstatt Controller – Motivation, Innovation und Kundenorientierung

Leadership scheitert, wenn die digitale Transformation nur technologisch implementiert wird und den Menschen mit altem Wissen (skalierbarer Effizienz) weiterentwickelt. Gründe fürs Scheitern sind:

• Skalierbare Effizienz ist Null-Fehler-Toleranz – Ziel ist Zuverlässigkeit und Verlässlichkeit und Führung durch
• Training wird irrelevant (keine Lernzentren). Stattdessen On-the-Job-Learning (Action Oriented) heißt, viele Fehler schnell machen, Improvisation, neue Erkenntnisse und Erfahrungen sammeln, keine Vorgaben, sondern Führen durch

Beides steht sich diametral gegenüber und ist in bestehenden Führungskulturen nicht umsetzbar.

Technologische Voraussetzungen für die digitale Transformation:

1. Digital Twins: Alle Prozesse sind digital, alle Produkte sind digitalisiert, alle Services sind
2. Knowledge: alle Daten sind stets verfügbar.
3. Sicherheit: Datenschutz ist in den Systemen von Anfang an

Wo diese drei Voraussetzungen in einer Institution vorhanden sind, kann die Digitale Transformation mit den Menschen gestartet werden. Der neue Arbeitsplatz der Digitalen Fabrik kann nicht in den bestehenden Arbeitsprozess zurückimplantiert werden, sondern ersetzt die bestehenden Arbeitsplätze mit neuer Technik und neuen Arbeitsformen, also keine Evolution, sondern Revolution. Dies ist weder im Management Team noch in den Institutionen eine einfache Aufgabe und benötigt eine hohe Toleranz und vor allem Ethik, andere Incentivierungen und viel Unterstützung der Menschen.

Die Ergebnisse einer digitalen Transformation sind überzeugend, Quantensprünge in Produktivität machbar, Innovations-Geschwindigkeit erreichbar und Wettbewerbsvorteile sichtbar.

Was ist zu tun?

Bewährte Ansätze aus dem Silicon Valley für ein digitales Unternehmen sind:

• Leadership-Übung (Moonshot Thinking):
  Stelle die richtigen Fragen – anstatt die richtigen Antworten zu geben.
• Brenne für deine Ideen! (auf keinen Fall nur Umsetzung der Vorgaben!)

Probleme aus anderen Blickwinkeln betrachten – anstatt Prozesse zu optimieren

• Kein „so haben wir es immer gemacht“ (Rollen und Verantwortlichkeiten verändern!) Kapital kommt zu den Lösungen! Kein Controlling (Planung und Budgeting).
• Nicht zu lange auf den Erfolg warten (Think Big – act small!)

Focus on long term! Nicht “low hanging fruits” ernten oder “quick wins” suchen.

• Keine Standards (There is no one size fits all!)

Experimentieren, anstatt auf bewährte Technologien zu warten (Technik ist nur ein Werkzeug)

• Kritik akzeptieren

Mit diesen Fragen werden viele digitale Opportunities und Chancen gefördert und nicht die Risiken und Kosten analysiert. Falls der humane Einsatz der IT ein Leadership Ziel ist, helfen wir gerne!

Dass die Informationstechnologie (kurz IT) unsere Welt massiv verändert haben und das auch weiterhin werden, ist eine triviale Feststellung. Weswegen hat die IT aber eine solche Auswirkung und über welche Mechanismen?

Technologie ist immer dann besonders einflussreich, wenn sie einen deutlich günstigeren oder umfassenderen Zugang zu einer wichtigen Ressource ermöglicht: Das Auto machte Mobilität einfacher und allgemein verfügbar, die Dampfmaschine ermöglichte ungeahnten Zugang zur Ressource Arbeitskraft, indem sie Muskel- durch Maschinenkraft ersetzte. Die IT macht Information als Ressource günstiger und leichter erreichbar, und sie stellt große zusätzliche Kapazitäten zur Verarbeitung von Informationen zur Verfügung – zwei sehr unterschiedliche Effekte mit unterschiedlichen Folgen.

Die Folgen der verbesserten Verfügbarkeit von Wissen lassen sich auf zwei große Punkte herunterbrechen: Zum einen Zeitersparnis, zu anderen intelligenteres Handeln. Die Zeitersparnis kommt dadurch zustande, dass das Wissen ohne langes Suchen und ohne weite Wege verfügbar ist. Anstatt einen Aktenordner aus dem Schrank zu holen und durchzublättern, kann ich eine Datei öffnen und per Suchfunktion sofort zur gewünschten Stelle springen. Das Durchsuchen vieler Bücher kann ich mir oft ersparen, indem ich mit Hilfe einer Suchmaschine das Internet durchstöbere. Und in vielen Fällen erspare ich mir damit auch den Gang in eine Bibliothek. Dadurch wird Zeit frei, die ich unter anderem dazu nutzen kann, mich ausführlicher oder über mehr Dinge zu informieren, als ich es bislang hätte tun können. Die Zeitersparnis führt also gleichzeitig zu einer besseren Versorgung mit Informationen – was zur Folge hat, dass Entscheidungen besser informiert getroffen werden können und dass intelligenter gehandelt werden kann.

Die zusätzliche Kapazität zur Informationsverarbeitung ist von ihren Folgen vielleicht sogar noch weitreichender. Der Mensch erweiterte seine körperlichen Möglichkeiten durch den Einsatz von Werkzeug und durch Nutzung der Kraft von zuerst Tieren und später Maschinen, aber die Verarbeitung der Information blieb immer seine Domäne. Inzwischen sind Computerprogramme in der Lage, Informationen zu sichten, zu katalogisieren, Muster zu erkennen und nach bestimmten Anweisungen auszuwerten. Computer nehmen uns Routineaufgaben ab, für die Menschen zu lange brauchen würden, als dass es erwägenswert wäre, ihnen diese Aufgaben zu übertragen; man stelle sich nur einmal vor, Suchmaschinen wären darauf angewiesen, dass Menschen Internetseiten durchforsten, katalogisieren und Rankings erstellen! Das Internet wäre ein wirrer Haufen aus unauffindbaren Informationen. Computerprogramme können darüber hinaus Berge von Daten durchwühlen und auf Muster und Zusammenhänge untersuchen, vor denen ein Mensch kapitulieren müsste.

Informationsverarbeitung ist aber mehr als das Wühlen in digitalen Datenbergen. Informationsverarbeitung ermöglicht uns nämlich auch, auf Sinnesdaten und damit unsere Umwelt zu reagieren. In Kombination mit geeigneten Sensoren ermöglicht man damit Maschinen, die Umwelt zu beobachten, zu katalogisieren und gegebenenfalls auf sie zu reagieren. Dadurch wird eine automatisierte Informationssammlung oft erst sinnvoll, da ohne Vorauswahl oder Voranalyse die gesammelten Daten einen für eine akzeptable Suche zu großen Umfang annehmen könnten. Auf die Umgebung reagieren zu können ermöglicht wiederum eine größere Einflussnahme auf die Umgebung – viele Industrieroboter könnten ihre Aufgabe nicht erfüllen, wenn sie nicht durch Sensoren und Informationsverarbeitung ihre Aufgabe an die Umgebung anpassen könnten.

Dank IT haben wir also schnelleren Zugriff auf mehr und – richtig eingesetzt – auch bessere Informationen. Gleichzeitig haben wir auch Zugriff auf mehr frei verfügbare Zeit, da Aufgaben, die früher von Menschen ausgeführt werden mussten, nun von Maschinen ausgeführt werden können. Außerdem ermöglichen uns intelligentere Maschinen Arbeitsprozesse, die ohne sie überhaupt nicht realisierbar gewesen wären. Mehr Informationen, bessere Informationen, wirkungsvollere Hilfsmittel, mehr Zeit für andere Ideen und Projekte – die IT ist ein machtvolles Werkzeug. Entsprechend überlegt sollte sie aber auch eingesetzt werden, mit einem Blick sowohl für die Chancen als auch für die Risiken. Auf beide einen Blick zu werfen wird der Inhalt des nächsten Blogeintrags sein.

Weiterführende Links:

• Teil 2 des Blogbeitrages