Von Michael Mörike

Wenn wir Roboter mit KI bauen, bringen wir ihnen nützliches Handeln bei: wir lehren sie, richtig zu handeln. In manchen Situationen kann nützlich dann auch „ethisch richtig“ bedeuten. Als Thema ist es nun in der Ingenieurwissenschaft angekommen – speziell in der KI. Sie macht die Erfahrung, dass es nicht immer einfach ist zu sagen, was eigentlich ethisch richtig ist und zieht Philosophen dazu.

Ethisch richtig ist Handeln, wenn es nicht nur wenigen nützt und anderen schadet, sondern die Rechte aller Betroffenen achtet und möglichst vielen Menschen nützt oder wenigstens nicht schadet. Wenn es dabei auch die Lebensqualität der Menschen steigert, nennen wir es humane Nutzung der IT – hier der KI. Was ethisch richtig ist, bestimmt der Mensch. Eine Maschine kann dies nicht.

Was dem Menschen nützt, was ethisch richtig ist und die Lebensqualität steigert, hat sich zusammen mit den Werten, die hinter ethischem Handeln stehen, evolutionär entwickelt. Eine solche Evolution fehlt den Robotern – heute und noch lange Zeit. Wenn wir Ingenieure daher heute den Robotern ethisches Handeln beibringen, sollten wir immer darauf achten, dass sie stets den Menschen gehorchen und auf keinen Fall anfangen, ein Eigenleben zu entwickeln: Die Roboter sollten unsere Sklaven sein und sich immer unseren Regeln beugen. Es darf nie so weit kommen, dass die Roboter anfangen, uns ihr eigenes ethisches Handeln aufzuzwingen!

Von Michael Mörike

Seit rund 30 Jahren gibt es Mobiltelefone – wenn man von den ganz alten Entwicklungen für das analoge A-, B- oder C-Netz mal absieht. Sie haben sich in letzter Zeit zu Smartphones weiterentwickelt, die wie kleine Computer in unserer Hand arbeiten (Palmtop). Sie bieten neben dem traditionellen Telefonieren viele andere Formen der Kommunikation über das Internet und eine unübersehbare Vielzahl von Programmen (heute App genannt), die fast alle immer auch das Internet nutzen. Aktuell bieten Apple, Google, Amazon und Samsung per App einen Zugriff auf persönliche digitale Assistenten an, die ihre Intelligenz aus der Hersteller-Cloud schöpfen. Bemerkenswerter Weise tragen sie alle weibliche Vornamen (Siri, Alexa, Bixby, …), weshalb ich sie hier im Blog als digitale Assistentinnen bezeichne. Die Hersteller sammeln mit ihrer Hilfe unsere Daten und erhoffen sich davon wirtschaftliche Vorteile (Datenkrake).

Wenn wir das so nicht wollen, brauchen wir langfristig intelligente Assistentinnen, die ihre Intelligenz aus unserem „Smartphone“ selbst schöpfen und unsere Daten lokal speichern. Auch wenn dies mit der aktuellen Technik heute noch nicht möglich ist, so erscheint es doch mindestens ein wünschenswertes Ziel zu sein. Sie können unsere (lokal gespeicherten) Daten mit Daten aus dem Netz anreichern und geben ins Netz bestenfalls anonymisierte Daten ab, die dort zu Statistiken zusammengefasst werden.

Eine solche persönliche Assistentin würde KI nutzen. Sie würde ein Basistraining vom Hersteller mitbringen (=Grundausbildung) und wir müssten sie auf unsere persönlichen Wünsche trainieren (Eingewöhnung). Eventuell könnten wir ihr für spezielle Kenntnisse auch eine kostenpflichtige Erweiterung ihres Wissens (Fortbildung) zukommen lassen (z.B. Kenntnis aller Blumen und Pflanzen weltweit). Sie würde mit uns akustisch oder optisch oder haptisch (Vibrieren) kommunizieren, ja nachdem, was wir von ihr verlangen. Sie würde ihre Arbeit abhängig von unserem Stundenplan durchführen. Sie könnte uns alle uns interessierenden Nachrichten aus dem Netz vorlegen (und dabei Werbung ausblenden). Sie würde Nachrichten nur geprüft vorlegen und keine FakeNews. Kurz: Sie würde dafür sorgen, dass wir uns auf das konzentrieren können, was wir wollen.

Das wäre doch wahrlich humane Nutzung der KI!

Was fehlt, warum gibt es das noch nicht? Alle Teile sind erforscht, im Labor vorhanden und müssen „nur“ noch zusammengefügt werden. Allerdings müssen einige davon auch noch miniaturisert werden (z.B. NN für deep learning), so dass sie in ein Palmtop passen. Vor allem fehlt aber noch ein Geschäftsmodell. Sicher: Wenn es in Massen hergestellt und verkauft werden kann, kann der Preis dafür erträglich sein. Aber bis dahin haben Apple, Google und Co kein Interesse daran, schließlich bekommen sie dann unsere Daten nicht mehr.

Von Michael Mörike

Die Integrata-Stiftung wirbt dafür, die Informationstechnologie nicht nur zur Funktionalisierung der Lebens- und Arbeitsprozesse zu nutzen, sondern direkt zur Verbesserung der Lebensqualität möglichst vieler Menschen in allen Regionen der Welt. Informationstechnologie ist in diesem Sinne „sozial“ orientiert und erst in zweiter Linie technisch. Sie wird ganz bewusst als Werkzeug gesehen, mit dessen Hilfe es gelingen soll, die Welt im Großen und im Kleinen menschenwürdiger, also humaner zu gestalten.

Was meinen wir mit Informationstechnologie? Darunter verstehen wir einerseits die Informationstechnik, die heute in mehr und mehr Lebensbereiche vordringt, als auch andererseits alle organisatorischen Maßnahmen und volkswirtschaftlichen Phänomenen, die damit zusammenhängen.  Letzteres wird heute oft als Digitalisierung bezeichnet, obwohl die Phänomene bei analoger Informationstechnik vermutlich auch nicht viel anders wären. Eine Gesellschaft, die von Informationstechnologie durchdrungen ist, die – neuhochdeutsch – also digitalisiert ist, bezeichnen wir als eSociety.

Ein schnell wachsendes Teilgebiet der IT ist die KI, die künstliche Intelligenz (englisch artificial intelligence, AI). Sie kombiniert Wissen um Fakten und Wissen um Abläufe zu Können, das den Maschinen durch Lernen beigebracht wird. Die Programme in solchen Maschinen arbeiten in vier wesentlichen Bereichen: Die programmgesteuerten Sensoren liefern die Daten. Die programmgesteuerten Aktoren werden von der Entscheidungszentrale angewiesen, was sie tun sollen. Die programmgesteuerte Entscheidungszentrale handelt aufgrund des gelernten Stoffs (gespeichert meist in undurchschaubaren Tabellen), der mithilfe von programmgesteuerten Methoden antrainiert wurde.

Was verstehen wir unter human? Darunter verstehen wir Werte, die uns Menschen das Leben erleichtern und lebenswert erscheinen lassen. Dies hat viel mit unseren Emotionen zu tun, die sich in der menschlichen Evolution entwickelt haben. Das Menschenbild der Integrata-Stiftung orientiert sich also am evolutionären Humanismus. Da die Evolution nicht beendet ist, sondern sich auf kulturellem Gebiet immer schneller fortsetzt, fordert die Integrata-Stiftung, diese Werte in jeder Generation im Diskurs immer wieder gemeinsam neu zu bestimmen. Wir nennen das dann demokratischen Humanismus.

Was wollen wir damit erreichen? Wir wollen, dass die Maschinen auch künftig nicht über uns bestimmen. Zwar haben wir schon jetzt oft den Eindruck, die Maschinen beherrschen uns, wenn wir uns Spielsüchtige ansehen oder wir uns dem Termindruck unterwerfen, den unser elektronischer Terminkalender vorgibt. Noch aber können wir uns davon freimachen, wenn wir nur wollen. Ob das so bleiben wird, ist derzeit nicht sicher vorauszusagen. Wir von der Integrata-Stiftung jedenfalls wollen dafür sorgen, dass die Maschinen immer unsere Sklaven bleiben und nicht wir zu den Sklaven der Maschinen werden.

Weiterführende Links:

• Stiftungsideen der Integrata-Stiftung
• Projekte der Integrata-Stiftung

Von Michael Mörike

Im Artikel erklärt Schachmeister und KI-Experte David Levy, warum Roboter für manche Menschen gute Lebenspartner sein könnten. Er erinnert an rapide sich ändernde Moralvorstellungen in den letzten Jahre: Vor 70 Jahre wurde in den USA das Verbot von „Mischehen“ abgeschafft. Gleichgeschlechtliche Ehen sind seit 2000 in immer mehr Ländern legal. In diesem „Klima der gestiegenen Akzeptanz“ hält Levy auch Ehen zwischen Menschen und Robotern in naher Zukunft für möglich.

Wir meinen, da gibt es derzeit – und aus unserer Sicht noch sehr lange weiterhin – ein gravierendes Hindernis: Ein Ehe ist nicht nur die Anerkennung der Sexualität der betroffenen Menschen. Da mag es sein, dass die Menschen mehr und mehr ihre Sexualität mit Robotern ausleben. Sei‘s drum. Eine Ehe ist aber in allen Kulturen vor allem auch ein Vertrag im Sinne einer lebenslänglichen gegenseitigen Versorgungsvereinbarung. Werden in manchen Kulturen auch Frauen gegen ihren Willen verheiratet, so ist das unsere Wertvorstellung nicht! Gemessen an westlichen Werten setzt eine Heirat einen eigenen selbständigen Willen auf beiden Seiten voraus.

Gibt es einen eigenen selbständigen Willen bei Robotern? Vielleicht mag es ihn in ferner Zukunft mal geben. Dann stellt sich die Frage neu. Wir meinen aber – bei allem Fortschritt der KI – Roboter werden noch lange keinen eigenen freien Willen haben.

Und wenn es nach uns geht, werden Roboter sogar nie einen eigenen freien Willen erhalten. Wir treten als Integrata-Stiftung für humane Nutzung der Informationstechnologie dafür ein, dass die IT und also auch die KI immer Werkzeug bleibt, das dem Menschen hilft, seine Lebensqualität zu steigern. Die IT und also auch die KI sollen immer dem Menschen gehorchen, ihm also untertan bleiben. In diesem Sinne kann ein Mensch einen Roboter kaufen (wie in früheren Zeiten einen Sklaven), der ihm in allen Lebenslagen hilft, ihn – wegen mir – berät, ihm Arbeit abnimmt, ihn versorgt – aber eben immer nur auf Befehl des Menschen hin – und niemals aus eigenem freien Willen.

Weiterführende Links:

• Zum Artikel auf Heise.de

Von Michael Mörike

„Ich habe nur gezeigt, dass es die Bombe gibt“ titelt heute das renommierte Schweizer Blatt „DAS MAGAZIN„. Und führt weiter aus: „Der Psychologe Michal Kosinski hat eine Methode entwickelt, um Menschen anhand ihres Verhaltens auf Facebook minutiös zu analysieren. Und verhalf so Donald Trump mit zum Sieg.“

Im Artikel von Mikael Krogerus und Hannes Grassegger vom 3. Dezember 2016 wird ausführlich beschrieben, wie man aus den Daten von Facebook psychologische Profile der Menschen erstellen und sie gezielt nutzen kann. Für das Wahlkampfteam vom Trump wurden demnach von allen in USA wahlberechtigten und auf Facebook vertretenen Bürgern gescannt. Dabei wurden die Menschen gemäß den „Big Five“-Dimensionen der Psychologie anhand der vorliegenden Likes, Shares und Posts psychometrisch vermessen und im Ocean-Modell lokalisiert.  Hat man dies, kann man auch deren politische Vorlieben mit hoher Treffsicherheit vorhersagen. Den Profilen wurden nicht nur die realen Namen, sondern auch die Adressen und Email-Konten zugeordnet. So konnte das Wahlkampfteam gezielte Wahlwerbung einsetzen und hat dies – so die Behauptung im Artikel – auch getan. DAs konkurrierende Wahlkampfteam von Hillary Clinton hat dagegen (noch) die alte Methode der Wahlwerbung benutzt, also ohne individuell zugeschnittene persönliche Informationen.

Wie viele von den umworbenen haben das gemerkt? Wie viele haben sich durch die geschickt platzierten Informationen lenken lassen? Wie sehr wurde die Wahl dadurch beeinflusst? Auch wenn man sich einen anderen Ausgang der Wahl gewünscht hätte – ist das verboten? Kann man das verbieten? Wollen wir das verbieten? In der klassischen Werbung, z.B. beim verkauf an der Haustür, wird auch das persönliche Profil der Bewohner ausgenutzt. Das ist unschön – aber verbieten? Nach einem Haustürverkauf hat man 14 Tage lang das Recht, vom Kauf wieder zurückzutreten. Sollen wir den Bürgern das Recht einräumen, noch 14 Tage nach der Wahl, ihre Meinung, also ihre Abstimmung zu ändern? Wäre den Versuch wert.

Werden es demnächst alle Wahlkampfteams so machen? Werden wir dagegen abstumpfen? Werden wir lernen, uns dagegen zu wehren – gegen falsche oder einseitige Informationen? Werden wir persönliche Assistenten haben (nach dem Vorbild Siri von Apple oder … von MS), die uns individuell (wie ein Firewall) vor falscher Information schützen? Technisch machbar wäre es wohl schon heute oder spätestens demnächst – nur gibt es kein kommerzielles Interesse daran.

Noch sind wir davon überzeugt, dass es bessere Werkzeug dagegen gibt: Bildung und Zweifel (methodischer Zweifel nach Descartes). Wie lange werden sie uns noch helfen können?

Die Integrata-Stiftung wirbt dafür, die IT (also auch BigData) nur als Werkzeug anzusehen und darauf zu achten, dass sie uns nicht beherrscht, sondern wir sie beherrschen. Ich meine, es sei höchste Zeit, sich intensiv damit zu befassen.

Von Michael Mörike

Ein Trend ist die Richtung, in die sich etwas wie von selbst entwickelt. Weniger abstrakt betrachtet, entspricht ein Trend der Richtung, in die der Ball sozusagen von selbst den Hang hinab rollt.

In diesem Sinne wird ein Trend nicht von einem oder wenigen Playern (Modemachern, großen marktbeherrschenden Firmen) am Markt erzwungen. Ein Trend stellt sich auch nicht aufgrund saisonaler oder konjunktureller Schwankungen ein. Ein Trend ist vielmehr eine Richtung, die sich durch den Fortschritt der Technik und den Druck der Nachfrage am Markt wie von selbst ergibt.

Jedenfalls wollen wir unter Trend nicht Modethemen verstehen, die nur kurz, für einige Monate oder wenige Jahre in Mode sind, ohne tiefere Spuren in der Geschichte der Informationstechnologie zu hinterlassen. Jeder Trend hinterlässt dagegen langfristig wirksame Strukturveränderungen.

Woher wissen wir, welche Entwicklung ein Trend ist?

Genau und mit letzter Bestimmtheit können wir das nicht angeben. Durch langjährige Beobachtung und Teilnahme am Markt glauben wir aber ein Gespür dafür bekommen zu haben. Dabei geben wir gerne zu, dass wir vielleicht den einen Trend etwas überbewerten und dafür einen anderen etwas zu nachlässig behandeln.

Damit wird auch die Auswahl der wichtigsten Trends, die hier beschrieben werden sollen, im einen oder anderen Fall etwas zweifelhaft sein. Wir hoffen dies durch umfassende Schilderung der Grundlagen der jeweiligen Trends etwas ausgleichen zu können und den Leser in die Lage zu versetzen, sich selbst eine Einschätzung zu erarbeiten.

Selbstverständlich stehen einzelne Trends nicht ganz isoliert da. Moderne technische Entwicklungen greifen immer mehrere Trends auf oder müssen mehreren Trends gerecht werden, wenn sie sich durchsetzen wollen.

Der erste Blogeintrag zu diesem Thema betrachtete die Gründe und Mechanismen für die große Bedeutung, die die Informations- und Kommunikationstechnologie hat. Hier soll es darum gehen, welche Chancen und Risiken sich prinzipiell hinter den einzelnen Mechanismen verbergen.

Verbesserte Verfügbarkeit von Wissen

Verbesserte Verfügbarkeit von Wissen bedeutet zum einen, dass man schneller und effizienter an Informationen gelangen kann – der Einzelne kann mehr wissen, da ihm mehr Zeit zum Aufnehmen der schneller gefundenen Informationen bleibt, und kann es sich leisten, Themenbereiche und Spezialfälle zu betrachten, bei denen der Aufwand für die Suche früher den Wert der Information deutlich überstiegen hätte. Das bringt eine enorme Vereinfachung für jene mit sich, deren Arbeitsgebiet das Wissen an sich ist – gut durchsuchbare Datenbanken sowie schnellere und einfachere Kommunikation durch die IKT haben z.B. den Alltag vieler Wissenschaftler deutlich erleichtert und dadurch zu schnellerem wissenschaftlichem Fortschritt beigetragen. Der Begründer des WWW arbeitete nicht zufällig für eine Forschungsorganisation (das CERN) – das Ziel des WWW war ursprünglich ein universeller Standard, über den Wissenschaftler sich austauschen können sollten. Aber auch im Alltag des einfachen Bürgers stehen für Entscheidungen mehr Informationen schneller zur Verfügung – ich kann besser entscheiden, welches die für meine Zwecke beste Kamera ist und welches Buch besonders gute Informationen zu einem Thema liefert. Eine weitere Art von Wissen, die schneller verfügbar ist, sind Gedanken oder Informationen, die von einem Menschen zum anderen weitergegeben werden müssen – die Weitergabe erfolgt teilweise um ein Vielfaches schneller, was zu einem „globalen Dorf“ führen kann.

Der potentielle Nachteil ist, dass Informationen auch flüchtiger werden – sie können leichter zu jemandem gelangen, zu dem sie nicht gelangen sollen. Die Bedrohung unserer Privatsphäre durch das Sammeln und Auswerten online verfügbarer (und freiwillig hinterlassener!) Daten ist sattsam bekannt, aber nicht das einzige Problem. Diebstahl und illegitime Verbreitung sensibler Daten – Bank- und Gesundheitsdaten über den einzelnen Bürger, vertrauliche Informationen aus Firmen und Verwaltungen – wird um ein Vielfaches leichter, wenn Daten über Computer anstatt über Akten zugänglich sind und daher einfacher und schneller kopiert werden können. Daten auf einem ans Internet angeschlossenen Rechner können von fast jedem Ort der Erde aus gestohlen werden. Auch der Computer, auf dem sich die Daten befinden, ist wesentlich leichter zu stehlen aus ein Aktenschrank: Im Zeitraum von Anfang 2005 bis Anfang 2008 sind laut Bundesinnenministerium aus deutschen Behörden etwa 500 Rechner verschwunden – alle zwei Tage ein Rechner, auf dem sich sensible Daten befinden können. Denn sensible Daten werden bei weitem nicht immer streng bewacht: 1990 wurde laut „Spiegel“ einem britischen Luftwaffenoffizier sogar ein Laptop mit dem kompletten Invasionsplan für das damals vom Irak besetzte Kuwait gestohlen – aus seinem Auto.

Informationsverarbeitung

Wenn Computer in der Lage sind, Informationen zu erfassen, zu analysieren und auf sie zu reagieren, sind sie in der Lage Aufgaben auszuführen und Funktionen zu übernehmen, die früher Menschen vorbehalten waren. Teilweise werden solche Aufgaben dadurch erst durchführbar – wie beispielsweise beim sogenannten Data Mining, bei dem teilweise riesige Datenberge automatisiert nach Mustern durchsucht werden, was eine nicht zu finanzierende Menge an menschlicher Arbeitszeit benötigen würde. In Kombination mit Input durch Sensoren kann Software Roboter steuern, die den Menschen weiter von Routinearbeit entlasten und ihm somit mehr Zeit für Muße, Kreativität und den Umgang mit anderen Menschen kann. Und diese Fähigkeit, eigenständig auf die Umgebung zu reagieren, ermöglicht technische Anwendungen, die das Leben körperlich eingeschränkter Menschen deutlich erleichtern und in nicht allzu ferner Zukunft auch körperliche Behinderungen wettmachen können. Bereits vorhandene Beispiele sind die technisch machbare Steuerung eines elektrischen Rollstuhls durch nichtintrusive Mimikanalyse oder der Sprachcomputer, mit dem sich praktisch vollständig gelähmte Menschen wie z.B. der Astrophysiker Stephen Hawking sich verständlich machen können.

Die Kehrseite der Informationsverarbeitung ist, dass sie eben auch genutzt werden kann, um zu viele Informationen zu erlangen: Das Analysieren leicht zugänglicher Daten mag nicht ganz so wirksam sein wie Spionage, ist aber oft wirksam genug und unter Umständen deutlich weniger aufwändig. Aus dem Surfverhalten eines Benutzers lässt sich viel über seine Interessen, Ansichten und auch Schwächen erfahren, ohne dass man ihn physisch beobachten muss. Überwachungskameras können nicht nur bei der Aufklärung von Verbrechen behilflich sein, mit einer leistungsfähigen Gesichtserkennungssoftware lassen sich die Aufenthaltsorte tausender Personen ausfindig machen und Bewegungsprofile erstellen, Verhaltenserkennung. Durch hinreichend gute Informationsverarbeitung kann ein Computer mit einer Überwachungskamera Auge und Ohr eines Menschen vollständig ersetzen – ohne Ermüdungserscheinungen oder Unaufmerksamkeit. Mit der wachsende Anzahl an Überwachungskameras (in Großbritannien sind es Schätzungen zufolge deutlich mehr als 4 Millionen), kombiniert mit Software zur Gesichtserkennung, Spracherkennung und -auswertung und zur Verhaltensanalyse ließe sich ein Überwachungsstaat bauen, der Orwells Dystopie an Effizienz mühelos übertrifft.

Selbst die Möglichkeit, menschliche Arbeitskraft bei zunehmend komplexen Fertigungsprozessen durch Roboter zu ersetzen, ist zweischneidig: Einerseits ermöglicht es den Menschen prinzipiell, mehr Zeit für Selbstentfaltung, soziale Kontakte und soziales Engagement aufzubringen, andererseits sinkt dadurch der Bedarf an Arbeitskräften für die Produktion von Gütern – problematisch in einer Gesellschaft, in der Wohlstand und Wohlbefinden eng mit Erwerbsarbeit verknüpft sind. Ein Fortschreiten dieses Prozesses wird unsere Gesellschaft vor größere Herausforderungen stellen, als es ohnehin schon der Fall ist.

Weiterführende Links:

• Teil 1 des Blogbeitrages

Der Arbeitskreis Informations- und Kommunikationstecnologie des IG Metall Bezirks Baden-Württemberg hat in Zusammenarbeit mit dem Forum Soziale Technikgestaltung des DGB ein Thesenpapier zu den Anforderungen an die Arbeitsbedingungen in dieser Branche verfasst.

Dabei geht es schwerpunktmäßig um die Themenbereiche betriebliche Mitbestimmung, Arbeits- und Gesundheitsschutz, Klimaschutz, Soziale Technikgestaltung und um den Schutz der Netznutzerinnen und Nutzer.

Memorandum herunterladen von www.sapler.igm.de