Weihnachtsgeschenke: Merry Christmas mit Alexa?

Was Sie beachten sollten, wenn Sie digitale Assistenten wie Alexa oder Siri zu Weihnachten verschenken wollen. Ein kleiner Ratgeber zum Fest.

von Georg Ludwig Verhoeven

In dem Film „A Christmas Story“ (deutsch: Fröhliche Weihnachten“) von 1983 wünscht sich der kleine Ralphie ein Luftgewehr zu Weihnachten. Der Wunsch wird von Eltern, Lehrerin und der gesamten Erwachsenen-Umgebung mit der Killerphrase „You’ll shoot your eye out, kid!“ niedergeschmettert. Dank des Vaters liegt das Gewehr dann doch unter dem Weihnachtsbaum, und Ralphie kann kaum erwarten, es auszuprobieren. Er schießt sich zwar kein Auge aus, stolpert aber durch den Rückstoß so unglücklich, dass ihm die Brille von der Nase fällt und er sie zertritt. Irgendwie ist also die böse Prophezeihung doch in Erfüllung gegangen, wenn auch anders und harmloser als erwartet.

Auf vielen Wunschzetteln dürfte dieses Jahr Amazons digitaler Assistent „Alexa“ bzw. „Echo“, das zugehörige Sprachein- und -ausgabesystem, stehen – vielleicht auch vergleichbare Produkte von Google, (OK, Home), Apple (Siri) oder Microsoft (Cortana). Alexa erlaubt es, die Lieblingsmusik zu spielen, ein Taxi zu rufen, Produkte zu bestellen (bei Amazon), sich an Termine erinnern zu lassen und inzwischen können über Alexa auch kompatible Produkte gesteuert werden – Steckdosen, Lichtschalter, Garagentor, Staubsauger. Es werden täglich mehr. Und eigentlich ist das doch ganz nützlich – oder?

Alexa hört immer mit

Bevor man auf den „Jetzt kaufen“ – Button drückt, sind ein paar Überlegungen sinnvoll: Zum einen muss man sich klarmachen, dass Alexa im Prinzip immer mithört und das Gehörte auswertet. Wenn es ein einfacher Befehl ist wie „Licht an“ oder „spiele die Weihnachts-CD von Bing Crosby ab“, dann ist das harmlos. Wenn es aber eine Bestellung über teure Produkte ist, dann wird es schon problematischer. Und was Sie abends mit Ihrem Partner besprechen, soll sicher ihr Geheimnis bleiben. Theoretisch wird Alexa über Codeworte ein- und ausgeschaltet, und das funktioniert auch. Aber wer hat nicht schon einmal den Herd angelassen, den Schlüssel von innen in der Tür steckenlassen – oder saß plötzlich vor einem Programm, das sich nicht mehr stoppen ließ?

Vor allem die heute junge Generation geht sehr selbstverständlich und bewusst mit den modernen Technologien um, oft aber auch unbekümmert. Man sehe sich nur die Fotos und Texte an, die täglich in sozialen Netzwerken wie Facebook und Co. öffentlich gepostet werden. Dieses Verhalten spielt einem System wie Alexa in die Karten. Wenn Alexa alles mithört, was im Hause vor sich geht, kann sich Amazon daraus zusammenreimen, bei welchen Produkten es sich lohnt, passende Produktinformationen zu platzieren. Aber wo ein IT-System ist, wird es früher oder später auch gehackt – und dann weiß der Bösewicht, wer wann wohin unterwegs ist, wann die Zeit zum Einbruch am günstigsten ist und wie die im Haus Wohnenden am besten zu erpressen sind.

Datenschutzbestimmungen und Nutzungsbedingungen lesen

Wer sich also überlegt, Alexa / Echo oder ein Konkurrenzprodukt auf den Gabentisch zu legen, sollte sich darüber im Klaren sein, was damit alles schon heute möglich ist und in naher Zukunft möglich sein wird. In jedem Fall sollte man bei der Geschenkauswahl auch kritische Stimmen zu Wort kommen lassen, zum Beispiel die Verbraucherschutzzentralen. Es lohnt sich, die umfangreichen Nutzungsbedingungen und Datenschutzbestimmungen zu lesen und zu verstehen. Man wird feststellen, dass sich die Anbieter hier sehr weitgehende Rechte an allem Gehörten einräumen lassen und Verantwortung ablehnen, soweit das eben möglich ist. Die gesammelten Daten liegen auf Amazon-Servern und damit häufig außerhalb Deutschlands, sodass die Durchsetzung deutschen Datenschutzes schwierig oder ganz unmöglich ist, und last but not least behalten sich die Anbieter auch vor, den Service zu ändern oder einzustellen.

Der Weihnachtsmann wusste früher vieles über uns, weil es in seinem „Goldenen Buch“ stand – wie war es da nur hineingekommen? Bei Alexa und Co. wissen wir es bzw. sollten es wissen.

Veröffentlicht in Blog

Warum wir ein Gütesiegel für humane IT benötigen

Ein Plädoyer.

von Egon Scherer

Die IT ist ein Musterkind des dualistischen Denkens Platons und ist in fast alle relevanten Lebensbereiche des Menschen „eingezogen“. Verbunden damit haben sich einerseits unsere Optionen des Konsums, der Lebensstile deutlich erhöht, für viele Menschen hat sich auch der Lebensstandard deutlich verbessert.

Wir haben unser Leben unter eine Lupe gelegt, sichtbares in immer kleinere Einheiten zerlegt. Diese Einheiten haben wir mittels IT immer effizienter gemacht, aber auch an vielen Stellen den Blick fürs Ganze, die Harmonie und den Sinn zumindest teilweise verloren. Einher damit ging und geht das Erfassen unserer Lebensgewohnheiten unserer Meinungen, eben alles was für die Wirtschaft und Politik von Relevanz ist.

Die Menschenrechte sind offiziell immer noch gültig, werden aber zunehmend durch die praktizierte Art und Weise des IT-Einsatzes immer mehr verletzt. Gerechtfertigt wird dieses tun mit der Notwendigkeit weiteren Wachstums (TINA), dass wir hierbei zunehmend unseren Planeten nachhaltig schädigen, ist offensichtlich. Die Verstärkung dieses logisch rationalen Denkens, zur Generierung von weiterem Wirtschaftswachstum, verletzt quasi beschleunigt die humanitären Aspekte des IT-Einsatzes in Form von Verletzung der Privatsphäre, Generierung von Bedürfnissen die unter humanitären und sozialen Aspekten keinen Fortschritt darstellen.

Logisch rationales Denken in der bisherigen Form führt zu Systemen der künstlichen Intelligenz (KI) die von wenigen Menschen gesteuert werden oder gar den Menschen als Resource nutzen. Ein Gütesiegel für den humanen Einsatz der IT, wie ihn die Integrata Stiftung fordert, ist dringend erforderlich wollen wir nicht die Kontrolle an Wenige oder gar an die Roboter verlieren. Wir benötigen globale oder zumindest lokale Digitalisierungsrechte, deren Basis die Menschenrechte sind! Hierzu bedarf es Menschen, für die Ethik, Solidarität, Empathie, Mitgefühl, Selbstlosigkeit….. Werte sind die das Leben lebenswert machen.

 

Weiterführende Links:

Veröffentlicht in Blog, Uncategorized

Automat und Mensch

Lebensbereich Bildung und Ausbildung

Wie ich mein Interesse an ethischen Fragen entdeckte: Persönliche Erinnerungen zum Hundertsten an Karl Steinbuch, Wegbereiter der Kybernetik in Deutschland.

von Dr. Peter Haubner

„Es ist unwürdig, die Zeit von hervorragenden Leuten mit knechtischen Rechenarbeiten zu verschwenden, weil bei Einsatz einer Maschine auch der Einfältigste die Ergebnisse sicher hinschreiben kann.“
Gottfried Wilhelm Leibniz.

Im Wintersemester 1961 / 62 begann ich an der damaligen „Technischen Hochschule Karlsruhe“, dem heutigen „Karlsruher Institut für Technologie (KIT)“, das Studium der Elektotechnik. Als Studienrichtung hatte ich Lichttechnik gewählt, da es hierbei um die Erforschung und menschengerechte, technische Anwendung einer physikalischen Erscheinung geht. Diese Interaktion von Mensch und Technik, später bekannt als „Usability Engineering“, interessierte mich damals schon mehr als die reine Physik.

Das alles war mehr als zwei Jahrtausende nach dem ersten Erscheinen des Abakus im asiatischen Raum, dem wohl ältesten „Rechenwerkzeug“ des Menschen. Gut 300 Jahre nach der Entdeckung des binären Zahlensystems durch Leibniz, inspiriert durch die wohl älteste Schrift der Menschheit, das „I Ging“, das altchinesische Buch der Wandlungen (Yin=0; Yang=1), und einer, auf der Basis der Dualzahlen 0 und 1 von Leibniz konzipierten Rechenmaschine, die zwar nie realisiert wurde, aber für heutige Computer wegweisend ist. Und das war 40 Jahre nach dem Bau der Z3 durch Konrad Zuse, dem ersten vollautomatischen, programmgesteuerten, frei programmierbaren Computer auf Relaisbasis, wobei Zuse frühere Ideen von Leibniz, Babbage und Boole kombinierte.

Wegbereiter der Kybernetik in Deutschland

Zu dieser Reihe von Pionieren der heutigen Digitalisierung der Arbeitswelt und des Privatlebens gehört der 1917 in Stuttgart-Cannstatt geborene, 2005 in Ettlingen gestorbene, studierte Physiker Karl Steinbuch, deutscher Kybernetiker, Informationswissenschaftler und Nachrichtentechniker. Karl Steinbuch wäre heuer, genau am 15. Juni, 100 Jahre alt geworden. Unter Steinbuch´s Leitung entstand zwischen 1955 und 1958 im „Informatikwerk Stuttgart“ der „Standard Elektrik Lorenz AG (SEL AG)“ das „Informatiksystem Quelle“, das auf der ER 56 lief, dem ersten volltransistorisierten Elektronenrechner in Europa und damals weltweit größter Rechner seiner Art, der 29.000 Bestellvorgänge des Versandhauses Quelle-Fürth automatisch bearbeiten konnte. Der Begriff Informatik für die Computerwissenschaft und Computertechnik wurde bereits 1954 ebenfalls von Steinbuch eingeführt.

1958 folgte Steinbuch einem Ruf an die damalige TH Karlsruhe, dem heutigen KIT, als Direktor des neugegründeten „Instituts für Nachrichtentechnik und Nachrichtenverarbeitung“, dem heutigen „Institut für Technik der Informationsverarbeitung“. Dort entwickelte er seine „Lernmatrix“, legte damit den Grundstein für das maschinelle Lernen und für die künstlichen neuronalen Netze und wurde so zum Wegbereiter der Kybernetik in Deutschland – sowie zu einem der Väter der künstlichen Intelligenz.

Mitte der sechziger Jahre des vergangenen Jahrhunderts prägte Steinbuch den bis dato nicht existierenden Begriff der „Informationsgesellschaft“, heute hochaktuell als globale „Informations- und Kommunikations-Gesellschaft (I&K-Gesellschaft mit Notebook, Smartphone, Social Web, Industrie 4.0 und …. )“, mit all ihren Stärken, Schwächen, Problemen und offenen Fragen einer zunehmend vernetzten Menschheit, einschließlich der Spannung zwischen der Freiheit des Individuums und den Zwängen der Gesellschaft. Motoren dieser Entwicklung waren nicht zuletzt die Digitalisierung per se, sowie Computer mit exponentiell wachsender Speicherkapazität – ein Trend, den Karl Steinbuch vorhergesagt hatte, bevor das so genannte „Moor´sche Gesetz“ bekannt wurde.

Ebenso war er in diesem Kontext davon überzeugt, dass man nach dem Jahr 2000, Texte, Bilder und Filme auf tragbaren „Rechnern“ betrachten könne und Telefon und Datentechnik zusammenwachsen würden. Nahezu ubiquitär verfügbare Rechnerleistung und deren Vernetzung haben diese Globalisierung ja erst mit ermöglicht und in rasantem Tempo vorangetrieben – eine evolutionäre Verdichtung der Biosphäre und Noossphäre über die Grenzen der eigenen Nation hinaus, wie sie der Biologe, Philosoph und Theologe Pierre Teilhard de Chardin in den dreissiger, vierziger und fünfziger Jahren des 20. Jahrhunderts vorausgesagt und beschrieben hatte, also bereits zur Zeit der ersten elektronischen Rechenmaschinen (Konrad Zuse 1937, John von Neumann 1942).

Sprachrohr und Autor der neuen Rechten

Doch zurück zum Jahr 1961, dem Beginn meines Studiums und dem Erscheinungsjahr des Buches „Automat und Mensch“ von Karl Steinbuch im Springerverlag. 1961 lernte ich Karl Steinbuch das erstemal als meinen akademischen Lehrer persönlich kennen; damals galt sein Hauptinteresse noch der Kybernetik. Parteilos, sympathisierte er politisch zunächst eher mit der SPD und sollte unter Willi Brand sogar Forschungsminister werden. Wohl unter dem Eindruck der 68er-Bewegung, der sog. „Neuen Linken“, und der unter anderem auch damit verbundenen Hochschulreform, die den Studenten und dem Mittelbau gewisse demokratische Mitspracherechte am Hochschulbetrieb einräumten, wurde er, als Sprachrohr und Autor der „Neuen Rechten“ zunehmend zum nationalistisch eingestellten Technokraten.

Als 1967 frischgebackenes Mitglied des Mittelbaus, war ich damals einer dieser „linken Spinner“, wie er uns nannte, und so teilte und teile ich seine politischen Ansichten nicht. Das gilt auch für sein Credo, dass für alle, auch geistige Phänomene eine rein naturwissenschaftliche Betrachtung ausreichend sei: „Auf keinen Fall scheint es erwiesen, oder auch nur wahrscheinlich zu sein, dass zur Erklärung geistiger Funktionen Vorraussetzungen gemacht werden müssen, welche über die Physik hinausgehen.“ Leisten würde dies eine zukünftige, neue Wissenschaft, die er als „Kybernetische Anthropologie“ bezeichnete und die „menschliches Denken und Verhalten auf die Wirkung informationeller Strukturen zurückführt, neuronale, humorale und gemischt neuronal-humororale Strukturen.“

Die Kybernetik bezeichnet Steinbuch als die „Wissenschaft von den informationellen Strukturen im technischen und außertechnischen Bereich“. Im Hinblick auf die „Objekt / Subjekt-Polarität“, die ihren vorläufigen Höhepunkt im „cogito, ergo sum“ von Descartes hatte, folgert Steinbuch: „Jedes subjektive Ereignis entspricht einer physikalisch beschreibbaren Situation des Organismus …“. Damit ist für ihn auch der (historische) Gegensatz zwischen Geistes- und Naturwissenschaften aufgehoben: „Heute ist die gedankliche Spaltung in Natur- und Geisteswissenschaften weder nützlich noch unvermeidbar“.

Der Wissenschaftler Steinbuch hat sein Werk wahrscheinlich bewusst „Automat und Mensch“ genannt, er war in der Position des Schöpfers, der immer vollkommenere technische Geräte erfinden und bauen will, den „homunculus“, der menschlichen Verhaltens fähig wird, bis hin zur Emergenz eines Bewußtseins durch reflektives Verhalten. Heutige Systeme sind noch weit davon entfernt. Steinbuch hält dies in etwa 200 Jahren für möglich bei entsprechendem Fortschritt der Hirnforschung.

Steinbuch und die autonomen Autos

Und hier kommt mit der praktischen Anwendung von Automaten im menschlichen Alltag unter anderem die Ethik ins Spiel, denn Bewusstsein bedeutet im Fall autonomen Handelns auch Verantwortungsbewusstsein, was wiederum Entscheidungskompetenz erfordert. Dazu muss der Automat, wie zum Beispiel beim autonomen Fahrzeug, auch komplexe Situationen der Außenwelt über eine entsprechende Sensorik „wahrnehmen“, diese Situation bewerten und einordnen können; er muss einen Handlungsplan entwerfen und sensumotorisch eingreifen können oder dem Benutzer die Entscheidung überlassen (?).

Normalfälle sind in der Regel determinstisch und, wie bei einem Schachautomaten, mit Logik behandelbar; sind im Fall des autonomen Fahrens durch die Beschreibung von Verkehrsregeln und Standardsituationen im Rahmen einer Art Fahrschule für den Automaten beherrschbar; dies kann einem lernenden System gegbenenfalls beigebracht werden. Wie soll jedoch im plötzlich auftretendem Störfall entschieden werden – kognitiv oder heuristisch mit der Gefahr von „kognitiven Verzerrungen“? Wie sind Kosten und Nutzen abzuwägen, insbesondere auch nach nicht-monetären Kriterien?

Diese und viele andere Fragen sind bei der Erforschung benutzergerechter Mensch-Maschine-Systeme, einschließlich deren Gestaltung, Bewertung und Einsatz in soziotechnischen Systemen zu beantworten (Usability Engineering). Das Interesse an solchen Fragen verdanke ich den Vorlesungen von Professor Steinbuch, sowie den spannenden Kolloquien, die er zusammen mit dem Philosophen Moser abhielt. Aus dem Interesse wurde mein späterer Beruf in der Forschung im industriellen und universitären Bereich, nämlich die Gestaltung soziotechnischer Systeme (Usability Engineering).

 

Weiterführende Links:

Veröffentlicht in Uncategorized

Künstliche Intelligenz beim THINK – Forum

Unser Blogger Sascha Blättermann hat gestern mit 30 Jugendlichen und jungen Erwachsenen auf dem THINK-Forum der Jugendinitiative der Nachhaltigkeitsstrategie des Landes Baden-Württemberg über Fluch und Segen von künstlicher Intelligenz gesprochen. Die jungen Erwachsenen sprachen in ihren Fragen und Beiträgen insbesondere die Datenschutzproblematiken von Apps und die Nachlässigkeiten auf Seiten der User an. Außerdem stellten sie die Frage nach der Schuld, wenn autonome Autos einen Unfall bauen.

Unterstützt wurde unser Blogger in seinem Workshop von der Technikjournalistin Eva Wolfangel, die gerade von einer großen Recherchereise aus den USA zurückkommt und über neueste Entwicklungen im Silicon Valley berichtet hat. Außerdem sprach Susanne Schwarz von der Sozialstation Esslingen über Pflegeroboter und ihre Einsatzmöglichkeiten in der Pflege.

Weiterführende Links:

Veröffentlicht in Uncategorized

Kongress Ethik und KI: Bilder und Ergebnisse

Große Premiere in Tübingen: Zum ersten Mal richteten die Integrata-Stiftung, die Giordano-Bruno-Stiftung und das Weltethos-Institut der Universität Tübingen den HumanIThesia-Kongress „Ethik und KI“ aus. Um die 70 Teilnehmerinnen und Teilnehmer diskutierten am 28. Oktober einen ganzen Tag lang über die ethischen Herausforderungen im Umgang mit künstlicher Intelligenz.

Wir haben für Sie alle Ergebnisse der Tagung und alle Fotos zusammengetragen:

Die Podiumsdiskussion der Tagung zur Frage, wie ethische Fragen in der Zivilgesellschaft diskutiert werden, können Sie auch noch einmal auf Youtube anschauen.

Veröffentlicht in Blog