Bilderkennung und Diskriminierung ist eines der Themen auf dem Kongress Ethik und KI in Tübingen. Michael Mörike hat sich die Kernfragen des Workshops schon einmal angeschaut.

Von Michael Mörike

Anfang September wurde bekannt, dass es Forschern an der Standford University in der USA gelungen ist, mit Hilfe von Künstlicher Intelligenz alleine aufgrund eines Fotos eines Menschen zu erkennen, welche sexuelle Orientierung dieser hat. Das klappt mit einer erstaunlich hohen Trefferquote von über 90% aufgrund eines einzigen Fotos des Gesichtes. Diese Arbeit war die Arbeit eines Studenten, der keine besonders hohen Finanzmittel zur Verfügung hatte.

Was geht denn da noch? Müssen wir Angst davor haben? Kann nun jeder am heimischen PC solche Erkenntnisse gewinnen?

KI ist im Zusammenspiel mit Bildern schon recht weit gediehen. Das liegt daran, wie KI lernt: Sie wird trainiert anhand von vielen Bildern, auf denen mit Hilfe von deep learning Muster erkannt und Begriffen zugeordnet werden. Dafür bekommt die KI viele Bilder vorgelegt, die von Menschen annotiert sind, die also von Menschen mit Begriffen beschrieben wurden, die zu den darauf sichtbaren Objekten passen. Im Fall der sexuellen Orientierung wurde die KI mit 39.000 Bildern trainiert, die im Internet frei verfügbar waren – Bilder von Menschen, deren sexuelle Orientierung bekannt war.

Und das sind nicht die einzigen Beispiele, in denen Bilder analysiert werden. Bilderkennung funktioniert bereits im Alltag . 10 Beispiele gefällig?

1. Blumen, Pflanzen und Pilze bestimmen wir heute vollautomatisch per Smartphone-App; PlantVillage erkennt per Fotos Krankheiten bei Pflanzen.
2. Fußabdrücke von Tieren im Wald kann man per Smartphone bestimmen.
3. Nahrungsmittel auf dem Teller – dank der vielen Fotos von Mahlzeiten im Netz.
4. Die ebay-Bildersuche erlaubt, im Netz per Foto ein Produkt zu suchen (und zu bestellen).
5. SeeingAI sagt einem Blinden beim Gang durch die Stadt, was er da vor sich hat: einen Bekannten, ein falsch parkendes Auto, eine Apotheke, einen Bäcker, etc…
6. Die „VIP-Kamera“ erkennt Prominente in Ladengeschäfte und macht das Personal darauf aufmerksam, damit sie bevorzugt bedienen können.
7. Die Gesichtserkennung dient als Zugangsberechtigung (für Smartphone oder vertrauliche Daten) oder auch zur Alarmauslösung für die Personensuche an Berliner Plätzen.
8. Schadensmeldungen von Unfällen werden heut teilweise vollautomatisch abgewickelt anhand von Smartphone-Fotos.
9. In der Medizin werden bestimmte Krebsarten (Beispiel Kehlkopfkrebs) von KI anhand von Aufnahmen besser erkannt als von den meisten Ärzten.
10. Per Kinect (einem Modul für die Gestensteuerung von Spielen) kann man Störungen von depressiv Kranken diagnostizieren.

Übrigens: Es gibt noch viel weitere Beispiele – schauen Sie mal bei heise online vorbei.

Immer, wenn dabei Menschen beurteilt werden, kommen ethische Probleme hoch:

• Was, wenn die Erkennung von sexueller Orientierung von Diktaturen ausgenutzt werden, in denen dies verboten oder gar mit der Todesstrafe bestraft wird? Darauf warten wir aktuell.
• Sollen wir wirklich alle an öffentlichen Plätzen überwacht werden, damit einige wenige Verbrecher identifiziert werden können. Schließlich wird abgespeichert, dass wir da waren.
• Wenn Mitarbeiter mit Robotern zusammenarbeiten und dabei Kinect zur Robotersteuerung eingesetzt wird, wie wird dabei verhindert, ob gleichzeitig eine Erkennung von depressiven Störungen im Hintergrund mitläuft?
• Bilder von Unfällen zeigen auch Menschen. Waren sie beteiligt? Wie können wir ihnen tatsächlich verzeihen, wenn die Bilder noch Jahrzehnte lang aufbewahrt werden (müssen).
• Ist es gerechtfertigt, VIP’s in Läden eine Sonderbehandlung zukommen zu lassen –auch wenn diese sie gar nicht wollen?
• Will ein Blinder wirklich alles wissen, was sich da in der Stadt tut?

Es lassen sich ohne große Mühe sehr viele weitere Beispiele ausdenken. Versuchen Sie es einmal selbst! Immer, wenn es im Internet Bilder gibt, die bereits entsprechend beschriftet sind – und davon gibt es bereits viele Milliarden – werden auch einige dabei sein, die Ihr Beispiel ermöglichen. Und dann brauchen Sie noch eine KI-Software. Die gibt es kostenlos bei Facebook oder Google. Dann müssen sie diese nur noch installieren und trainieren. Letzteres nimmt allerdings Zeit in Anspruch. Vielleicht dauert es eine paar Monate, aber damit haben Sie es dann auch geschafft. Aber: Die ethischen Probleme haben Sie damit nicht gelöst, sondern bestenfalls um ein weiteres ergänzt. Wollten Sie das? Zum Trost: Wenn Sie es nicht machen, machen es eben andere.

Diskutieren Sie mit uns die ethischen Fragen rund um das Thema Bilderkennung – auf dem Kongress Ethik und KI am 28. Oktober in Tübingen. Es gibt noch wenige Karten!