Ein IT-Profi fragt sich: Was habe ich getan?

Michael Mörike blickt zurück und voraus und fragt sich, ob wirklich gewollt ist, was da entsteht.

von Michael Mörike

Seit Mitte des vorigen Jahrhunderts arbeiten Wissenschaftler und Ingenieure daran, das menschliche Hirn durch Computer zu unterstützen. Zunächst wurden die Computer dafür gebaut, immer schneller zu rechnen und zu ordnen. Dann wurden sie befähigt, Unmengen Information zu speichern und auf Knopfdruck schnell wieder darzustellen. Sie wurden vernetzt, um sich bei Bedarf gegenseitig zu unterstützen, durch gemeinsames Rechnen oder Suchen und Informationsaustausch.

Wir alle haben daran mehr oder minder mitgewirkt: Als Wissenschaftler haben wir das Knowhow für die grundlegende Technik geschaffen. Als Architekten haben wir neue Anwendungen konzipiert und deren Leistung erhöht. Als Programmierer haben wir brauchbare Anwendungen erstellt und Akzeptanz geschaffen. Als Nutzer schätzen wir die Leistungen der Computer und haben sie fest eingeplant.

Ich auch.

Ich habe an der Vernetzung von Computern gearbeitet: Erst habe ich einzelne Rechner gekoppelt (1970), dann Client-Server-Systeme gebaut (1979) und später an BTX-2 (1988), dem Vorläufer vom Internet in Deutschland mitgearbeitet. Nebenher habe ich in der Lehre, durch Schulung und Training den Einsatz der Technik gefördert. Ab 1997 habe ich für geordneten Betrieb von Computern durch Einsatz von ITIL gesorgt und dazu benötigte große und kleine Anwendungen entworfen. Ab 2002 habe ich in Großprojekten für sicheren und stabilen Einsatz von Computern gesorgt. Auch wenn ich selbst keine neuronalen Netze gebaut habe, habe ich sie doch unterrichtet. Ich habe Studenten beigebracht, wie man neuronale Netze lernfähig macht und ihnen „Wissen“ beibringt. Bisher waren die Computer als Rechen- und Wissensverstärker Hilfe für das menschliche Hirn. Mit Hilfe der neuronalen Netze und der darauf basierenden künstlichen Intelligenz (KI) bieten sie nun auch an, Entscheidungsverstärker zu sein: Sie können dazu beitragen, auch ohne unser Zutun schneller gute Entscheidungen zu treffen.

In Forschungslabors stehen erste Rechner, die nicht nur lernen, sondern auch sich selbst oder ihre Kollegen reparieren und korrigieren können. In Wettbewerben treten sie gegen einander an. Dabei hat sich gezeigt, dass sie auch bis dahin unbekannte Fehler finden. Die Wirtschaft fordert Computer, die keine Schwachstellen aufweisen, bei denen man z.B. keine Sorge mehr vor einer Zero-Day-Lücke haben muss. Was sollte die Wirtschaft hindern, sich selbst reparierende Computer einzusetzen? Was sollte sie hindern, Computer einzusetzen, die immer besser werden, weil sie sich selbst verbessern?

Was wird, wenn solche Computer sich nicht nur selbst reparieren, sondern in kleinen Schritten auch weiterentwickeln können? Wohin führt diese technische Entwicklung? Könnte es sein, dass Computer sich irgendwann gegen Menschen richten? Könnten wir eine solche Entwicklung dann noch stoppen? Zum Glück sind wir noch nicht so weit! Wieviel Zeit haben wir noch, bis es so weit kommt? Wir wissen es nicht. Viele Wissenschaftler befürchten, es könnte schneller gehen, als wir uns wünschen. Was aber sicher ist: Wir haben alle – mehr oder weniger unbeabsichtigt – daran mitgewirkt. Tragen wir eine Mitschuld, wenn es schief geht? Auf jeden Fall haben wir eine moralische Verpflichtung nachzudenken, was wir tun wollen oder können, um unerwünschte Entwicklungen zu verhindern.