Die Gemeindeverwaltungen sind derzeit mit einer Vielzahl von Herausforderungen konfrontiert. Künstliche Intelligenz kann helfen, Pflichtaufgaben effizienter zu erfüllen, zum Beispiel indem Baugenehmigungsverfahren optimiert, das Dokumentenmanagement automatisiert oder Bürgeranfragen teilweise von Chatbots beantwortet werden. Durch die Automatisierung standardisierter Prozesse und die Abgabe zeitaufwändiger Routineaufgaben an KI-Systeme kann in der Verwaltung wieder Raum frei werden für kreatives Denken und Projekte, die für ein gutes Stadt- oder Gemeindeklima wichtig sind, aber oft zu kurz kommen. Dadurch entsteht sowohl für die Bürger*innen als auch für die Verwaltungsmitarbeitenden ein direkter Mehrwert.

Doch der erfolgreiche Einsatz von KI in der Gemeindeverwaltung erfordert mehr als nur den Kauf neuer Software – er braucht eine durchdachte Strategie, die alle Beteiligten mitnimmt.

Die Einführung von KI-Systemen darf jedoch kein Selbstzweck sein, sondern sollte immer der Lösung konkreter Herausforderungen dienen. KI ist kein Allheilmittel – oft reicht es, Prozesse grundlegend zu vereinfachen oder mit bewährten digitalen Tools umzusetzen. Voraussetzung dafür ist jedoch, die bestehenden Abläufe im Detail zu kennen.

Prozesse im Detail zu kennen bedeutet mehr, als nur formale Abläufe zu dokumentieren. Es geht darum, zu verstehen, wo tatsächlich Engpässe entstehen, welche Aufgaben Mitarbeitende belasten und wo Bürger*innen auf Hürden stoßen. Dieses Prozessverständnis entsteht nicht durch theoretische Überlegungen, sondern durch echte Einblicke in den Verwaltungsalltag. Daher lohnt es sich, mit den Mitarbeitenden zu sprechen, die täglich in den Abläufen stehen, und mit den Bürger*innen, die die Dienstleistungen nutzen. Erst wenn klar ist, welche Probleme wirklich gelöst werden müssen, lässt sich entscheiden, ob KI die richtige Antwort ist oder ob andere Maßnahmen sinnvoller sind. Eine erfolgreiche Digitalisierung beginnt deshalb immer mit der Frage: Was brauchen die Menschen, die mit diesen Prozessen arbeiten oder sie nutzen?“ KI kann in nahezu jeder Abteilung Mehrwert bieten – von der Finanzverwaltung, die riesige Buchungsdatenmengen prüft, über die Kommunikationsabteilung, die Pressemitteilungen und Social-Media-Beiträge vorbereitet, bis hin zum Bauhof, der Winterdienst-Routen optimiert. Es geht ausdrücklich nicht um Personalabbau, sondern um spürbare Entlastung: KI-Systeme übernehmen wiederkehrende Routineaufgaben, damit Mitarbeitende Zeit für komplexe, wertschöpfende Tätigkeiten gewinnen. Zentral ist beim Einsatz jedoch, dass die letztliche Verantwortung immer beim Menschen liegt. KI liefert Analysen, Vorschläge und Vorarbeiten, doch Fach- und Führungskräfte treffen die Entscheidungen, steuern die Prozesse und tragen die rechtliche sowie ethische Verantwortung. So wird KI zum echten Instrument, um die Arbeit in der Gemeindeverwaltung zukunftsfähig und mitarbeiterfreundlich zu gestalten.

Die Integration von KI in kommunale Abläufe eröffnet großes Potenzial, Verwaltungsprozesse effizienter, bürgernäher und mitarbeiterfreundlicher zu gestalten. Der Schlüssel zum Erfolg liegt in einer fundierten Bestandsaufnahme, partizipativen Prozessanalysen und einer klaren Strategie, die KI-Projekte von Anfang an in die Gesamt-Digitalisierungsstrategie einbettet. Kommunen sollten daher:

• • eine Prozessinventur durchführen und Engpässe identifizieren
  • Mitarbeitende und Bürger*innen aktiv in die Analyse einbeziehen
  • Teilprojekte mit schnellen Erfolgen (Quick Wins) starten, um Akzeptanz zu schaffen
  • eine KI-Governance etablieren, die Datenschutz, ethische Leitlinien und Verantwortlichkeiten regelt
  • Kooperationen mit anderen Kommunen und Anbietern nutzen, um Ressourcen zu bündeln

Wir laden alle interessierten Gemeinden ein, mit uns ins Gespräch zu kommen: Ob Sie ein Pilotprojekt planen, eine Potenzialanalyse durchführen möchten oder eine individuelle KI-Roadmap brauchen – das Team der Human IT Service GmbH/HIT-Bürgerbeteiligung unterstützt Sie bei jedem Schritt. Kontaktieren Sie uns gerne für ein unverbindliches Beratungsgespräch oder eine gemeinsame Projektplanung. Gemeinsam machen wir Ihre Verwaltung fit für die Zukunft.

Diskutiert mit uns über dieses Thema auf LinkedIn – wir freuen uns auf Eure Perspektiven und Erfahrungen.

Bewerbungsfotos sind nach wie vor ein wichtiger Bestandteil vieler Bewerbungen – sie prägen oft den ersten Eindruck. Doch was passiert, wenn dieser erste Eindruck nicht mehr von einem Fotografen, sondern von einer Künstlichen Intelligenz geschaffen wird?

Immer mehr Menschen nutzen KI-Tools, um ihre Bewerbungsbilder zu generieren. Statt eines Shootings lädt man einige Fotos hoch, wählt Hintergrund, Kleidung und Stil – und erhält ein scheinbar professionelles Porträt. Schnell, günstig, flexibel. Doch lohnt sich das wirklich?

Der Vorteil liegt auf der Hand: Zeit und Kostenersparnis. Professionelle Fotoshootings können teuer sein, während KI-Tools oft kostenlos oder preiswert sind. Aber die Qualität variiert stark – zwischen beeindruckend realistisch und unnatürlich verfremdet.

Und hier beginnt das Dilemma: Wie ehrlich ist ein Bewerbungsfoto, das nicht mehr ganz echt ist?

Ein paar kleine Retuschen sind okay – doch wenn das Ergebnis kaum noch nach einem selbst aussieht, wird es problematisch. Gerade weil Bewerbungsfotos Authentizität transportieren sollen, kann ein überarbeitetes Bild schnell Misstrauen wecken.

Was also überwiegt – der Vorteil oder das Risiko?

• Authentizität zählt: Personalverantwortliche erwarten Ehrlichkeit, auch im Bild.
• Unechtheit birgt Risiko: Wenn man beim Vorstellungsgespräch ganz anders aussieht, wirkt das irritierend.
• Maßvolle Optimierung: Dezent bearbeitete Fotos wirken professionell, überarbeitete dagegen künstlich.

KI-Fotos können also hilfreich sein – solange sie realistisch bleiben. Wer sich stark verändert, sollte lieber auf ein Bild verzichten. Außerdem: Ein echtes Fotoshooting kann das Selbstbild positiv stärken – etwas, das KI kaum ersetzen kann.

Vielleicht wird das Bewerbungsfoto eines Tages überflüssig. In einer inklusiveren Arbeitswelt zählen ohnehin mehr Können, Haltung und Persönlichkeit als der erste visuelle Eindruck.

Mein Fazit: Authentizität gewinnt immer – egal ob beim Lebenslauf oder beim Foto.

Zum Vergleich zeige ich hier zwei KI-Varianten meines eigenen Bewerbungsfotos:
Das echte Foto links und die zwei KI-generierten Version, erstellt mit Canva AI Profile Photo.

Ein Bereich in der künstlichen Intelligenz das eigene Leben sehr direkt berührt ist das Smart Home. Ein Smart Home ist eine vernetzte Wohnumgebung, in der Geräte durch Autonomie (selbstständiges Handeln), Konnektivität (Datenaustausch mit anderen Geräten/Internet) und Kontextbewusstsein (Sensorerfassung von Umgebungsdaten) optimiert agieren. Zu den Hauptanwendungen gehören Hausautomation wie Licht oder Heizung, Sicherheitssysteme wie zum Beispiel Kameras, aber auch Gesundheitsmonitoring und Unterhaltungsgeräte wie zum Beispiel Smart Speaker. Der Fokus liegt dabei auf dem privaten Wohnbereich.

Immer mehr Haushaltsgeräte sind mit dem Internet verbunden und verfügen dabei zum Teil über KI-Anwendungen. Damit versprechen Sie einen zusätzlichen Mehrwert für Ihre Nutzer*innen, sammeln eben aber auch sehr persönliche Daten aus einem intimen Lebensbereich – den eigenen vier Wänden. Wenn also nicht im Gerät selbst schon KI vorhanden ist, werden die gesammelten Daten spätestens in den Datenbanken der Hersteller zur Basis von KI-Analysen.

Das ist nicht grundsätzlich problematisch, jedoch kann es auf verschiedenen Ebenen zum Risiko werden. Vor allem wenn es den Nutzer*innen nicht bekannt ist, was mit ihren Daten geschieht. Aber auch, weil zum Zeitpunkt des Datenteilens häufig nicht klar sein kann, was aus den Daten alles geschlossen werden kann.

Das Risiko für die Nutzer*innen ist dementsprechend auf mehreren Ebenen vorhanden:

Das ist einerseits die vielen Kameras die beispielsweise in Kühlschränken, aber auch Staubsaugerrobotern eingebaut sind. So ein Staubsaugerroboter filmte beispielsweise eine Frau, wie sie auf der Toilette saß. Später war das Video auf Youtube zu finden. [1]

Doch manchmal ist das Risiko deutlich weniger augenscheinlich und möglicherweise auch erst in der Zukunft relevant: Unter dem Stichwort Prädiktive Privatheit[2] verbirgt sich ein Konzept, dass davor warnt, dass aus scheinbar harmlosen Verhaltensdaten (wie Browserverlauf oder Social-Media-Aktivitäten) intime Merkmale wie sexuelle Orientierung, politische Einstellungen oder Gesundheitsrisiken vorhergesagt werden können – selbst, wenn diese nie explizit preisgegeben wurden.

Selbst anonymisierte Daten können durch solche Rückschlüsse wieder identifizierbar werden, in dem durch den Vergleich mit bekannten Informationen über eine Person diese Daten wieder zugeordnet werden.

Diese Prozesse sind in der alltäglichen Nutzung meistens nicht zu durchschauen und in der Nutzung ist es meist nicht möglich eine qualifizierte Zustimmung zu der konkreten Verwendung der Daten zu geben. Weil in dem Moment der Erhebung, nicht klar ist, dass dies überhaupt geschieht und den Nutzer*innen eben auch nicht die volle Tragweite der Entscheidung bewusst ist. Dies stellt auch eine akute Leerstelle im aktuellen Rechtsstand dar.

Weitere Details lassen sich im AI&Society erschienen Artikel nachlesen. Dort skizziere ich gemeinsam mit Wulf Loh vom Internationalen Zentrum für Ethik in den Wissenschaften (Uni Tübingen) diese Problemlage und wie ein Meta-Assistent ein Weg sein könnte, um zu ermöglichen Smart Home Geräte zu nutzen und von ihren Vorteilen profitieren zu können, aber gleichzeitig die Kontrolle über die eigenen Daten zu behalten. Der Artikel mit dem Titel „Data autonomy and privacy in the smart home: the case for a privacy smart home meta-assistant” ist hier aufrufbar https://link.springer.com/article/10.1007/s00146-025-02182-4

Die Idee des Meta-Assistenten wurde im Projekt DAMA gemeinsam durch das Fraunhofer IAO und das Internationales Zentrum für Ethik in den Wissenschaften erforscht. Das Projekt wurde durch die Baden-Württemberg Stiftung gefördert.

 

 

[1] https://www.technologyreview.com/2022/12/19/1065306/roomba-irobot-robot-vacuums-artificial-intelligence-training-data-privacy/

[2] https://rainermuehlhoff.de/predictive-privacy/

Wenn ich über dieses Thema nachdenke, stellen sich mir gleich mehrere Fragen.

Inzwischen ist wohl unumstritten, dass Generative KI ein hohes kreatives Potenzial hat und sehr hilfreich sein kann (siehe unten). Aber was passiert bei der Anwendung generativer KI?

Bei welcher Art der Kreativität von KI ist der Kontrollverlust wahrscheinlich und gefährlich?

Was bedeutet denn überhaupt Kontrollverlust? Welche Folgen hätte er? Ist das ein Problem oder können wir damit leben- oder differenzierter: Unter welchen Bedingungen können wir damit leben? Es gibt schließlich genügend andere Situationen mit Kontrollverlust, mit denen wir auch leben (müssen). Wo müssen wir für Kontrolle sorgen?

Könnte KI unbemerkt Kontrolle über politische und wirtschaftliche Systeme übernehmen?

Da dachte ich mir dann: Frag mal ChatGPT und Copilot von MS.

Und hier ist die Antwort – von mir überarbeitet:

Kreativität bei KI kann in verschiedenen Formen auftreten, darunter generative Gestaltung, kreative Problemlösung und künstlerische Schöpfung. Jede dieser Formen hat ihre eigenen Risiken und Potenziale für Kontrollverlust. Kontrollverlust bezeichnet die Situation, in der Menschen die Fähigkeit verlieren, den Einsatz und die Auswirkungen von generativer KI vollständig zu überwachen und zu steuern. Der Kontrollverlust bei generativer Gestaltung kann gefährlich sein, wenn die KI unvorhersehbare oder unsichere Designs erstellt, die Sicherheitsrisiken bergen oder unethische Nutzung ermöglichen. Ein Kontrollverlust bei kreativer Problemlösung kann auftreten, wenn die KI unkonventionelle Lösungen vorschlägt, die unerwartete negative Konsequenzen haben oder ethische Grenzen überschreiten. Die kreative Schöpfung kann problematisch werden, wenn die KI beginnt, Inhalte zu erstellen, die schädlich, beleidigend oder urheberrechtlich geschützt sind. Der Kontrollverlust in diesem Bereich kann zu rechtlichen und ethischen Problemen führen.

Im Detail: Kontrollverlust kann also verschiedene Dimensionen haben, darunter technische, ethische, soziale und wirtschaftliche Aspekte.

Technischer Kontrollverlust tritt ein, wenn die Komplexität der KI-Systeme so hoch wird, dass ihre Funktionsweise und Entscheidungsprozesse für Menschen nicht mehr nachvollziehbar sind. Dies kann dazu führen, dass unvorhersehbare oder unerwünschte Ergebnisse auftreten, die nicht mehr korrigiert werden können.

Ethischer Kontrollverlust bezieht sich auf die Herausforderung, sicherzustellen, dass KI-Systeme moralisch vertretbare Entscheidungen treffen. Wenn KI ohne ausreichende ethische Leitlinien eingesetzt wird, können diskriminierende, voreingenommene oder schädliche Entscheidungen getroffen werden, die die Gesellschaft negativ beeinflussen.

Sozialer Kontrollverlust beschreibt die Auswirkungen auf die menschliche Interaktion und Kommunikation. Mit der Verbreitung von generativer KI können zwischenmenschliche Beziehungen und die Art und Weise, wie wir kommunizieren, beeinträchtigt werden. Dies kann zu Isolation, Missverständnissen und einem Verlust an Empathie führen. Ein unkontrollierter Einsatz von generativer KI kann zu sozialer Fragmentierung führen. Wenn Technologien nicht inklusiv und gerecht gestaltet sind, können sie bestehende soziale Ungleichheiten verstärken und neue Barrieren schaffen.

Wirtschaftlicher Kontrollverlust tritt auf, wenn Unternehmen und Arbeitsmärkte die Kontrolle über KI-gestützte Prozesse und Entscheidungen verlieren. Dies kann zu Arbeitsplatzverlusten, wirtschaftlicher Ungleichheit und einer Konzentration von Macht und Ressourcen in den Händen weniger großer Technologiekonzerne führen.

Die Folgen eines Kontrollverlusts durch generative KI sind vielfältig und können weitreichende Auswirkungen auf verschiedene Bereiche unseres Lebens haben. Ein Kontrollverlust kann zu einem erheblichen Vertrauensverlust in KI-Technologien führen. Wenn Menschen das Gefühl haben, dass die Technologie unvorhersehbar oder unkontrollierbar ist, wird ihr Vertrauen in deren Einsatz und Weiterentwicklung sinken.

Generative KI kann auch für Desinformationskampagnen, das Erzeugen von Deepfakes oder andere schädliche Zwecke eingesetzt werden. Ohne ausreichende Kontrolle und Regulation besteht die Gefahr, dass solche Technologien missbraucht werden, um gesellschaftliche oder politische Stabilität zu untergraben. Wenn die Entscheidungsfindung von einer KI übernommen wird, ist es schwierig, Verantwortlichkeiten klar zuzuordnen. Dies kann rechtliche und ethische Fragen aufwerfen, insbesondere wenn Entscheidungen negative Auswirkungen haben.

Der Kontrollverlust stellt auch rechtliche und regulatorische Herausforderungen dar. Es wird schwierig, Verantwortlichkeiten zuzuweisen und sicherzustellen, dass KI-Systeme den geltenden Gesetzen und Vorschriften entsprechen. Dies erfordert neue Ansätze und Regelungen im Umgang mit KI.

Ethische Dilemmata werden zunehmen, da die Entscheidungen von KI-Systemen immer komplizierter und undurchschaubarer werden. Dies erfordert eine ständige Überprüfung und Anpassung ethischer Richtlinien, um sicherzustellen, dass die Technologie im Einklang mit den gesellschaftlichen Werten steht.

Unkontrollierte KI-Systeme könnten in sicherheitsrelevanten Bereichen, wie der Cyberabwehr oder im autonomen Fahren, unvorhersehbare und potenziell gefährliche Entscheidungen treffen, was zu realen Risiken führen kann.

Heimlicher Kontrollverlust der Gesellschaft entsteht durch den Bias in KI-Entwicklungen: Alte Daten mit Verzerrungen, Entwicklerteams, die nicht divers sind. Das ist oft unbemerkt, unabsichtlich, also heimlicher Kontrollverlust, wo wir denken, wir hätten die Kontrolle. Ein weiterer Bereich ist die automatische Erstellung von Texten, Bildern oder Videos (wie Deepfakes), die in politischen oder gesellschaftlichen Kontexten eingesetzt werden können. Hier kann die Kreativität der KI dazu führen, dass glaubwürdige, aber falsche Inhalte entstehen. Wird dies in großem Maßstab betrieben, kann es zu einem Verlust der Kontrolle über den Informationsfluss kommen, was schwerwiegende Folgen für demokratische Prozesse und gesellschaftlichen Zusammenhalt haben kann.

Fazit

Generative KI birgt ein enormes kreatives Potenzial und kann als Katalysator für Innovationen in vielen Bereichen dienen. Gleichzeitig müssen jedoch die Risiken eines Kontrollverlusts ernst genommen werden. Die Herausforderung besteht darin, den Einsatz dieser Technologien so zu gestalten, dass sie einerseits als kreative Werkzeuge genutzt werden können, während andererseits Mechanismen zur Kontrolle, Transparenz und Verantwortlichkeit entwickelt werden, um negative Folgen zu vermeiden. Ein ausgewogener Ansatz, der ethische und rechtliche Rahmenbedingungen einbezieht, ist daher essenziell, um den positiven Nutzen generativer KI zu maximieren und gleichzeitig die Risiken des Kontrollverlusts zu minimieren.

Die Europäische Union hat mit dem Artificial Intelligence Act (AI Act) dazu einen rechtlichen Rahmen verabschiedet mit dem Ziel, vertrauenswürdige KI und verantwortungsvolle KI-Innovationen in Europa zu fördern. Wer Künstliche Intelligenz einsetzt, muss dafür sorgen, dass seine Mitarbeitenden im Umgang mit KI-Systemen geschult werden. Es geht um mehr als Technologie – es geht um Verantwortung, Transparenz und Nachhaltigkeit.

Der EU AI Act schreibt auch detailliert vor, wie Kontrollen gewährleistet sein müssen und welche Systeme nicht erlaubt sind.

Insgesamt scheint mir, ist die EU damit auf einem guten Weg.

1       Algorithmen

Algorithmen sind der Definition nach von Programmierern erstellte logische Programme, die Zeile für Zeile programmiert wurden. Sie wurden hoffentlich ausführlich getestet, bevor sie angewendet wurden. Wurde ein Fehler gefunden, wurde er durch Ergänzung der Programmierung beseitigt.

Klar: Dafür trägt der Programmierer die Verantwortung Jedenfalls war das bisher immer so. Aber das ist eventuell gar nicht gemeint.

Gemeint ist eine KI, die eben nicht programmiert wurde und daher auch kein Algorithmus ist.
Eine KI wird eben nicht programmiert, sondern trainiert. Im Gegensatz zu Algorithmen arbeitet sie nicht logisch, sondern der Wahrscheinlichkeit nach.

2       KI

Wenn eine KI entscheidet, wer trägt dann die Verantwortung? Der Lehrer? Also die Person, die die KI trainiert hat? Der Programmierer, der die wenigen Zeilen programmiert hat, mit der sie die Trainingsobjekte wahrnimmt und daraus lernt?
Der Eigentümer, also die Person, die die KI oder den durch die KI gesteuerten Roboter käuflich erworben hat? Der Anwender, der die KI anwendet? Beispiel: Der Mensch, der ein selbstfahrendes Taxi gegen Gebühr bestellt hat und sich in das KI-gesteuerte selbstfahrende Auto setzt, um voranzukommen?

Klar: Verantwortung kann nur ein Mensch tragen, nicht die KI, denn dazu müsste man ihr Rechte geben, wie sie – jedenfalls bisher – nur Menschen haben können.

Ich meine, der Anwender, der sich in ein selbstfahrendes Taxi setzt, trägt nur die Verantwortung, wohin er fahren möchte und also für die Befehle, die er dem Taxi erteilt.

Beispiel 1: Bitte fahr mich nach Reutlingen zum Bahnhof. Ich muss zum Zug.

Beispiel 2: Bitte fahr mich in die Klinik. Ich bin verletzt.

Beispiel 3: Bitte fahr uns in die Klinik. Mein Kollege ist lebensgefährlich verletzt.

Das Beispiel 2 rechtfertigt nicht, dass die das selbstfahrende Taxi bei Rot über die Ampel fährt, das Beispiel 3 aber schon. Selbstverständlich hat das Taxi gelernt, bei Rot in diesen Ausnahmefällen – vorsichtig – über die Ampel zu fahren. Schließlich ist das in diesem Fall geboten. Wir dürfen davon ausgehen, dass nichts Schlimmes passiert. Wenn doch, wer trägt dann die Verantwortung?

1. Wenn es korrekt war, dem Taxi zu sagen, ein lebensgefährlich verletzter Mensch ist zu transportieren, denn jedenfalls nicht der Mensch, der den Auftrag dazu erteilt hat.
2. Wenn es ein Jux war, trägt der Auftraggeber mindestens eine Mitschuld.

Soweit klar, da auch in der bisherigen Rechtsprechung so geurteilt wird. Was aber, wenn sich herausstellt, dass das Taxi eben doch nicht gelernt hat, besonders vorsichtig bei Rot über die Kreuzung zu fahren? Sicher nicht der Mensch, der das Taxi gebeten hat, einen lebensgefährlich verletzten Menschen in die Klinik zu fahren.

Eventuell der Eigentümer / Halter des Taxis, weil er wusste, dass das Taxi das nicht gut macht. Oder weil er sich nicht darum gekümmert hat. Dann trägt er jedenfalls mindestens Mitschuld. Der Hersteller, wenn er zwar behauptet hat, das Taxi kann das, ohne es ausreichend zu testen. Oder wenn er das gar nicht getestet hat.

Und was ist, wenn das zwar ausführlich getestet und dokumentiert wurde, aber doch ein Unfall geschehen ist? Da kommt dann auch noch der Unfallgegner auf der Kreuzung ist Spiel: Hat er zwar dem Taxi (zum Beispiel durch Handzeichen) gezeigt, dass er es durchfahren lässt, dann aber (böswillig?) den Unfall verursacht, z.B. durch Gas geben?

Und was ist, wenn der Unfallgegner gar nicht rechtzeitig bremsen konnte und das Taxi die Geschwindigkeit des Unfallgegners falsch eingeschätzt hat? Dabei kann es sein, dass der Eigentümer mindestens eine (Mit-) Schuld trägt, aber eben auch der Hersteller, der dafür offensichtlich nicht genügend Trainingsmaterial bereitgestellt hat.

Fazit: Es kommt darauf an, welcher Schaden wie entstanden ist. Das wird Aufgabe von Gerichten sein, das zu entscheiden.

3       Generell

1. Es sollte immer ein Mensch sein, der die Verantwortung trägt: Entwickler oder Eigentümer oder Anwender – je nach Anwendungsfall.
2. Wir sollten Gesetze erlassen (die es heute noch nicht gibt), dass KI nur bestimmte Arten von Entscheidungen treffen darf: Darf KI abenteuerlustig sein?
   Erste Versuche, solche Gesetze zu erlassen stellt der AI-Act dar, der der KI verbietet,
   risikoreiche Arbeiten durchzuführen. Es wird erwartet, dass das erst der Anfang ist.

Mein Vorschlag:

KI darf nur kurzfristige Entscheidungen treffen. Das kann KI in vielen Fällen sogar deutlich besser als jeder Mensch. Beispiel: Bremsen, wenn ein Kind auf die Straße läuft.

KI darf auf keinen Fall langfristige Entscheidungen treffen. Das sollte gesetzlich verboten werden. Beispiel: Selbstbestimmung ausüben und entscheiden, in welche Zukunft die KI (und der Roboter) sich entwickeln sollen.

Bei mittelfristigen Entscheidungen sollten wir uns überlegen, was wir der KI erlauben und was nicht. Dabei sollten wir uns an unseren menschlichen Werten orientieren, wovon es etwa 140 gibt. Sie sind einzeln auf deren Zeitkonstante zu überprüfen.
Aber das ist ein anderes Thema.