KI

Vertrauenswürdige KI benötigt klare Normen und Standards. Nutzer:innen müssen darauf vertrauen können, dass die Verwendung von KI-Systemen keine unerwünschten Verzerrungen aufweist, diversitätssensibel und inklusiv ist und Diskriminierung vermeidet. Mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit bietet KIDD, ein vom Bundesministerium für Arbeit und Soziales (BMAS) gefördertes Projekt, mittlerweile mehrere Verfahren an, wie KI-Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können, um gute Arbeitsbedingungen in der Zukunft zu befördern. Der KIDD-Prozess bietet Unternehmen die Möglichkeit, in drei Schritten ein betriebsinternes (Selbst-)Audit durchzuführen und ist als Best-Practise-Beispiel in der KI-Normungsroadmap von DIN aufgeführt.

Ich habe die Berichte zum Anlass genommen, mal zu fragen ob die Berliner Verwaltung ähnliche (Selbst-)Audit-Verfahren einsetzt (Drucksache 19/20229). In der Antwort gesteht der Senat: Das BMAS-geförderte Projekt “KIDD” zur ethischen KI-Einführung ist dem Senat zwar bekannt, aber eine tiefere Auseinandersetzung fehlt. Audit-Verfahren für KI-Technologien werden in der Berliner Verwaltung aktuell keine eingesetzt. Immerhin hat die Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS) hat im Jahr 2023 die Rechtsexpertise „Analyse der rechtlichen Rahmenbedingungen für die Formulierung von Richtlinien zur Entwicklung (Vergabe der Entwicklung) und Anwendung von automatisierten Entscheidungssystemen (ADM) im Land Berlin“ in Auftrag gegeben. Deren Ergebnisse sollen im Oktober im Rahmen des Berichtsauftrags dem Hauptausschuss berichtet werden.

Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” befindet sich aktuell im parlamentarischen Verfahren (Drucksache 19/1670).

Berlin muss seine Verwaltung fit machen, um KI-Technologien transparent und effektiv einzusetzen. Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren, die sowohl auf etablierter KI-Ethik wie der des Deutschen Ethikrats aufbaut als auch Rechtssicherheit für „First Mover“ in Wirtschaft, Verwaltung, Wissenschaft und Zivilgesellschaft garantiert. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” geht am Donnerstag ins parlamentarische Verfahren (Drucksache 19/1670).

Er ist auch das Ergebnis der Auswertung der Anhörung von Expert*innen im Ausschuss für Digitalisierung und Datenschutz. Zusätzlich wurde am 21. Mai der AI Act, ein einheitlicher Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union, verabschiedet. Berlin muss jetzt die nötigen Schritte unternehmen, um die Umsetzung des AI Acts vorzubereiten.

Berlin nutzt bereits bei der Polizei, der Steuerverwaltung, beim Chatbot Bobbi oder bei Übersetzungen automatisierten Systemen und KI, jedoch ohne transparent über die Konsequenzen zu berichten. Dies kann das Vertrauen in die Digitalisierung und den Einsatz von automatischen Entscheidungssystemen beschädigen. Das von Bündnis 90/Die Grünen geforderte Transparenzregister ist daher ein wichtiger Baustein, um das Vertrauen der Bürger*innen in die Digitalisierung zu sichern!

Obwohl Berlin die Digitalisierung an vielen Stellen verpasst hat, wird von der Berliner Verwaltung bereits KI gestützte Software eingesetzt. Ich habe daher mal gefragt wo KI-Basierte Entscheidungshilfen in Berlin zum Einsatz kommen und wie es durch den Einsatz zu potentieller Diskriminierung kommt. Die Antwort (Rote Nummer 1270, Bericht Nr. 21, Seite 133 ff. ) teilt dabei in KI-Systeme welche keine Entscheidungen treffen und jene die Entscheidungen treffen. Klare Kriterien oder ein Tranzparenzregister gibt es immer noch nicht für den Einsatz von ADM (Automated Decision Making).

Im Vergleich zum letzten Doppelhaushalt sind Anzahl und Zwecke deutlich angestiegen. Derzeit gibt es 15 verschiedene Anwendungen mit KI-Systemen. Ein Transparenzregister wäre schon jetzt ohne Gutachten möglich und würde modernes Verwaltungshandeln transparent machen. Auch der Ethikrat ist zu dem Schluss gekommen, dass es beim Einsatz von KI-Systemen in Verwaltung bestimmte Voraussetzung und Maßnahmen braucht. Zwar Ordnet der Senat das Potential von Diskriminierung richtig ein, benennt jedoch keine Maßnahmen oder Strategie für die Zukunft.