KI in Berlin – (Selbst)Audit für die Berliner Verwaltung?
Vertrauenswürdige KI benötigt klare Normen und Standards. Nutzer:innen müssen darauf vertrauen können, dass die Verwendung von KI-Systemen keine unerwünschten Verzerrungen aufweist, diversitätssensibel und inklusiv ist und Diskriminierung vermeidet. Mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit bietet KIDD, ein vom Bundesministerium für Arbeit und Soziales (BMAS) gefördertes Projekt, mittlerweile mehrere Verfahren an, wie KI-Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können, um gute Arbeitsbedingungen in der Zukunft zu befördern. Der KIDD-Prozess bietet Unternehmen die Möglichkeit, in drei Schritten ein betriebsinternes (Selbst-)Audit durchzuführen und ist als Best-Practise-Beispiel in der KI-Normungsroadmap von DIN aufgeführt.
Ich habe die Berichte zum Anlass genommen, mal zu fragen ob die Berliner Verwaltung ähnliche (Selbst-)Audit-Verfahren einsetzt (Drucksache 19/20229). In der Antwort gesteht der Senat: Das BMAS-geförderte Projekt “KIDD” zur ethischen KI-Einführung ist dem Senat zwar bekannt, aber eine tiefere Auseinandersetzung fehlt. Audit-Verfahren für KI-Technologien werden in der Berliner Verwaltung aktuell keine eingesetzt. Immerhin hat die Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS) hat im Jahr 2023 die Rechtsexpertise „Analyse der rechtlichen Rahmenbedingungen für die Formulierung von Richtlinien zur Entwicklung (Vergabe der Entwicklung) und Anwendung von automatisierten Entscheidungssystemen (ADM) im Land Berlin“ in Auftrag gegeben. Deren Ergebnisse sollen im Oktober im Rahmen des Berichtsauftrags dem Hauptausschuss berichtet werden.
Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” befindet sich aktuell im parlamentarischen Verfahren (Drucksache 19/1670).
1. Ist dem Senat das vom Bundesministerium für Arbeit und Soziales (BMAS) geförderte Projekt „KIDD – KI im Dienste der Diversität“ bekannt, welches mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit mehrere Verfahren anbietet, wie KI Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können?
Das genannte BMAS-geförderte Forschungsprojekt ist dem Senat bekannt. Die Zielsetzung des Projekts, einen standardisierten Prozess für die transparente, partizipative und inklusive Einführung von KI-Anwendungen in Unternehmen zu erarbeiten, wird für sinnvoll erachtet. Eine tiefergehende Auseinandersetzung mit dem Forschungsprojekt hat bislang nicht stattgefunden.
2. Welche Überlegungen gibt es in diesem Sinne Standards für den Einsatz von KI in der Berliner Verwaltung zu entwickeln?
Die Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS) hat im Jahr 2023 die Rechtsexpertise „Analyse der rechtlichen Rahmenbedingungen für die Formulierung von Richtlinien zur Entwicklung (Vergabe der Entwicklung) und Anwendung von automatisierten Entscheidungssystemen (ADM) im Land Berlin“ in Auftrag gegeben, deren Ergebnisse nun vorliegen. Diese werden voraussichtlich im Oktober im Rahmen des Berichtsauftrags aus der 49. Sitzung des Hauptausschusses seitens der Senatsverwaltung für Arbeit, Soziales, Gleichstellung, Integration, Vielfalt und Antidiskriminierung dem Hauptausschuss berichtet. Die Expertise bezieht sich auf KI-basierte ADM und soll eine Ausgangslage bieten, in einem partizipativen und ressortübergreifenden Prozess mit Akteur/-innen aus der Berliner Verwaltung, der Zivilgesellschaft und der Wissenschaft, passgenaue Standards für einen diskriminierungssensiblen und diversitygerechten Einsatz von ADM (und KI-Technologien) in der Berliner Verwaltung zu erarbeiten. Diese Überlegungen wurden in den bisherigen drei Workshops der Taskforce KI des Landes Berlin geteilt und die Sinnhaftigkeit solcher Standards bzw. Grundsätze zur Unterstützung der Verwaltungsmitarbeitenden im Land Berlin begrüßt.
3. Welche Audit-Verfahren für KI-Technologien werden von der Berliner Verwaltung eingesetzt? (Bitte je Senatsverwaltung einzeln angeben, wenn verschiedene Systeme zum Einsatz kommen)
Derzeit werden keine Audit-Verfahren für KI-Technologien in der Berliner Verwaltung eingesetzt. Neben den oben unter 2. dargestellten Überlegungen der SenASGIVA ist in der Senatsverwaltung für Finanzen im Vorfeld der Einführung eines KI-Tools ein technisches Audit geplant. Hierbei wird die technische Sicherheit und Zuverlässigkeit der KI-Anwendung und die entsprechende technische Infrastruktur analysiert, einschließlich der Frage, ob diese gegen mögliche Manipulation, Missbrauch oder Fehlfunktionen geschützt ist. Die Senatsverwaltung für Stadtentwicklung, Bauen und Wohnen hat sich mit Prüfwerkzeugen von KI-Systemen und den Inhalten und der Bedeutung des AI Acts der EU beschäftigt und beobachtet die Entwicklungen in diesem Bereich.
