KI in Berlin – (Selbst)Audit für die Berliner Verwaltung?
Vertrauenswürdige KI benötigt klare Normen und Standards. Nutzer:innen müssen darauf vertrauen können, dass die Verwendung von KI-Systemen keine unerwünschten Verzerrungen aufweist, diversitätssensibel und inklusiv ist und Diskriminierung vermeidet. Mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit bietet KIDD, ein vom Bundesministerium für Arbeit und Soziales (BMAS) gefördertes Projekt, mittlerweile mehrere Verfahren an, wie KI-Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können, um gute Arbeitsbedingungen in der Zukunft zu befördern. Der KIDD-Prozess bietet Unternehmen die Möglichkeit, in drei Schritten ein betriebsinternes (Selbst-)Audit durchzuführen und ist als Best-Practise-Beispiel in der KI-Normungsroadmap von DIN aufgeführt.
Ich habe die Berichte zum Anlass genommen, mal zu fragen ob die Berliner Verwaltung ähnliche (Selbst-)Audit-Verfahren einsetzt (Drucksache 19/20229). In der Antwort gesteht der Senat: Das BMAS-geförderte Projekt “KIDD” zur ethischen KI-Einführung ist dem Senat zwar bekannt, aber eine tiefere Auseinandersetzung fehlt. Audit-Verfahren für KI-Technologien werden in der Berliner Verwaltung aktuell keine eingesetzt. Immerhin hat die Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS) hat im Jahr 2023 die Rechtsexpertise „Analyse der rechtlichen Rahmenbedingungen für die Formulierung von Richtlinien zur Entwicklung (Vergabe der Entwicklung) und Anwendung von automatisierten Entscheidungssystemen (ADM) im Land Berlin“ in Auftrag gegeben. Deren Ergebnisse sollen im Oktober im Rahmen des Berichtsauftrags dem Hauptausschuss berichtet werden.
Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” befindet sich aktuell im parlamentarischen Verfahren (Drucksache 19/1670).
Weiterlesen