KI-Transparenzregister: kein Einsatz von der Intelligent Zoning Engine (IZE) in Berlin
Wir setzen und für ein Transparenzregister für Künstliche Intelligenz (KI) für Berlin ein. Ein Ziel ist das Vertrauen in die Digitalisierung zu stärken. Solch ein Transparenzregister für KI ist auch nicht schwer umzusetzen. Die letzten beiden Beispiele für Einträge im Transparenzregister sind Steuerfestsetzung mittels Risikomanagementsystem (RMS) und Watson zur Missbrauchs- und Betrugserkennung im Beihilfeumfeld. Alle Einträge wurden nach dem Algorithmic Transparency Standard von Eurocities nachgebaut. Zuletzt habe ich mich nach dem Einsatz von Intelligent Zoning Engine (IZE) erkundigt (Drucksache 19/20710).
Im November 2023 gab der Senat an, sogenanntes Intelligent Zoning Engine (IZE) zum Zweck von „Optimierter Zuschnitt von Grundschuleinzugsgebieten“ einzusetzen. Meine Anfrage ergab jedoch, dass weder die Schulämter noch die Senatsverwaltung für Bildung, Jugend und Familie IZE einsetzen. Woher die Angabe stammt, dass IZE eingesetzt werden.
Am 04. November 2024 lehnte die Koalition im Ausschuss für Digitalisierung und Datenschutz den Antrag „Vertrauen in die Digitalisierung stärken – Ein Transparenzregister für Berlin“ ab. Damit verpasst der Senat es, Transparenz beim Einsatz von KI in der Verwaltung zu schaffen. Ein solches KI-Transparenzregister wird auch vom Deutschen Ethikrat empfohlen. Auch die Experten, die im Rahmen einer Anhörung zum Thema “KI-Strategie Berlin: Wie wird Berlin zur KI-Metropole?” im Ausschuss für Digitalisierung und Datenschutz zu Gast waren, empfahlen ein Register für KI-Algorithmen. Trotzdem stimmten die Regierungsparteien CDU und SPD gegen einen transparenten Umgang mit Automatisierte Systeme und KI.
1. Was lautet die Einsatzbeschreibung und das Ziel der eingesetzten KI-Technologie beim Zuschnitt von Grundschuleinzugsgebieten mittels Intelligent Zoning Engine (IZE) (siehe Rote Nummer 1270, Bericht 21)?
2. In welche Entscheidungsprozesse ist KI-Technologie involviert?
3. Gab es eine Risikoanalyse zum Einsatz von der KI-Technologie und was waren deren Ergebnisse?
4. Welche Gründe gibt es für den Einsatz der KI-Technologie und sind diese verhältnismäßig?
5. Was ist die gesetzliche Grundlage für den Einsatz der KI-Technologie?
6. Um welchen Typ KI-Technologie bzw. Algorithmus handelt es sich?
7. Welche Daten werden von KI-Technologie verarbeitet und welche Trainingsdaten wurden verwendet?
8. Was waren die Ergebnisse des Algorithmic Impact Assessment (AIA) und Auditings?
9. Wie wird eine menschliche Intervention beim Einsatz der KI-Technologie garantiert?
10. Welche Widerspruchsmöglichkeiten gibt es gegen den Einsatz der KI-Technologie?Die bezirklichen Schulämter teilen mit, dass ein Einsatz der in der Fragestellung benannten „Intelligent Zoning Engine“ nicht stattfindet. Auch der Senatsverwaltung für Bildung, Jugend und Familie liegen keine weiteren Erkenntnisse bezüglich potentieller Einsatz- bzw. Umsetzungsperspektiven dieses Tools vor. Laut den Richtlinien der Regierungspolitik 2023-26 zwischen CDU Berlin und SPD Berlin soll die künstliche Intelligenz (KI) als eine der Schlüsseltechnologien Förderung und Unterstützung erfahren. Auch innerhalb der Berliner Verwaltung soll KI eingesetzt werden. Hierfür sollen die entsprechenden und notwendigen Voraussetzungen geschaffen werden. Zu diesem Zweck befinden sich die Senatskanzlei und das IT-Dienstleistungszentrum Berlin in engem Austausch. Noch in diesem Jahr soll in diesem Zusammenhang zudem ein zweites KI-Briefing für die Berliner Verwaltung stattfinden. Dieses ist organisiert von der Staatssekretärin für Digitalisierung und Verwaltungsmodernisierung gemeinsam mit dem GovTech Campus Deutschland und soll für und mit den Beschäftigten der Berliner Verwaltung verschiedene Aspekte im Zusammenhang mit Einsatzmöglichkeiten, regulatorischen Rahmenbedingungen, Chancen, Trends und Herausforderungen von KI beleuchten.
