KI & Algorithmen bei der Senatsverwaltung für Wirtschaft, Energie und Betriebe

Der neueste Bericht (Nr. 0291) über den Einsatz von Algorithmen und KI bei der Senatsverwaltung für Wirtschaft, Energie und Betriebe (SenWEB) zeigt Beispiele von automatisierten Kraftwerkssteuerungen bis zu KI-gestützter Start-up-Förderung. Um welche Modelle es sich genau handelt, ob diese Open-Source sind und welches Auditing angewendet wird, erwähnt der Bericht nicht. Auch dieser Bericht zeigt: Berlin braucht eine KI-Governance so wie ein Transparenzregister!

Denn welche Large Language Modelle (LLM) genutzt werden, ob diese Open-Source sind und ob ein Auditing stattgefunden hat, steht nicht im Bericht. Berlin benötigt dringend gesamtstädtische KI-Governance sowie ein Transparenzregister für Algorithmen und keine Insellösungen in einzelnen Verwaltungen.

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Verwaltung

1.August 2025 0 Comments

Wie Kommunen ihre Daten für KI nutzen können (Frauenhofer Fokus)

Das neue Whitepaper “Mit KI von Daten zu Taten in Ihrer Kommune – Der Weg von der Theorie zur Praxis” liefert Antworten, wie der Einstieg in die Künstliche Intelligenz (KI) auf kommunaler Ebene gelingt. Wissenschaftler*innen des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS sowie des Fraunhofer-Instituts für Offene Kommunikationssysteme FOKUS bieten einen praxisnahen Einblick in reale KI-Anwendungsbeispiele und erläutern die zugrundeliegenden Technologien. Im Zuge des Projekte wurden 64 Anwendungsfälle tiefer ausgearbeitet und als finale Steckbriefe eingereicht. Die Ideen lassen sich in sieben technische Kategorien einordnen: von KI-gestützter Datenanalyse und Optimierung über intelligente Geodatenanalyse bis hin zu Chat- und Sprachassistenten. Bis Ende 2025 werden neun Anwendungsfälle prototypisch umgesetzt und deren Ergebnisse als Open Source Software (OSS) über die OpenCode-Plattform der Bundesregierung veröffentlicht.

Für Berlin ist es immer wichtig zu schauen, welche Lösungen es in anderen Städten und Kommunen gibt. Zwar denkt die Berliner Verwaltung oft, dass Berlin anders ist als andere Städte und daher Berlin immer auf eigene Lösungen setzen muss. Doch dieser Weg führt oft zu gar keinen Lösungen. Daher setze ich mich immer wieder dafür ein, vorhandene Lösungen nach Berlin zu holen. Ein Beispiel ist eine SmartCity-App. Während Berlin weiter prüft, plane und überlegt, haben inzwischen viele Städte und Kommunen eine funktionierende City-App am Start.

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Verwaltung

7.April 2025 0 Comments

Tschüss Bobbi – Berlins Chatbot ohne Nachfolge

Noch im letzten Jahr war das Team vom Berliner Chatbot Bobbi zu Besuch im Abgeordnetenhaus, jetzt teilt der Senat mit: Das Projekt wurde eingestellt. Wie immer beim Schwarz-Roten Senat ohne Nachfolge. Eine solche muss erst noch geprüft werden (Drucksache 19/21704).

Wer nach dem Chatbot Bobbi auf Berlin.de sucht, findet nur noch einen Abschiedstext der Redaktion. Der Text spricht über das Forschungsprojekt, das von 2017 bis Ende 2024 lief und bedankt sich bei den Nutzenden der Website. Außerdem wird eine KI-Lösung in Aussicht gestellt – ohne einen Zeitplan zu nennen.

Aus der schriftlichen Anfrage geht hervor (Drucksache 19/21704), dass ein neuer Chatbot mittels Large Language Models (LLM), ähnlich wie ChatGPT oder Claude, angestrebt wird.

Abgeordnetenhaus Berlin Datenschutz KI Netzpolitik & Digitalisierung Senat Verwaltung

22.Januar 2025 0 Comments

KI-basierte Entscheidungshilfen für die Berliner Verwaltung

Auch der Berliner Senat kommt im neuen Jahr nicht mehr am Thema “Künstliche Intelligenz (KI)” vorbei. In der ersten Digitalausschusssitzung des Jahres haben Mitarbeiter*innen aus der Senatskanzlei, der Senatsverwaltung für Inneres und Sport sowie der Senatsverwaltung für Finanzen vorgestellt, wie KI-Technologie aktuell in der Verwaltung eingesetzt wird und welche Planungen es für die nächste Zeit gibt. Es lohnt sich, die erste Stunde des Ausschusses auf YouTube anzuschauen, um einen Eindruck zu bekommen. Positiv zu sehen ist auch, dass die Senatskanzlei inzwischen an der von Bündnis 90/Die Grünen geforderten KI-Governance arbeitet. Im Frühjahr soll sie vorliegen.

Zeitgleich hat die Senatskanzlei einen Bericht mit Anwendungenbeispielen von SenFin, SenWiEnBe und SenWGP vorgelegt (Rote Nr. 2098). In dem Bericht werden Anwendungen vorgestellt, die als „KI-basierte Entscheidungshilfen“ bezeichnet werden, also jene Anwendungen, die entweder Entscheidungen treffen oder Empfehlungen aussprechen.

Abgeordnetenhaus KI Netzpolitik & Digitalisierung Verwaltung

11.Dezember 2024 0 Comments

Automatisierte Entscheidungssysteme in der Berliner Verwaltung

Wir hatten den Senat gebeten, über die Ergebnisse der von SenASGIVA beauftragten Expertise zur Anwendung von automatisierten Entscheidungssystemen (ADM) zu berichten. Dieser Bericht liegt nun vor (Rote Nr. 1021 A). Die Expertise hatte dabei zwei zentrale Ziele:

sie ist ein Beitrag dazu, die Rechts- und Handlungssicherheit für Verwaltungen bei der Entwicklung und Anwendung von ADM-Systemen zu erhöhen
die Ergebnisse stellen die Basis für die Entwicklung von Grundsätzen dar, so dass die im Land Berlin in Auftrag gegebenen und eingesetzten ADM-Systeme by design diversitygerecht und diskriminierungssensibel sind und entsprechende Beschwerdewege und Korrekturen des ADM-Systems präventiv implementiert werden können

Die Expertise verweist auf das Berliner Landesantidiskriminierungsgesetz (LADG) und das damit verbunden Leitprinzip, Diskriminierung zu verhindern und zu beseitigen – dies gilt auch für ADM- und KI-Systeme. Besonders im Fall von lernenden Systemen besteht laut der Expertise die Gefahr für Proxy-Diskriminierung, etwa Wohnort stellvertretend für sozialen Status. Überhaupt empfiehlt die Rechtsexpertise derzeit, „regelbasierte ADM-Systeme und KI-Systeme vorzuziehen, die keine personenbezogenen Daten verarbeiten.“ Die Begründung: es gibt aktuell keine Ermächtigung, die DSGVO und das Berliner Datenschutzgesetz lässt dies nur in Grenzen zu. Außerdem wiederholt die Expertise, was der Ethikrat in seiner Stellungnahme zu Künstlicher Intelligenz bereits genannt hat: transparente Dokumentation und Schulung von Mitarbeitern. Meine Fraktion Bündnis 90/Die Grünen hat deswegen ein KI-Transparenzregister gefordert – dieser wurde von den Koalitionsparteien im Ausschuss Digitalisierung und Datenschutz allerdings abgelehnt.

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Verwaltung

5.Dezember 2024 0 Comments

KI-Transparenzregister: kein Einsatz von der Intelligent Zoning Engine (IZE) in Berlin

Wir setzen und für ein Transparenzregister für Künstliche Intelligenz (KI) für Berlin ein. Ein Ziel ist das Vertrauen in die Digitalisierung zu stärken. Solch ein Transparenzregister für KI ist auch nicht schwer umzusetzen. Die letzten beiden Beispiele für Einträge im Transparenzregister sind Steuerfestsetzung mittels Risikomanagementsystem (RMS) und Watson zur Missbrauchs- und Betrugserkennung im Beihilfeumfeld. Alle Einträge wurden nach dem Algorithmic Transparency Standard von Eurocities nachgebaut. Zuletzt habe ich mich nach dem Einsatz von Intelligent Zoning Engine (IZE) erkundigt (Drucksache 19/20710).

Im November 2023 gab der Senat an, sogenanntes Intelligent Zoning Engine (IZE) zum Zweck von „Optimierter Zuschnitt von Grundschuleinzugsgebieten“ einzusetzen. Meine Anfrage ergab jedoch, dass weder die Schulämter noch die Senatsverwaltung für Bildung, Jugend und Familie IZE einsetzen. Woher die Angabe stammt, dass IZE eingesetzt werden.

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Senat Verwaltung

4.Oktober 2024 0 Comments

KI in Berlin – (Selbst)Audit für die Berliner Verwaltung?

Vertrauenswürdige KI benötigt klare Normen und Standards. Nutzer:innen müssen darauf vertrauen können, dass die Verwendung von KI-Systemen keine unerwünschten Verzerrungen aufweist, diversitätssensibel und inklusiv ist und Diskriminierung vermeidet. Mit Qualitätskriterien, Schulungen und einem (Selbst-)Audit bietet KIDD, ein vom Bundesministerium für Arbeit und Soziales (BMAS) gefördertes Projekt, mittlerweile mehrere Verfahren an, wie KI-Anwendungen in Unternehmen und Institutionen nicht nur effektiv, sondern auch ethisch und inklusiv im Sinne des AI Acts der Europäischen Union eingeführt werden können, um gute Arbeitsbedingungen in der Zukunft zu befördern. Der KIDD-Prozess bietet Unternehmen die Möglichkeit, in drei Schritten ein betriebsinternes (Selbst-)Audit durchzuführen und ist als Best-Practise-Beispiel in der KI-Normungsroadmap von DIN aufgeführt.

Ich habe die Berichte zum Anlass genommen, mal zu fragen ob die Berliner Verwaltung ähnliche (Selbst-)Audit-Verfahren einsetzt (Drucksache 19/20229). In der Antwort gesteht der Senat: Das BMAS-geförderte Projekt “KIDD” zur ethischen KI-Einführung ist dem Senat zwar bekannt, aber eine tiefere Auseinandersetzung fehlt. Audit-Verfahren für KI-Technologien werden in der Berliner Verwaltung aktuell keine eingesetzt. Immerhin hat die Landesstelle für Gleichbehandlung – gegen Diskriminierung (LADS) hat im Jahr 2023 die Rechtsexpertise „Analyse der rechtlichen Rahmenbedingungen für die Formulierung von Richtlinien zur Entwicklung (Vergabe der Entwicklung) und Anwendung von automatisierten Entscheidungssystemen (ADM) im Land Berlin“ in Auftrag gegeben. Deren Ergebnisse sollen im Oktober im Rahmen des Berichtsauftrags dem Hauptausschuss berichtet werden.

Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” befindet sich aktuell im parlamentarischen Verfahren (Drucksache 19/1670).

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Senat

4.September 2024 0 Comments

Transparenzregister: Steuerfestsetzung mittels Risikomanagementsystem (RMS)

Anfang Mai hat die Fraktion Bündnis 90/Die Grünen den Senat aufgefordert, ein Transparenzregister für Künstliche Intelligenz (KI) für Berlin zu schaffen und so das Vertrauen in die Digitalisierung zu stärken. Solch ein Transparenzregister für KI ist auch nicht schwer umzusetzen. Im Mai hatte ich als Beispiel die nötigen Informationen zum Einsatz von Watson bei der Senatsverwaltung für Finanzen abgefragt und veröffentlicht.

Als zweites Beispiel habe ich mir das Thema “Steuerfestsetzung mittels Risikomanagementsystem (RMS)” bei der Senatsverwaltung für Finanzen vorgenommen (Drucksache 19/19967) und den entsprechenden Transparenzeintrag nach dem Algorithmic Transparency Standard von Eurocities nachgebaut. Der Eintrag kann als .csv heruntergeladen werden und ich stelle diesen dem Senat gerne für das Open-Data-Portal oder als weiteren Eintrag für ein Transparenzregister zur Verfügung. Der Eintrag umfasst die wichtigsten Angaben nach dem Eurocities-Standard.

Das Beispiel zeigt, dass es schon mit einer einfachen Website auf Berlin.de möglich wäre, ein Transparenzregister wie in Helsinki herzustellen.

Abgeordnetenhaus Berlin Bits & Berlin Freifunk KI Netzpolitik & Digitalisierung Verwaltung WLan

6.Juni 2024 1 Comment

Bits & Berlin – Newsletter – 06/2024

In meinem Newsletter “Bits & Berlin” möchte ich wie gewohnt über aktuelle Themen aus meiner Arbeit zu Verwaltungsmodernisierung und -digitalisierung informieren.

Dieses Mal geht es um die KI-Governance in Berlin, die Digitalisierung bei den Senatsverwaltungen für Wissenschaft, Gesundheit und Pflege (SenWGP) sowie für Arbeit, Soziales, Gleichstellung, Integration, Vielfalt und Antidiskriminierung (SenASGIVA), die Behördennummer 115 und das öffentliche WLAN in Berlin.

Ergänzt wird der Newsletter durch Berichte aus dem Parlament und Einblicke in aktuelle Debatten rund um die Verwaltungstransformation in unserer Stadt.

Viel Spaß beim Lesen!