KI-Systeme in der Berliner Verwaltung

Der Einsatz von Algorithmen und KI-Systemen kann zu einer datengetriebenen und effizienten Verwaltung beitragen. Allerdings können sie auch zur Diskriminierung und Fehlentscheidungen führen, daher müssen diese sensibel und transparent behandelt werden. Im Koalitionsvertrag haben wir uns vorgenommen:

Qualitätssichernde Prozesse, Tests und Dokumentationspflichten sollen sicherstellen, dass die öffentliche Verwaltung nur objektive und diskriminierungsfreie Algorithmen (auch bei Künstlicher Intelligenz) einsetzt. Beim Aufbau eines Berliner Algorithmen-Registers prüft die Koalition die Zusammenarbeit mit dem Algorithm Register von Amsterdam und Helsinki im Rahmen der Cities Coalition. (Koalitionsvertrag, S. 132)

Im Zuge der Haushaltsdebatte haben wir der Senatsverwaltung für Inneres, Digitalisierung und Sport (SenInnDS) zu dem Thema folgende Fragen gestellt:

  • Welche Überlegungen gibt es in der Berliner Verwaltung Algorithmen / KI einzusetzen?
  • Welche qualitätssichernde Prozesse, Tests und Dokumentationspflichten werden dabei zugrunde gelegt?
  • Welche Schutzmechanismen gibt es gegen Diskriminierungen oder andere beim Lernprozess entstehende Biase gibt es?

SenInnDS berichtet, dass es bis jetzt keine Vorgaben für den Einsatz von KI in der Berliner Verwaltung gibt, auch wird im IT-Bestands- und Planungsübersicht (IT-BePla) nicht erfasst, ob ein Fachverfahren ein KI-System einsetzt. Algorithmen zur Entscheidungsvorbereitung werden in den folgenden Senatsverwaltungen in verschiedenen Fachverfahren eingesetzt: Integration, Arbeit und Soziales; Finanzen; Kultur und Europa. Außerdem bei der Polizei Berlin, die Algorithmen zur Gesichtserkennung und forensischen Stimmenvergleich genutzt wird. Geplant ist in der Polizei in Zukunft KI-System zu verwenden zur Tatortanalyse und Prüfung von Bild- und Videomaterial auf Echtheit. Vereinzelt werden Algorithmen bereits genutzt, die dem Bereich der (schwachen) KI zugeordnet werden können (vgl. Antwort zu 19/11241 vom 10.03.2022).

Besonders der Einsatz von Algorithmen und KI in der Polizei zeigt, wie wichtig die Vorhaben aus dem Koalitionsvertrag sind. Es braucht Grundlagen was als KI-Systeme verstanden wird und Anforderungskataloge an die Software so wie einen transparenten Einsatz. Übrigens, in Schleswig-Holstein wurde im Februar das Digitalisierungsgesetz verabschiedet, welches zum ersten Mal den Einsatz von KI-Systemen auf Landesebene reguliert. Wer die restlichen Antworten des Senats auf unsere Nachfragen lesen möchte, kann diese als sortierte PDF-Datei abrufen.

Berichtsauftrag-Nr. 6

Welche Überlegungen gibt es in der Berliner Verwaltung Algorithmen / KI einzusetzen? Welche qualitätssichernde Prozesse, Tests und Dokumentationspflichten werden dabei zu Grunde gelegt? Welche Schutzmechanismen gibt es gegen Diskriminierungen oder andere beim Lernprozess entstehende Biase gibt es??

Hierzu wird berichtet:

Algorithmen werden in nahezu jeder Anwendung verwendet, sei es IT-Fachanwendungen oder Services im Backendbetrieb. Bezüglich der Nutzung von Künstlicher Intelligenz (KI) gibt es für die Berliner Verwaltung bisher keine Vorgaben in der IKT-Architektur, derzeit Version 1.8.

In den folgenden Antworten nach einer Ressortabfrage können je nach Auffassung unterschiedliche technische Prozesse und Komponenten unter dem Begriff KI subsumiert werden. Inwieweit IT- Systeme, die dem Technologiefeld der KI zugerechnet werden könnten, im Rahmen von Fachverfahren eingesetzt werden, wird nicht in der IT-Bestands- und Planungsübersicht (IT-BePla) erfasst. Der Einsatz von KI in der Verwaltung im Kontext von Big Data erscheint grundsätzlich denkbar. Derzeit sind jedoch keine Big Data Anwendungen auf Basis großer Mengen von Verwaltungsdaten bekannt. Vereinzelt werden Algorithmen bereits genutzt, die dem Bereich der (schwachen) KI zugeordnet werden können (vgl. Antwort 1 zu 18/28037 vom 28.06.2021 sowie Antwort 2 zu 19/11241 vom 10.03.2022).

Senatsverwaltung für Integration, Arbeit und Soziales:

KI, verstanden als Entscheidung über Algorithmen, wird u. a. in verschiedenen Fachverfahren im Ressort der SenIAS eingesetzt. Schwerpunkt ist dort vor allem die Vorgangsbearbeitung im Sinne von Prüfkriterien und damit verbundenen eingeleiteten technischen Entscheidungen zur Weiterbearbeitung. Im Ressort der SenIAS sind allerdings auch viele Leistungen an Einzelfallprüfungen und dementsprechende Ermessensentscheidungen gebunden. Diese werden nicht über KI abgebildet. Dennoch kann auch in diesen Fällen durch Algorithmen eine Entscheidungsvorbereitung erfolgen. Bei neuen Digitalisierungsvorhaben findet dieser Aspekt in geeigneten Fällen Beachtung. Auch bei der (Weiter-)Entwicklung von Fachverfahren wird KI im Sinne von Algorithmen mitgedacht. Dabei werden insbesondere die europaweiten Erfahrungen im sozialen Bereich zum Einsatz von KI beobachtet und hinterfragt.

Senatsverwaltung für Finanzen: Berliner Steuerverwaltung

  1. a)  Abteilung III – Steuerverwaltung – Anwendung: Steuerfestsetzung mit Risikomanagementsystem (RMS)
  2. b)  Automatische Unterteilung in Risikoklassen sowie Plausibilitätsprüfung von Angaben der Steuerpflichtigen durch ein Risikomanagementsystem (RMS)

Polizei Berlin:

Kriminaltechnisches Institut des Landeskriminalamtes Berlin, Fachbereich 44 (LKA KTI 44)

  1. a)  In beiden Arbeitsbereichen des LKA KTI 44: Gesichtserkennung und Sprecher- und Audioanalyse
  2. b)  LKA KTI 44 Gesichtserkennung: Gesichtserkennungssystem (vom BKA zur Verfügung gestelltes Verbundsystem zur Recherche von Bildern im erkennungsdienstlichen Datenbestand)
  3. c)  LKA KTI 44 Sprecher- und Audioanalyse: System Vocalise (Oxford Wave Research) zum automatischen forensischen Stimmenvergleich

Darüber hinaus gibt es Planungen zum Einsatz von KI-Systemen zur Automatisierung von Entscheidungsprozessen und zur Mustererkennungen (vgl. Antwort 3 zu S19/11241 vom 10.03.2022).

Polizei 20/20 – INSITU (“in situ” lat.: in originaler Lage, am Ursprungsort)

Im Rahmen der digitalen Transformation der Tatortarbeit ist geplant, Einsatzkräfte bei der Durchführung der Tatortbefundaufnahme durch KI-Systeme zur Erkennung von Objekten in Bilddaten zu unterstützen. In Fotos, Videos, bzw. im Kamerabild erkannte Objekte sollen den Anwendenden visuell gekennzeichnet und ggf. mit Handlungsempfehlungen verknüpft werden. Weiterhin sollen die am Einsatzort aufgezeichneten Tonaufzeichnungen mit Hilfe von KI-Methoden in Quasi-Echtzeit transkribiert werden. Dies soll innerhalb des Programms von Polizei 20/20 umgesetzt werden. Weiterhin dient die Beteiligung an Forschungsvorhaben zu Bild- und Videodateien dem Erkenntnisgewinn zum Nutzen von KI für den forensischen Bereich (z.B. Projekt Fake/ID.)

a) Projektbeteiligung zu Forschungsvorhaben zur Prüfung der Integrität von übersandtem Bild- und Videomaterial für kriminaltechnische Untersuchungen im LKA KTI.

Das Projekt INSITU wird als Teil des Programms Polizei 20/20 von der Zentralstelle Polizei 2020 des LKA Berlin, unter fachlicher Leitung des LKA KTI und der LPD koordiniert und soll als Smartphone-Applikation und Webanwendung sowie einem gemeinsam genutzten, auf dem XPolizei-Standard basierenden Datenmodell eine digitale Tatortdokumentation an polizeilich relevanten Einsatzörtlichkeiten bieten.

b) P 20/20 – INSITU: Objekterkennung in Bilddaten mittels Neuronaler Netze (z.B. Faster R- CNN, SSD, YOLO), Audiotranskription mittels LSH (locality-sensitive hashing, z.B. VOSK).

Senatsverwaltung für Kultur und Europa:

Prüfung des Einsatzes von KI zur automatisierten und barrierefreien Erschließung von Dokumenten (KIbarDok; unter Beteiligung der Kompetenzstelle digitale Barrierefreiheit und Usability). Der Einsatz erfolgt sowohl zur automatischen inhaltlichen Erfassung des umfangreichen digitalen Dokumentenbestandes (Fotos, Pläne etc.), zur Indexierung der Digitalisate und zur nachträglichen barrierefreien Lesbarkeit des Datenbestandes:

  1. a)  Zurzeit wird in einem Forschungsvorhaben der Obersten Denkmalschutzbehörde im Kontext des Fachverfahrens elektronische denkmalschutzrechtliche Genehmigung (eDG) als Teil des Fachverfahrens elektronisches Bau- und Genehmigungsverfahren (eBG) der Senatsverwaltung für Stadtentwicklung, Bauen und Wohnen die Anwendung erprobt. Somit erfolgt die Anwendung im Bereich Denkmalschutz, -pflege. Bei positiver Erprobung kann diese Anwendung auf den Bereich Bauaufsicht ausgerollt werden.
  2. b)  Im Rahmen der Infrastruktur der Fachanwendung eDG ist bei positivem Ergebnis eine WEB App „KIBARDOK Services“ geplant, die das Fachwissen der Denkmalbehörden (ca. 400- 500 000 Dokumente) nutzbar macht und barrierefrei bereitstellen wird. Die Anwendung beinhaltet einen Wissensbereich für die Analyse und Aufbereitung sowie einen Anwenderbereich zur KI basierten Nutzung der Ergebnisse der Dokumentenanalyse. Diese Anwendungen nutzen für die Dokumentenanalyse neuronale Netze und für deren Aufbereitung Algorithmen des machine learning (Neuro-Linguistische Programmieren NLP sowie für die Zusammenfassung der Texte Algorithmen der neurolinguistischen Sprachgenerierung Natural Language Generation (NLG).

Bezüglich qualitätssichernder Prozesse, Tests und Dokumentationspflichten sowie Schutzmechanismen gegen Diskriminierungen oder andere beim Lernprozess entstehende Biase liegen keine Erkenntnisse vor. Für das Technologiefeld der KI ist derzeit keine Federführung festgelegt. Jede verfahrensverantwortliche Stelle prüft und entscheidet in ihrem eignen Zuständigkeitsbereich über den Einsatz von KI.

Print Friendly, PDF & Email

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.

Durch die weitere Nutzung der Website stimmen Sie der Verwendung von Cookies zu. weitere Informationen

Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest oder auf "Akzeptieren" klickst, erklärst du sich damit einverstanden.

Schließen