Stefan Ziller

GRÜN für Marzahn, Biesdorf, Kaulsdorf, Mahlsdorf und Hellersdorf

Abgeordnetenhaus Berlin Datenschutz KI Netzpolitik & Digitalisierung Senat Verwaltung 

KI-basierte Entscheidungshilfen für die Berliner Verwaltung

Auch der Berliner Senat kommt im neuen Jahr nicht mehr am Thema “Künstliche Intelligenz (KI)” vorbei. In der ersten Digitalausschusssitzung des Jahres haben Mitarbeiter*innen aus der Senatskanzlei, der Senatsverwaltung für Inneres und Sport sowie der Senatsverwaltung für Finanzen vorgestellt, wie KI-Technologie aktuell in der Verwaltung eingesetzt wird und welche Planungen es für die nächste Zeit gibt. Es lohnt sich, die erste Stunde des Ausschusses auf YouTube anzuschauen, um einen Eindruck zu bekommen. Positiv zu sehen ist auch, dass die Senatskanzlei inzwischen an der von Bündnis 90/Die Grünen geforderten KI-Governance arbeitet. Im Frühjahr soll sie vorliegen.

Zeitgleich hat die Senatskanzlei einen Bericht mit Anwendungenbeispielen von SenFin, SenWiEnBe und SenWGP vorgelegt (Rote Nr. 2098). In dem Bericht werden Anwendungen vorgestellt, die als „KI-basierte Entscheidungshilfen“ bezeichnet werden, also jene Anwendungen, die entweder Entscheidungen treffen oder Empfehlungen aussprechen.

Senatsverwaltung für Finanzen (SenFin)

Seit 18. November 2024 befindet sich der KI-Assistent “BAK_KI & friends” im Einsatz. Das Tool ist zum einen ein Chatbot, welcher allgemeine Fragen beantworten soll, zum anderen können Dokumente hochgeladen und verarbeitet werden. Neben SenFin können auch der Landesfinanzservice und die Verwaltungsakademie (VAK) die KI-Tools nutzen. Besonders gut, SenFin verwendet das Open-Source-Model Llama 3.1.

Schön wäre, wenn alle Beschäftigten der Berliner Verwaltung diese Tools nutzen könnten. Dass die Finanzverwaltung ihre finanziellen Ressourcen nutzt, um nur für ihre eigenen Beschäftigen KI-Tools bereitzustellen, die München oder Hamburg für alle Beschäftigten anbieten, lässt zumindest Fragen offen.

Den Einsatz von KI bei der Steuerfestsetzung mittels Risikomanagementsystem (RMS) habe ich bereits als Beispiel für einen Transparenzregister-Eintrag genutzt. Die eingesetzte KI hilft dabei, Risikoklassen zu definieren und unterstützt die Steuerbehörde, sich auf Fälle mit hohem Risiko für fehlerhaftes Angeben oder Steuerhinterziehung zu konzentrieren. Außerdem werden Algorithmen bei der Datenanalyse der steuerlichen Außenprüfung verwendet. So wie Webcrawler zur automatischen Analyse von Webseiten auf steuerrelevante Angaben im Fall des Internethandels.

Senatsverwaltung für Wirtschaft, Energie und Betriebe (SenWiEnBe)

KI werden bei der Berliner Energie und Wärme AG (BEW) verwendet, welche das genau sind, zu welchem Zweck und mit welchem Erfolg ließ SenWiEnBe offen. Eine solche Intransparenz fördert nicht gerade das Vertrauen in die Digitalisierung der Verwaltung.

Senatsverwaltung für Wissenschaft, Gesundheit und Pflege (SenWGP)

Vivantes setzt aktuell KI-Tools als Entscheidungsunterstützung bei etwa der Radiologie, Computertomografie (CT) oder dem Röntgen ein. Die Lösungen sind als Medizinprodukte zertifiziert. Eine Sensibilisierung über die Diskriminierung durch KI findet statt. Vivantes hat knappe Grundsätze für die Arbeit mit der KI:

  • Die menschliche Überprüfung bleibt weiterhin der Standard: Die KI-Entschei-dungsunterstützungssysteme dienen als Ergänzung und nicht als Ersatz für me-dizinisches Fachpersonal.
  • Es werden Schulungen zur Sensibilisierung für Anwenderinnen und Anwenderdurchgeführt: Mitarbeitende erhalten Schulungen zur Nutzung dieser Techno-logien und zur Erkennung potenzieller Fehler in Entscheidungen.
  • Es wird Transparenz gewährleistet: „Explainable AI“ Ansätze ermöglichen esuns bei einigen Produkten, Faktoren, die zu einer bestimmten Entscheidunggeführt haben, im Nachhinein zu analysieren bzw. für den Anwender transparent zu machen.

Für die KI-Governance wurde in der Digitalausschusssitzung folgender Entwurf vorgestellt:

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Durch die weitere Nutzung der Website stimmen Sie der Verwendung von Cookies zu. weitere Informationen

Die Cookie-Einstellungen auf dieser Website sind auf "Cookies zulassen" eingestellt, um das beste Surferlebnis zu ermöglichen. Wenn du diese Website ohne Änderung der Cookie-Einstellungen verwendest oder auf "Akzeptieren" klickst, erklärst du sich damit einverstanden.

Schließen