KI Archive - Stefan Ziller

6.Juni 2024 1 Comment

Bits & Berlin – Newsletter – 06/2024

In meinem Newsletter “Bits & Berlin” möchte ich wie gewohnt über aktuelle Themen aus meiner Arbeit zu Verwaltungsmodernisierung und -digitalisierung informieren.

Dieses Mal geht es um die KI-Governance in Berlin, die Digitalisierung bei den Senatsverwaltungen für Wissenschaft, Gesundheit und Pflege (SenWGP) sowie für Arbeit, Soziales, Gleichstellung, Integration, Vielfalt und Antidiskriminierung (SenASGIVA), die Behördennummer 115 und das öffentliche WLAN in Berlin.

Ergänzt wird der Newsletter durch Berichte aus dem Parlament und Einblicke in aktuelle Debatten rund um die Verwaltungstransformation in unserer Stadt.

Viel Spaß beim Lesen!

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Senat

30.Mai 2024 0 Comments

Transparenzregister: Watson zur Missbrauchs- und Betrugserkennung im Beihilfeumfeld

Anfang Mai hat die Fraktion Bündnis 90/Die Grünen den Senat aufgefordert, ein Transparenzregister für Künstliche Intelligenz (KI) für Berlin zu schaffen und so das Vertrauen in die Digitalisierung zu stärken. Solch ein Transparenzregister für KI ist auch nicht schwer umzusetzen. Als Beispiel habe ich die nötigen Informationen zum Einsatz von Watson bei der Senatsverwaltung für Finanzen angefragt (Drucksache 19/18763) und nach dem Algorithmic Transparency Standard von Eurocities nachgebaut.

Das folgende Beispiel für den Registereintrag “Missbrauchs- und Betrugserkennung im Beihilfeumfeld” wurde auf Grundlage der schriftlichen Anfrage 19/18763 und dem Bericht Rote Nr. 1506 erstellt und umfasst die wichtigsten Einträge nach dem Eurocities-Standard. Der Eintrag kann auch als .csv heruntergeladen werden und ich stelle diesen dem Senat gerne für das Open-Data-Portal oder als ersten Eintrag für ein Transparenzregister zur Verfügung. Das Beispiel zeigt, dass es schon mit einer einfachen Website auf Berlin.de möglich wäre, ein Transparenzregister wie in Helsinki herzustellen.

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Senat Verwaltung

20.Mai 2024 0 Comments

Roadmap in ein neues Zeitalter – Berlin braucht eine KI-Governance

Berlin muss seine Verwaltung fit machen, um KI-Technologien transparent und effektiv einzusetzen. Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren, die sowohl auf etablierter KI-Ethik wie der des Deutschen Ethikrats aufbaut als auch Rechtssicherheit für „First Mover“ in Wirtschaft, Verwaltung, Wissenschaft und Zivilgesellschaft garantiert. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” geht am Donnertag ins parlamentarische Verfahren (Drucksache 19/1670).

Er ist auch das Ergebnis der Auswertung der Anhörung von Expert*innen im Ausschuss für Digitalisierung und Datenschutz. Zusätzlich wurde am 21. Mai der AI Act, ein einheitlicher Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union, verabschiedet. Berlin muss jetzt die nötigen Schritte unternehmen, um die Umsetzung des AI Acts vorzubereiten.

Berlin nutzt bereits bei der Polizei, der Steuerverwaltung, beim Chatbot Bobbi oder bei Übersetzungen automatisierten Systemen und KI, jedoch ohne transparent über die Konsequenzen zu berichten. Dies kann das Vertrauen in die Digitalisierung und den Einsatz von automatischen Entscheidungssystemen beschädigen. Das von Bündnis 90/Die Grünen geforderte Transparenzregister ist daher ein wichtiger Baustein, um das Vertrauen der Bürger*innen in die Digitalisierung zu sichern!

Abgeordnetenhaus Datenschutz KI Netzpolitik & Digitalisierung Verwaltung

2.Mai 2024 0 Comments

Vertrauen stärken – Ein Transparenzregister für KI auch in Berlin

Bündnis 90/Die Grünen fordern den Senat auf, für den Einsatz von automatisierten Systemen und Künstlicher Intelligenz (KI) in der Verwaltung durch ein Transparenzregister ein Mindestmaß an Transparenz zu schaffen. Damit soll das Vertrauen in eine moderne und digitale Verwaltung gestärkt werden. Unser Antrag “Vertrauen in die Digitalisierung stärken – Ein Transparenzregister für Berlin” ist heute ins parlamentarische Verfahren gegangen (Drucksache 19/1624).

Das Transparenzregister für Berlin soll auf dem Algorithmic Transparency Standard von Eurocities aufbauen. Dieser wurde unter anderem von Barcelona und Brüssel entwickelt. Ein solches Transparenzregister wird auch vom Deutschen Ethikrat empfohlen. Auch die Experten, die im Ausschuss Digitalisierung und Datenschutz zur Anhörung zu Gast waren, empfahlen ein Register für KI-Algorithmen.

Ein Berliner Transparenzregister soll online, lizenzfrei, maschinenlesbar und interoperabel zur Verfügung stehen. Außerdem soll Zivilgesellschaft und Wissenschaft aktiv eingebunden um, um den Transparenzregister zu evaluieren und weiterzuentwickeln.

Abgeordnetenhaus Berlin Datenschutz KI Netzpolitik & Digitalisierung Open Source Verwaltung

8.April 2024 0 Comments

Einsatz von KI-Lösungen in der Berliner Steuerverwaltung

Die Berliner Steuerverwaltung setzt vermehrt auf künstliche Intelligenz (KI) und automatisierte Prozesse, um effizienter zu arbeiten und das Personal zu entlasten. Ein Bericht zeigt den Einsatz in den Finanzämtern (RN 1529). In Sachen Transparenz der Algorithmen muss die Berliner Steuerverwaltung aber noch nacharbeiten.

In der Berliner Steuerverwaltung werden regelbasierte Expertensysteme als Teilbereich der KI mit dem Risikomanagementsystem (RMS) eingesetzt. RMS ist ein Teilprojekt von KONSENS und zeigt verschiedene steuerlich relevante Zusammenhänge mittels eines maschinellen Risikofilters auf, um (menschliche) Entscheidungen vorzubereiten. Steuerfälle können so in Risikoklassen eingeteilt werden. Je nach Risikopotential der vorliegenden Steuererklärung erfolgt – unter Berücksichtigung der vergebenen Risikoklasse – eine vollautomatische Verarbeitung (sog. Autobescheid) oder eine Überprüfung durch die Dienstkräfte.

Im Zusammenhang mit dem Onlinehandel werden sog. Webcrawler eingesetzt, die Webseiten automatisiert zwecks Ermittlung steuerrechtlicher Sachverhalte analysieren, so dass konzipierte Prüfungen in Fällen des Internethandels vorgenommen werden können. Der Einsatz von KI wird zudem im Rahmen der Modernisierung von ELSTER und der Förderung der Digitalisierung durch KONSENS weiterhin angestrebt.

Abgeordnetenhaus Berlin Bits & Berlin KI Netzpolitik & Digitalisierung Verwaltung

5.März 2024 0 Comments

Bits & Berlin – Newsletter – 03/2024

In meinem Newsletter “Bits & Berlin” möchte ich wie gewohnt über aktuelle Themen aus meiner Arbeit zu Verwaltungsmodernisierung und -digitalisierung informieren.

Es geht um das ITDZ und die neue Leitung, IT-Sicherheit, das OZG 2.0, eine Anhörung zum Einsatz von Automatisierten Systemen und Künstlicher Intelligenz (KI) in der Verwaltung und den Datenschutzbericht 2022.

Und ich lade herzlich zum Fachgespräch „Verwaltung, aber modern – KI am Bürgertelefon?“ ein. Das Fachgespräch findet am 06.03.2024 um 18:30 Uhr im Abgeordnetenhaus statt (Anmeldung).

Viel Spaß beim Lesen!

Abgeordnetenhaus Berlin KI Netzpolitik & Digitalisierung Senat Verwaltung

15.November 2023 0 Comments

Wo unterstützt KI und ADM die Berliner Verwaltung?

Obwohl Berlin die Digitalisierung an vielen Stellen verpasst hat, wird von der Berliner Verwaltung bereits KI gestützte Software eingesetzt. Ich habe daher mal gefragt wo KI-Basierte Entscheidungshilfen in Berlin zum Einsatz kommen und wie es durch den Einsatz zu potentieller Diskriminierung kommt. Die Antwort (Rote Nummer 1270, Bericht Nr. 21, Seite 133 ff. ) teilt dabei in KI-Systeme welche keine Entscheidungen treffen und jene die Entscheidungen treffen. Klare Kriterien oder ein Tranzparenzregister gibt es immer noch nicht für den Einsatz von ADM (Automated Decision Making).

Im Vergleich zum letzten Doppelhaushalt sind Anzahl und Zwecke deutlich angestiegen. Derzeit gibt es 15 verschiedene Anwendungen mit KI-Systemen. Ein Transparenzregister wäre schon jetzt ohne Gutachten möglich und würde modernes Verwaltungshandeln transparent machen. Auch der Ethikrat ist zu dem Schluss gekommen, dass es beim Einsatz von KI-Systemen in Verwaltung bestimmte Voraussetzung und Maßnahmen braucht. Zwar Ordnet der Senat das Potential von Diskriminierung richtig ein, benennt jedoch keine Maßnahmen oder Strategie für die Zukunft.

Abgeordnetenhaus Berlin Bits & Berlin KI Netzpolitik & Digitalisierung Senat Verwaltung

20.September 2023 0 Comments

Bits & Berlin – Newsletter – 09/2023

Mit meinem Newsletter “Bits & Berlin” melde ich mich zurück aus der Sommerpause und möchte wie gewohnt über aktuelle Themen aus meiner Arbeit zu Verwaltungsmodernisierung und -digitalisierung informieren.

In diesem Newsletter geht es unter anderem um die anstehenden Haushaltsberatungen zum Berliner Haushalt für die Jahre 2024 und 2025, meinem Antrag zum Open-Source Sabbatical, der unendlichen Geschichte der E-Akte sowie unsere Anhörung zum Transparenzgesetz im Ausschuss für Digitalisierung und Datenschutz.

Viel Spaß beim Lesen!

Abgeordnetenhaus Datenschutz KI Nachhaltigkeit - lokale Agenda 21 Netzpolitik & Digitalisierung Senat Verwaltung

27.August 2023 0 Comments

Stellungnahme des Ethikrates zu Künstlicher Intelligenz

Bereits im Jahr 2020 hatte ich mit mit Hans Jagnow Gedanken über die Fragen gemacht, wie eine “Politik der künstlichen Intelligenz” aussieht. Nun hat der Deutsche Ethikrat eine ausführliche Stellungnahme zu Künstlicher Intelligenz (KI) unter dem Titel “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” veröffentlicht. Interessant ist das Kapitel “Öffentliche Verwaltung”, besonders im Kontext der Forderung des derzeitigen Finanzsenators durch KI dem Fachkräftemangel entgegenzuwirken. Die Stellungnahme des Deutschen Ethikrats kann online sowohl aus vollständige Stellungnahme und Kurzfassung heruntergeladen werden.

Die Stellungnahme geht auf die folgenden Bereiche ein: Technische und Philosophische Grundlagen, auswgewählte sektorspezifische Empfehlungen und Querschnittsthemen und Übergreifende Empfehlungen. Aus den Empfehlungen geht hervor, dass die Verwaltung in Berlin ertüchtigt werden sollte, bevor wir über Einsparungen durch Algorithmen oder sogenannte KI sprechen können. Dafür braucht es Fortbildungen und Fachpersonal.