Roadmap in ein neues Zeitalter – Berlin braucht eine KI-Governance

Berlin muss seine Verwaltung fit machen, um KI-Technologien transparent und effektiv einzusetzen. Bündnis 90/Die Grünen fordern den Senat daher auf, eine ressortübergreifende KI-Governance zu etablieren, die sowohl auf etablierter KI-Ethik wie der des Deutschen Ethikrats aufbaut als auch Rechtssicherheit für „First Mover“ in Wirtschaft, Verwaltung, Wissenschaft und Zivilgesellschaft garantiert. Unser Antrag “Roadmap in ein neues Zeitalter – KI-Governance für Berlin vorlegen” geht am Donnertag ins parlamentarische Verfahren (Drucksache 19/1670).

Er ist auch das Ergebnis der Auswertung der Anhörung von Expert*innen im Ausschuss für Digitalisierung und Datenschutz. Zusätzlich wurde am 21. Mai der AI Act, ein einheitlicher Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union, verabschiedet. Berlin muss jetzt die nötigen Schritte unternehmen, um die Umsetzung des AI Acts vorzubereiten.

Berlin nutzt bereits bei der Polizei, der Steuerverwaltung, beim Chatbot Bobbi oder bei Übersetzungen automatisierten Systemen und KI, jedoch ohne transparent über die Konsequenzen zu berichten. Dies kann das Vertrauen in die Digitalisierung und den Einsatz von automatischen Entscheidungssystemen beschädigen. Das von Bündnis 90/Die Grünen geforderte Transparenzregister ist daher ein wichtiger Baustein, um das Vertrauen der Bürger*innen in die Digitalisierung zu sichern!

Das Abgeordnetenhaus wolle beschließen:

Der Senat wird aufgefordert, eine ressortübergreifende KI-Governance zu etablieren, die sowohl auf etablierter KI-Ethik wie der des Deutschen Ethikrats aufbaut als auch  Rechtssicherheit für „First Mover“ in Wirtschaft, Verwaltung, Wissenschaft und Zivilgesellschaft garantiert.

Es gilt, Entwicklung und Anwendung von KI als Schlüsseltechnologie anhand kurz-, mittelund langfristiger Ziele zu stärken und die bereits vorhandenen Politiken des Senats aufeinander abzustimmen.

Dabei soll insbesondere das Ziel verfolgt werden,

1. die öffentlichen Stellen Berlins für den Einsatz von KI-Technologien fit zu machen – von der Senatsverwaltung bis zum Bürgeramt.
2. den Vollzug der auf EU-Ebene beschlossenen „Verordnung des Europäischen Parlaments und des Europäischen Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (AI Act) bestmöglich vorzubereiten und die Zeit bis zum vollständigen Inkrafttreten proaktiv zu nutzen, etwa hinsichtlich der Unterstützungsangebote für Startups und KMU.
3. Unterstützungs- und Beratungsbedarfe mit und für Berliner Akteur:innen aus dem Kunst- und Kulturbereich, aus Wissenschaft, Schule und Bildung beispielsweise zu Fragen von Urheber:innenschaft im Zuge neuer KI-Technologien zu identifizieren und auf den Weg zu bringen.
4. auf Grundlage eines fortlaufenden Austauschs mit Beteiligten aus Forschung und Praxis, Potenziale der technischen Entwicklungen für den schulischen Alltag zu identifizieren und einen souveränen und ethisch-bewussten Umgang mit möglichen Risiken und Konsequenzen von KI an Schulen und in lebenslangem Lernen zu gewährleisten.
5. einen Dialog mit Wissenschaft, Wirtschaft und Zivilgesellschaft zu initiieren, um miteinander und mit dem AI Office, als zentraler Stelle in der gesamten EU, Wege hin zu transparenten und diskriminierungsfreien Algorithmen zu erarbeiten.
6. ein öffentlich zugängliches Transparenzregister für automatisierte Systeme und Künstliche Intelligenz (KI) nach Vorbild von Helsinki und Amsterdam nach dem „Algorithmic Transparency Standard“ des Städtenetzwerks Eurocities aufzubauen.
7. im Rahmen der Digitalstrategie Berlins („Gemeinsam Digital: Berlin“) gezielt potentielle Anwendungsfälle für KI in der öffentlichen Verwaltung zu identifizieren.
8. die zur Stärkung der Innovationskraft eingeführten EU-Instrumente „Pre-Commercial Procurement“ (PCP) und „Public Procurement of Innovative solutions“ (PPI) dahingehend zu nutzen, für Herausforderungen der Berliner Verwaltung und ihrer Landesunternehmen kooperativ mit Startups und KMUs Lösungen bis zur Marktreife – bestenfalls zur Technologieführerschaft –zu entwickeln. Die Palette der KI-bezogenen Förderangebote soll darüber hinaus um KI-Projekte im Sinne einer gemeinwohlbezogenen „Open Innovation“ Strategie erweitert werden.
9. die strategische Verzahnung der KI-Akteure in Berlin zu befördern und dabei etablierte Institutionen wie ITDZ, CityLAB, die Digitalagentur, Open-Source Kompetenzzentrum, ODIS und Initiativen wie K.I.E.Z. einzubinden.
10. Wertschöpfung und Dienstleistung auf Grundlage von KI langfristig als Basisbaustein der Innovationsstrategie Berlin-Brandenburg zu berücksichtigen und dafür einen Fahrplan zu erarbeiten. Im Hinblick auf die Bedeutung der Kooperationen von Wissenschaftseinrichtungen, etablierten Unternehmen, lokaler KMUs und Startups für Berlin, soll der Komplex „Automatisierte Systeme und KI“ zudem als sechster Themenbereich in das Reallabore-Programm aufgenommen werden.
11. die Zusammenarbeit mit Brandenburg auszubauen, insbesondere bei der Ansiedlung von Rechenzentren, Daten-, Strom- und Abwärme-Infrastruktur.
12. die natur-, sozial- und geisteswissenschaftliche Forschung zu KI und den Folgen ihres Einsatzes im Sinne einer Technikfolgenabschätzung zu intensivieren.

Die Risiken in den Bereichen der Gefahrenabwehr und Strafverfolgung durch neue Phänomene von Kriminalität unter Einsatz von KI sind zu erörtern. Beim Einsatz von KI durch die Sicherheitsbehörden ist die Verhältnismäßigkeit des Einsatzes unter Abwägung der Auswirkungen auf Grund- und Freiheitsrechte festzustellen. Insoweit muss der Gesetzgeber verpflichtet werden, Befugnisse der Strafverfolgungs- und Gefahrenabwehrbehörden in eine Überwachungsgesamtrechnung einzubeziehen.