Stellungnahme des Ethikrates zu Künstlicher Intelligenz
Bereits im Jahr 2020 hatte ich mit mit Hans Jagnow Gedanken über die Fragen gemacht, wie eine “Politik der künstlichen Intelligenz” aussieht. Nun hat der Deutsche Ethikrat eine ausführliche Stellungnahme zu Künstlicher Intelligenz (KI) unter dem Titel “Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” veröffentlicht. Interessant ist das Kapitel “Öffentliche Verwaltung”, besonders im Kontext der Forderung des derzeitigen Finanzsenators durch KI dem Fachkräftemangel entgegenzuwirken. Die Stellungnahme des Deutschen Ethikrats kann online sowohl aus vollständige Stellungnahme und Kurzfassung heruntergeladen werden.
Die Stellungnahme geht auf die folgenden Bereiche ein: Technische und Philosophische Grundlagen, auswgewählte sektorspezifische Empfehlungen und Querschnittsthemen und Übergreifende Empfehlungen. Aus den Empfehlungen geht hervor, dass die Verwaltung in Berlin ertüchtigt werden sollte, bevor wir über Einsparungen durch Algorithmen oder sogenannte KI sprechen können. Dafür braucht es Fortbildungen und Fachpersonal.
Ein anschauliches Beispiel wie die Verwaltung und das Personal auf Algorithmen vorbereitet werden kann, ist die Handreichung für Schulen zu ChatGPT. Zudem braucht es etablierte Regelungen, welche Transparenz garantieren – etwa ein Transparenzregister für Algorithmen und ein Transparenzgesetz, welches die Fraktion Bündnis 90/Die Grünen in Berlin und Die Linke eingebracht haben.
Im zweiten Teil wird neben Medizin, Bildung, Öffentlicher Kommunikation und Meinungsbildung auch auf die Öffentliche Verwaltung eingegangen und folgende Empfehlungen ausgesprochen:
Empfehlung Verwaltung 1: Die mit automatisierten Entscheidungshilfen (ADM-Systemen) einhergehende verstärkte Standardisierung und pauschale Kategorisierung von Einzelfällen muss umso stärker hinterfragt und um spezifisch einzelfallbezogene Erwägungen ergänzt werden, je intensiver die betroffene Entscheidung individuelle Rechtspositionen berührt.
Empfehlung Verwaltung 2: Es müssen geeignete technische und organisatorische Instrumente zur Vorkehrung gegen die manifeste Gefahr eines Automation Bias bereitgestellt werden, die es den Fachkräften erschweren, selbst bei einer Letztentscheidungskompetenz der algorithmischen Entscheidungsempfehlung unbesehen zu folgen. Es ist zu prüfen, ob eine Umkehrung der Begründungspflicht (nicht eine Abweichung, sondern ein Befolgen ist zu rechtfertigen) hier eine geeignete Vorkehrung sein kann.
Empfehlung Verwaltung 3: Aufgrund ihrer Grundrechtsbindung sind an staatliche Einrichtungen bei der Entwicklung und Nutzung algorithmischer Systeme hohe Anforderungen in Bezug auf Transparenz und Nachvollziehbarkeit zu stellen, um den Schutz vor Diskriminierung zu gewährleisten sowie Begründungspflichten erfüllen zu können.
Empfehlung Verwaltung 4: Für Softwaresysteme in der Öffentlichen Verwaltung müssen Qualitätskriterien verbindlich und transparent festgelegt werden (in Bezug auf Genauigkeit, Fehlervermeidung, Unverzerrtheit und so weiter). Ebenso bedarf es einer Dokumentation der jeweils eingesetzten Methoden. Diesbezüglich sollten auch aktuelle Beschaffungspraktiken, in deren Verlauf staatliche Behörden Softwarelösungen kaufen, einer kritischen Prüfung unterzogen werden.
Empfehlung Verwaltung 5: Überall dort, wo algorithmische Systeme Einsatz in der Öffentlichen Verwaltung finden, gilt es, Sorge zu tragen, dass die Personen, die diese Systeme anwenden, über die erforderlichen Kompetenzen im Umgang damit verfügen. Dazu gehört neben Kenntnis der Verwendungsweisen auch das Wissen um die Limitationen und möglichen Verzerrungen, um Systeme angemessen einsetzen zu können.
Empfehlung Verwaltung 6: Die Einsichts- und Einspruchsrechte Betroffener müssen auch beim Einsatz algorithmischer Systeme effektiv gewährleistet werden. Dazu bedarf es gegebenenfalls weiterer wirksamer Verfahren und Institutionen.
Empfehlung Verwaltung 7: In Öffentlichkeit, Politik und Verwaltung sollte eine Sensibilisierung gegenüber möglichen Gefahren von Automatisierungssystemen, wie etwa Verletzungen der Privatsphäre oder Formen systematisierter Diskriminierung, erfolgen. Dazu gehört eine öffentliche Debatte darüber, ob es in bestimmten Kontexten überhaupt einer technischen Lösung bedarf.
Empfehlung Verwaltung 8: Im Bereich des Sozialwesens ist sicherzustellen, dass ADMSysteme elementare fachliche Standards von sozialprofessionellen Interaktionen (z. B. gemeinsame Sozialdiagnose oder Hilfeplanung als Teil therapeutischer bzw. unterstützender Hilfeleistung) nicht unterlaufen oder verdrängen. Dies beinhaltet insbesondere Maßnahmen, die Vergröberungen individueller Fallkonstellationen und -prognosen durch die ADMinduzierte grobklassifizierende Einteilung von Fall- und/oder Leistungsberechtigtengruppen verhindern. Dabei ist Sorge zu tragen, dass die Feststellung individueller Hilfebedarfe nicht erschwert wird und es zu keiner schleichenden Aushöhlung der sozialrechtlich gebotenen Identifizierung individueller Hilfebedarfe zugunsten einseitiger externer Interessen an Gefahrenminimierung oder Kostenersparnis kommt.
Empfehlung Verwaltung 9: Die Arbeit von Gefahrenabwehrbehörden einschließlich der Polizei betrifft besonders grundrechtssensible Bereiche. Dies wirkt sich auf die Reichweite eines zulässigen Einsatzes von algorithmischen Systemen in der prädiktiven Polizeiarbeit aus. Risiken wie Verletzungen der Privatsphäre oder potenziell unzulässige Diskriminierungen der von dem Einsatz betroffenen Personen müssen mit Chancen auf erhebliche Verbesserungen der staatlichen Gefahrenabwehr sorgfältig abgewogen und in ein angemessenes Verhältnis gebracht werden. Hierfür erforderliche gesellschaftliche Aushandlungsprozesse sollten umfangreich geführt werden. Dabei ist der diffizilen Bestimmung des Verhältnisses von Freiheit und Sicherheit Rechnung zu tragen. Jegliche Gesetzesübertretung zu verhindern, wäre mit rechtsstaatlichen Mitteln nicht möglich.
