Politik der Künstlichen Intelligenz
Ein Diskussionsbeitrag von Stefan Ziller und Hans Jagnow
Die politische Auseinandersetzung über die Digitalisierung unserer Gesellschaft ist in vollem Gange — nicht erst seit der Corona-Krise. Wir verlegen Teile unserer Arbeitswelt ins Home Office. Wir scheitern an innovativen Lösungen für den Schulbetrieb. Und wir diskutieren über große Buzzwords der Marketing-Abteilungen der IT-Konzerne: Big Data, Cloud, Blockchain und K.I., kurz für Künstliche Intelligenz. Dahinter steht die rasante Weiterentwicklung von Prozessen, die seit Jahren und Jahrzehnten absehbar sind.
Aber wie sieht sie aus, eine “Politik der künstlichen Intelligenz”? Welche Auswirkungen hat sie in einem Bereich, der von der Öffentlichkeit nur am Rande wahrgenommen wird: den Entscheidungs- und Modellierungsprozessen von öffentlicher Verwaltung?
Wir möchten diesen Fragen nachgehen und einige Denkanstöße geben. Nicht zuletzt wollen wir damit politische Gestaltungsspielräume offenlegen.
Opt-Out wird die digitale Verwaltung nur bedingt ermöglichen
Welche praktischen Konsequenzen ergeben sich aus einer öffentlichen Verwaltung, die perspektivisch weitestgehend automatisierte Entscheidungen treffen wird?
Schon heute gibt es ein diffuses Gefühl des Kontrollverlustes über die eigenen Daten, den wir in der Auseinandersetzung über die Corona-Warn-App erlebt haben. Das datenschutzfreundliche Ergebnis der Debatte zeigt auch, wie wichtig die öffentliche Diskussion über das Thema ist.
Diese Herausforderung, dem Kontrollverlust zu begegnen, hat eine starke Relevanz für den öffentlichen Sektor. Ein “Opt-Out”, wie das Abmelden von einem nicht mehr gelesenen Newsletter, wird zukünftig nicht in allen Fällen funktionieren. Selbstverständlich braucht es für jeden Anwendungsfall eine gesetzliche Grundlage. Aber schon heute zeichnet sich ab, dass wir uns als Bürger*innen von der Modernisierung unserer staatlichen Verwaltung nicht lossagen können. Die Debatte um den Einsatz von neuen Technologien in der öffentlichen Verwaltung muss dringend geführt werden. Die Herausforderung ist, diese Debatte informiert, respektvoll und partizipativ zu führen.
Handlungsbedarf: Digitale Breitenbildung! Die öffentliche Hand muss sich dazu bspw. an Digitalen Tage, Digitalen Wochen beteiligen und über einen digitalen Tag der offenen Verwaltung nachdenken.
Grundrecht auf menschliche Entscheidung
Die aktuelle Behäbigkeit, mit der sich Verwaltung in das digitale Zeitalter hineinbewegt, darf nicht über die Relevanz der Folgen dieser Entwicklungen hinwegtäuschen. Im Rahmen des Effizienzgebotes ist es nur folgelogisch, dass eine Vielzahl von Entscheidungen zukünftig nicht mehr einzeln durch Sachbearbeiter*innen getroffen werden, sondern automatisiert durch einen Algorithmus. Leicht fällt die Vorstellung schon heute bei der automatisierten Erstellung von ALG-II-Bescheiden oder die Berechnung des Wohngeldes. Aber auch das automatisierte Ausstellen von Bußgeldbescheiden nach zu schnellem Fahren liegt auf der Hand und bereits heute stellen sich Fragen nach gerichtsfesten Abläufen.
Dazu kommt die Erkenntnis, dass ein Algorithmus nur so stark ist, wie die Verbindung zwischen der Qualität der eingegebenen Daten und den Bewertungskriterien seiner Programmierung. Algorithmen können bestehende Diskriminierungen verstärken und relevante Faktoren könnten in der Entscheidung durch fehlende Einbindung unterschlagen werden. Algorithmen können auch völlig neue Diskriminierungsformen zur Folge haben. Aber die gemeinhin unterstellte Objektivität ihrer Entscheidungen ist vor dem Hintergrund dieser Abhängigkeiten wohl eher ein Trugschluss. Das gilt natürlich für heutige Verwaltungsentscheidungen, insbesondere dort wo Ermessensspielräume existieren, auch. Aber bei einer Entscheidung einer Sachbearbeiter*in ist die Verantwortlichkeit und Zuordnung klar.
Keineswegs sollte dabei der Eindruck entstehen, dass algorithmische Unterstützung von Verwaltungsprozessen eine negative Entwicklung ist. Im Gegenteil, es kann Sachbearbeiter*innen entlasten, die Zahl menschlicher Fehler minimieren und mehr Planbarkeit im Behördenalltag erlauben. Am Ende können Anliegen und Prozesse schneller bearbeitet werden, Wartezeiten verkürzen sich auf wenige Minuten: Antrag in der App ausfüllen und kurz darauf steht der Bescheid zum Download zur Verfügung. Aber wir müssen uns der Entwicklung im kritischen Diskurs nähern: ein Diskurs über das fehlende Vertrauen in automatisierte Entscheidungen und über die Menschlichkeit der Beziehung zwischen Staat und Bürger*innen.
Dabei stellt sich unabhängig vom Einsatzzweck einer algorithmischen Entscheidung insbesondere die Frage der sogenannten Accountability — also der Verantwortlichkeit für die Entscheidung. Im Privatbereich, z.B. im autonomen Fahren, diskutieren wir dabei über Haftungs- und Ethikfragen bei der Unfallverursachung. Im Bereich der öffentlichen Verwaltung und Politik findet diese Diskussion bisher zu wenig statt. Vielleicht auch, weil zwischen (politischer) Entscheidung und (konkretem) Ergebnis des (internen) Verwaltungshandelns die Verantwortung durch die dahinterliegenden komplexen Prozesse nach außen ohnehin unklar bleibt. Wie muss sich das also ändern, wenn Verwaltungshandeln zukünftig maßgeblich automatisiert erfolgt?
Es lohnt sich vor diesem Hintergrund ein Blick zurück auf den Begriff der “Verantwortungsethik” von Max Weber: Entscheidungen sind normativ nach ihrem zu erwartenden Ergebnis zu beurteilen, nicht etwa nach dem Umsetzungserfolg einer ideologischen Grundlinie. Übertragen auf unsere aktuellen Herausforderungen bedeutet das eine Beurteilung der Einführung von öffentlich-rechtlichen Algorithmen nach ihrem zu erwartenden Ergebnis auf die zukünftige Ausgestaltung der hoheitlichen Beziehung zwischen Staat und Bürger*in. Der Diskurs muss offen und im Rahmen einer Folgenabschätzung geführt werden. “Digitalisierung als Selbstzweck”, also um nur irgendwie digital zu sein, schließt in der Modernisierung der öffentlichen Verwaltung diejenigen aus, die eigentlich von ihr profitieren sollten: Nutzer*innen und Bürger*innen.
Das wohl stärkste Argument einer kritischen Betrachtung ergibt sich aber aus Artikel 1, Absatz 1 des Grundgesetzes: Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlichen Gewalt. Inhaltlich wird diese Proklamation unter anderem durch das Kant’sche Instrumentalisierungsverbot ausgefüllt. “[D]er Mensch kann von keinem Menschen […] bloß als Mittel, sondern muss jederzeit zugleich als Zweck gebraucht werden und darin besteht seine Würde.” Im modernen juristischen Diskurs ist dieser Grundgedanke als “Objektformel” in die Literatur eingegangen. Ihr zufolge darf der Mensch nicht zum bloßen Objekt staatlichen Handelns reduziert werden. Dieser Kerngedanke zieht sich auch seit Jahrzehnten durch die verfassungsgerichtliche Rechtsprechung im Bereich der Datenerfassung und der staatlichen Überwachung, herausragend mit der Entscheidung zum Mikrozensus im Jahr 1969.
Handlungsbedarf: Daraus leitet sich aus Sicht der Verfasser ein Grundrecht auf eine menschliche Entscheidung ab. Es verbrieft den Anspruch, dass eine staatliche Ordnung aus der Beziehung zwischen Menschen besteht und hoheitliches Handeln mit dem geschulten, adaptiven und empathischen Blickwinkel eines menschlichen Sachbearbeiters ausgeführt wird und seiner persönlichen Verantwortlichkeit zugeordnet werden kann. Die verfassungsmäßige Konkretisierung eines solchen Grundrechts würde die Position und das Vertrauen der Bürger*innen in die staatliche Ordnung stärken und setzt digitalisierten Prozessen einen engen Rahmen, der die Beziehung zwischen menschlichen Akteuren ergänzt und unterstützt — und nicht ersetzt. Für die digitale Verwaltung bedeutet ein solches Grundrechts, dass sie einen Aufbau von Ressourcen für die Umsetzung des Rechts auf menschliche Überprüfung sicherstellen muss. Hierfür wird mindestens ein Teil der durch Automatisierung eingesparte Ressourcen benötigt.
Der Digitale Staat und seine Kontrolle
Das Szenario der automatisierten Verwaltungstätigkeit lässt sich beliebig weiterentwickeln. Wir werden uns fragen müssen, in welchem Raum K.I. und Algorithmen in der Zukunft für die öffentliche Verwaltung, vielleicht auch Regierungshandeln, parlamentarische Entscheidungen und eine zunehmend überlastete Justiz eine Rolle spielen werden — und sollten.
Die Möglichkeiten, so zeigen es auch die Präsentationen auf einschlägigen Fachkongressen, sind technisch keine Zukunftsmusik, sondern schon mit heutigen Mittel auf beeindruckende Art und Weise umsetzbar. Bis zu höchsten Entscheidungsebenen können Algorithmen verschiedene Faktoren automatisiert beurteilen und Entscheidungsgrundlagen aufgrund von Risikoabwägungen vorbereiten. Gesetzesvorlagen könnten — sofern sie maschinenlesbar verfasst werden — mithilfe von K.I. und Algorithmen automatisch auf Querverbindungen zu anderen Regulierungen analysiert und Folgeabschätzungen aufgrund der vorhandenen Daten erstellt werden. Und nicht zuletzt könnte unsere Justiz eine Vielzahl einfacher Entscheidungen automatisch bearbeiten lassen.
Wie gehen wir also um mit einer Zukunft, in der wir unsere Gesellschaft zunehmend in dem Spannungsfeld zwischen Effizienz auf der einen Seite und gefühlter oder realer Machtlosigkeit auf der anderen Seite organisieren müssen?
Es braucht zunächst eine umfassende Transparenz über Funktionsweisen von Algorithmen und ihrer Entstehungsgeschichte. Technische Dokumentation, genauso wie eine zivilgesellschaftliche Übersetzung der technischen Beschreibungen. Eine Übersicht aller Algorithmen, die in der digitalen Verwaltung zum Einsatz kommen (als Algorithmenregister) sollte genauso zum Standard von öffentlichen Stellen gehören, wie ein jährlicher und unabhängiger K.I.-Bericht mit einer Auseinandersetzung zu Risiken und Herausforderungen. Vorbild dafür könnten die heutigen Datenschutzberichte sein.
Handlungsbedarf: Die Komplexität der Thematik sowie ihre tiefgreifenden Folgen legen nahe, dass für diese Aufgabe eine kompetente Aufsichtsbehörde benötigt wird. Vorbild können die Verbraucherzentralen aber auch die Datenschutzbehörden der Länder und des Bundes sein, deren wertvolle Arbeit mit der Einführung der Datenschutz-Grundverordnung (DSGVO) auch vermehrt öffentliche Resonanz erfahren. Klar ist: Eine unabhängige Aufsicht ist Voraussetzung für mehr Transparenz. Sie kann Vertrauen in die öffentlich-rechtlichen Algorithmen schaffen und ihre Funktionsweisen transparent machen. Nicht zuletzt fungiert eine solche Aufsicht als Kontrollgremium und Frühwarnsystem für eine Fehlverwendung von Algorithmen im Bereich der staatlichen Aufgaben.
Handlungsbedarf: Um die Grundlagen dafür zu legen, müssen wir eine Diskussion über die gesetzlichen Grundlagen des digitalisierten Öffentlichen Rechts beginnen. Es braucht eine werteorientierte Neufassung, die Digitalisierung als Standard und nicht als Bonus begreift. Hier ist auch die Wissenschaft gefragt: eine Initiative Digitales Staatsrecht 2025 sollte die klügsten Köpfe zusammenrufen, um die Grundlagen unserer staatlichen Ordnung auf den Prüfstand eines Zukunfts-TÜV zu stellen und Ansatzpunkte für eine digitale Neuordnung zu finden.
Politik der Datenethik
Zusammenfassend ist festzuhalten, dass die Zukunft eines digitalen Staates in sich kein Automatismus ist. Es ist an uns, diese Zukunft klug und vorausschauend zu gestalten und für die Datengesellschaft einen neuen Rahmen für das Zusammenwirken von Menschen und Maschine zu entwickeln. Die aktuelle Krise zeigt, wie wichtig diese Gestaltung ist: dort, wo Gesundheitsdaten und ihre Nutzung unser Zusammenleben (oder unsere bewusste Distanz) maßgeblich verändern, brauchen wir klare Grundlinien eines gesellschaftlichen Konsenses.
Die Initiative „Digitales Staatsrecht 2025“, den Ausbau eines Grundrechts auf menschliche Entscheidung sowie die Stärkung von Transparenz und Vertrauen durch ein öffentliches Algorithmen-Register in Ergänzung zu einem KI-Bericht — aus Sicht der Verfasser geeignete Maßnahmen, die uns helfen, auch in Staat und Verwaltung mit den rasanten Entwicklungen in der Digitalisierung Schritt zu halten.
Dabei müssen wir die Bürger*innen und ihr Recht auf transparente Algorithmen und die Möglichkeit einer menschlichen Überprüfbarkeit in den Mittelpunkt nehmen, um eine gemeinsame und solidarische Zukunft zu entwickeln. Aktiv an Utopien arbeiten — das muss das Motto einer an Datenethik orientierten Politik sein.
