Wo unterstützt KI und ADM die Berliner Verwaltung?
Obwohl Berlin die Digitalisierung an vielen Stellen verpasst hat, wird von der Berliner Verwaltung bereits KI gestützte Software eingesetzt. Ich habe daher mal gefragt wo KI-Basierte Entscheidungshilfen in Berlin zum Einsatz kommen und wie es durch den Einsatz zu potentieller Diskriminierung kommt. Die Antwort (Rote Nummer 1270, Bericht Nr. 21, Seite 133 ff. ) teilt dabei in KI-Systeme welche keine Entscheidungen treffen und jene die Entscheidungen treffen. Klare Kriterien oder ein Tranzparenzregister gibt es immer noch nicht für den Einsatz von ADM (Automated Decision Making).
Im Vergleich zum letzten Doppelhaushalt sind Anzahl und Zwecke deutlich angestiegen. Derzeit gibt es 15 verschiedene Anwendungen mit KI-Systemen. Ein Transparenzregister wäre schon jetzt ohne Gutachten möglich und würde modernes Verwaltungshandeln transparent machen. Auch der Ethikrat ist zu dem Schluss gekommen, dass es beim Einsatz von KI-Systemen in Verwaltung bestimmte Voraussetzung und Maßnahmen braucht. Zwar Ordnet der Senat das Potential von Diskriminierung richtig ein, benennt jedoch keine Maßnahmen oder Strategie für die Zukunft.
Weiterlesen