Transparenzregister: Steuerfestsetzung mittels Risikomanagementsystem (RMS)

Anfang Mai hat die Fraktion Bündnis 90/Die Grünen den Senat aufgefordert, ein Transparenzregister für Künstliche Intelligenz (KI) für Berlin zu schaffen und so das Vertrauen in die Digitalisierung zu stärken. Solch ein Transparenzregister für KI ist auch nicht schwer umzusetzen. Im Mai hatte ich als Beispiel die nötigen Informationen zum Einsatz von Watson bei der Senatsverwaltung für Finanzen abgefragt und veröffentlicht.

Als zweites Beispiel habe ich mir das Thema “Steuerfestsetzung mittels Risikomanagementsystem (RMS)” bei der Senatsverwaltung für Finanzen vorgenommen (Drucksache 19/19967) und den entsprechenden Transparenzeintrag nach dem Algorithmic Transparency Standard von Eurocities nachgebaut. Der Eintrag kann als .csv heruntergeladen werden und ich stelle diesen dem Senat gerne für das Open-Data-Portal oder als weiteren Eintrag für ein Transparenzregister zur Verfügung. Der Eintrag umfasst die wichtigsten Angaben nach dem Eurocities-Standard.

Das Beispiel zeigt, dass es schon mit einer einfachen Website auf Berlin.de möglich wäre, ein Transparenzregister wie in Helsinki herzustellen.

 Steuerfestsetzung mittels Risikomanagementsystem (RMS)

“Das von Berlin und den übrigen Ländern eingesetzte Risikomanagementsystem (RMS) ist gegenwärtig vollständig regelbasiert. Derartige regelbasierte Systeme zählen als Teilbereich zur Künstlichen Intelligenz (KI). Ziel des RMS ist die Identifikation von steuerlichen Risiken bei der Steuerfestsetzung und die gezielte Aussteuerung risikobehafteter Fälle für die personelle Bearbeitung.” (Drucksache 19/19967).

• Verantwortlich für den Einsatz: Berliner Steuerverwaltung, Senatsverwaltung für Finanzen
• Abteilung: (unbekannt)
• Bereich: Steuern
• Status: Betriebsbereit (operational)
• Entscheidungsprozesse: “RMS leitet als Expertensystem Handlungsempfehlungen (Risikohinweise) aus einer Wissenbasis ab und führt die eingehenden Steuererklärungen einer entweder vollautomatischen oder personellen Bearbeitung zu. Dies bedeutet, wenn durch RMS kein Risiko erkannt wird, erfolgt keine personelle Prüfung und ggf. eine vollständig” (Drucksache 19/19967).
• Ziel: “Ziel des RMS ist die Identifikation von steuerlichen Risiken bei der Steuerfestsetzung und die gezielte Aussteuerung risikobehafteter Fälle für die personelle Bearbeitung.” (Drucksache 19/19967).
• Einfluss: “RMS leitet als Expertensystem Handlungsempfehlungen (Risikohinweise) aus einer Wissenbasis ab und führt die eingehenden Steuererklärungen einer entweder vollautomatischen oder personellen Bearbeitung zu.” (Drucksache 19/19967).
• Risiko: (unbekannt)
• Verhältnismäßigkeit: “RMS dient u. a. der Sicherstellung der Steuergerechtigkeit (Art 3 Grundgesetz). Gleiche Steuerfälle sollen gleich behandelt werden. Vorhandene Ressourcen können optimal eingesetzt werden. Die personelle Bearbeitung wird auf risikobehaftete Fälle konzentriert und mechanische Prüfungen (z. B. Zahlenabgleiche) können maschinell durchgeführt werden.” (Drucksache 19/19967).
• Rechtliche Grundlagen: “Die gesetzliche Grundlage ergibt sich aus § 88 Abs. 5 AO, wonach die Finanzbehörden zur Beurteilung der Notwendigkeit weiterer Ermittlungen und Prüfungen für eine gleichmäßige und gesetzmäßige Festsetzung von Steuern und Steuervergütungen sowie Anrechnung von Steuerabzugsbeträgen und Vorauszahlungen automationsgestützte Systeme einsetzen können (Risikomanagementsysteme). Nach § 29c Abs. 1 Satz 1 Nr. 4 AO können für die Entwicklung, Überprüfung oder Änderung automatisierter Verfahren der Finanzbehörden personenbezogener Daten zu einem anderen Zweck als zu demjenigen, zu dem die Daten von einer Finanzbehörde erhoben oder erfasst wurden, verarbeitet werden.” (Drucksache 19/19967).
• Daten: “Das RMS wird auf aktuelle Erklärungsdaten (Steuerdaten) angewendet.” (Drucksache 19/19967).
• Typ des Algorithmus: regelbasiert (rule-based) (Drucksache 19/19967).
• Erklärung: “RMS leitet als Expertensystem Handlungsempfehlungen (Risikohinweise) aus einer Wissenbasis ab und führt die eingehenden Steuererklärungen einer entweder vollautomatischen oder personellen Bearbeitung zu.” (Drucksache 19/19967).
• Folgeabschätzung (Algorithm Impact Assessment): “Jedes im KONSENS-Verbund eingesetzte Verfahren unterliegt einer Risikobewertung und einer Datenschutzfolgeabschätzung. Diese werden vom Land Berlin von den federführenden Ländern Bayern und Nordrhein-Westfalen übernommen und ggf. angepasst.” und “Beim eingesetzten RMS handelt es sich nicht um den Einsatz eines automatisierten Entscheidungsfindungssystem, welches Steuererklärungsdaten ohne personelle Überprüfung selbständig abändert, so dass weder ein Algorithmic Impact Assessment noch Auditings durchgeführt werden. Ausgesteuerte risikobehaftete Fälle unterliegen jederzeit einer personellen Kontrolle.” (Drucksache 19/19967).
• Leistungsüberwachung: “Ausgesteuerte risikobehaftete Fälle unterliegen jederzeit einer personellen Kontrolle.” (Drucksache 19/19967).
• Menschliche Intervention: “Ausgesteuerte risikobehaftete Fälle unterliegen jederzeit einer personellen Kontrolle.”(Drucksache 19/19967).
• Widerspruchsmöglichkeit: “Bei einem Autofall (kein Risiko durch RMS erkannt) entspricht die Veranlagung dem Antrag (Steuererklärung). Nach der personellen Überprüfung der ausgesteuerten risikobehafteten Fälle und einer ggf. von der Steuererklärung abweichenden Veranlagung kann der Steuerpflichtige entsprechend Rechtsbehelf einlegen, der zu einer vollumfänglichen Prüfung des Gesamtfalls im außergerichtlichen Rechtsbehelfsverfahren durch eine andere Stelle im Finanzamt führt. In einer weiteren Instanz wäre eine gerichtliche Überprüfung möglich.” (Drucksache 19/19967).

1. Was ist die Einsatzbeschreibung und Ziel der eingesetzten KI-Technologie bei der Steuerfestsetzung mittels Risikomanagementsystem (RMS) (siehe Rote Nummer 1270, Bericht 21)?

Zu 1.: Das von Berlin und den übrigen Ländern eingesetzte Risikomanagementsystem (RMS) ist gegenwärtig vollständig regelbasiert. Derartige regelbasierte Systeme zählen als Teilbereich zur Künstlichen Intelligenz (KI). Ziel des RMS ist die Identifikation von steuerlichen Risiken bei der Steuerfestsetzung und die gezielte Aussteuerung risikobehafteter Fälle für die personelle Bearbeitung.

Die Programmierung des RMS sowie etwaiger künftig einzusetzender weitergehender KI- Komponenten erfolgt im Rahmen des Digitalisierungsvorhabens KONSENS (koordinierte neue Softwareentwicklung der Steuerverwaltung) in den federführenden Ländern Bayern und Nordrhein-Westfalen. Der flächendeckende Einsatz einheitlicher IT-Verfahren in den Ländern folgt aus §§ 1, 5 Abs. 1 Satz 1 KONSENS-Gesetz.

2. In welche Entscheidungsprozesse ist KI-Technologie involviert?

Zu 2.: RMS leitet als Expertensystem Handlungsempfehlungen (Risikohinweise) aus einer Wissenbasis ab und führt die eingehenden Steuererklärungen einer entweder vollautomatischen oder personellen Bearbeitung zu. Dies bedeutet, wenn durch RMS kein Risiko erkannt wird, erfolgt keine personelle Prüfung und ggf. eine vollständig

automatisierte Veranlagung der Steuererklärung (Autofall). Bei Erkennen eines Risikos steuert RMS Fälle zur personellen Prüfung aus (Entscheidung).

3. Gab es eine Risikoanalyse zum Einsatz von der KI-Technologie und was waren deren Ergebnisse?

Zu 3.: Jedes im KONSENS-Verbund eingesetzte Verfahren unterliegt einer Risikobewertung und einer Datenschutzfolgeabschätzung. Diese werden vom Land Berlin von den federführenden Ländern Bayern und Nordrhein-Westfalen übernommen und ggf. angepasst.

4. Welche Gründe gibt es für den Einsatz der KI-Technologie und sind diese verhältnismäßig?

Zu 4.: RMS dient u. a. der Sicherstellung der Steuergerechtigkeit (Art 3 Grundgesetz). Gleiche Steuerfälle sollen gleich behandelt werden. Vorhandene Ressourcen können optimal eingesetzt werden. Die personelle Bearbeitung wird auf risikobehaftete Fälle konzentriert und mechanische Prüfungen (z. B. Zahlenabgleiche) können maschinell durchgeführt werden.

5. Was ist die gesetzliche Grundlage für den Einsatz der KI-Technologie?

Zu 5.: Die gesetzliche Grundlage ergibt sich aus § 88 Abs. 5 AO, wonach die Finanzbehörden zur Beurteilung der Notwendigkeit weiterer Ermittlungen und Prüfungen für eine gleichmäßige und gesetzmäßige Festsetzung von Steuern und Steuervergütungen sowie Anrechnung von Steuerabzugsbeträgen und Vorauszahlungen automationsgestützte Systeme einsetzen können (Risikomanagementsysteme). Nach § 29c Abs. 1 Satz 1 Nr. 4 AO können für die Entwicklung, Überprüfung oder Änderung automatisierter Verfahren der Finanzbehörden personenbezogener Daten zu einem anderen Zweck als zu demjenigen, zu dem die Daten von einer Finanzbehörde erhoben oder erfasst wurden, verarbeitet werden.

6. Um welchen Typ KI-Technologie bzw. Algorithmus handelt es sich?

Zu 6.: Das von Berlin und den übrigen Ländern eingesetzte Risikomanagementsystem (RMS) ist gegenwärtig vollständig regelbasiert.

7. Welche Daten werden von KI-Technologie verarbeitet und welche Trainingsdaten wurden verwendet?

Zu 7.: Das RMS wird auf aktuelle Erklärungsdaten (Steuerdaten) angewendet.

8. Was waren die Ergebnisse des Algorithmic Impact Assessment (AIA) und Auditings?
Zu 8.: Beim eingesetzten RMS handelt es sich nicht um den Einsatz eines automatisierten Entscheidungsfindungssystem, welches Steuererklärungsdaten ohne personelle Überprüfung selbständig abändert, so dass weder ein Algorithmic Impact Assessment noch Auditings durchgeführt werden. Ausgesteuerte risikobehaftete Fälle unterliegen jederzeit einer personellen Kontrolle.

9. Wie wird eine menschliche Intervention beim Einsatz der KI-Technologie garantiert?

Zu 9.: Die personelle Aussteuerung von Fällen zur personellen Bearbeitung ist jederzeit möglich. Darüber hinaus werden zufällig Fälle ausgesteuerrt, die vollumfänglich personell zu prüfen sind.

10.Welche Widerspruchsmöglichkeiten gibt es gegen den Einsatz der KI-Technologie?

Zu 10.: Bei einem Autofall (kein Risiko durch RMS erkannt) entspricht die Veranlagung dem Antrag (Steuererklärung). Nach der personellen Überprüfung der ausgesteuerten risikobehafteten Fälle und einer ggf. von der Steuererklärung abweichenden Veranlagung kann der Steuerpflichtige entsprechend Rechtsbehelf einlegen, der zu einer vollumfänglichen Prüfung des Gesamtfalls im außergerichtlichen Rechtsbehelfsverfahren durch eine andere Stelle im Finanzamt führt. In einer weiteren Instanz wäre eine gerichtliche Überprüfung möglich.