Beim Einsatz von künstlicher Intelligenz und Big Data ist eine Fülle rechtlicher Fragen zu klären. Dabei geht es nicht nur darum, stabile und vertrauensvolle Anwendungen zur Verfügung zu stellen, sondern vor allem auch den gesetzlichen Verpflichtungen nachzukommen.
Die großen Datenmengen, die bei DATEV entstehen, wenn beispielsweise bei DATEV Unternehmen online für den Steuerberater Belege eingelesen werden, entwickeln sich zu einem Datenschatz, der zur (Weiter-)Entwicklung und insbesondere zum Training von Anwendungen mit künstlicher Intelligenz (KI) genutzt werden kann, was wiederum allen Nutzern der eingesetzten KI-Systeme zugutekommen kann. KI-Systeme werden vielfach allein unter dem Eindruck der unendlichen Möglichkeiten entwickelt, die sowohl die großen Datenmengen als auch die zahlreichen Anwendungsfälle, bei denen sie gewonnen werden, eröffnen können. Sind KI-Systeme erst einmal im Einsatz, möchten die Anwender sie aber nicht mehr missen. Sich jedoch erst dann als Entwickler mit den rechtlichen Fragen dieser KI-Systeme zu befassen, ist meistens zu spät, um die eingeschlagenen Entwicklungspfade sowie rechtlich womöglich unzulässige Verarbeitungsvorgänge rückgängig zu machen.
Personenbezogene Daten
Umso wichtiger ist es, dass sich DATEV etwa bei der Entwicklung des KI-Systems Automatisierungsservices Rechnungswesen schon während der Konzeption und Entwicklung Gedanken zu dessen Stakeholdern und deren rechtlich relevanten Rollen gemacht hat. Darüber hinaus war zu analysieren, welche Art von Daten (Datenkategorien) mit dem geplanten KI-System verarbeitet werden, welche Verarbeitungsvorgänge dabei stattfinden und welchen rechtlichen Beschränkungen diese Daten oder diejenigen unterliegen, die diese Daten DATEV zur Verfügung gestellt haben. Eine besondere Rolle spielten hierbei personenbezogene Daten, also Informationen mit Bezug zu einer identifizierten oder identifizierbaren natürlichen Person. Die personenbezogenen Daten sind Gegenstand des Datenschutzrechts, insbesondere der Datenschutz-Grundverordnung (DS-GVO) sowie des Bundesdatenschutzgesetzes (BDSG). Derartige Daten dürfen grundsätzlich nicht erhoben, verarbeitet und gespeichert werden, es sei denn, es gäbe hierfür eine Legitimation in Form einer gesetzlichen Bestimmung, vornehmlich der DS-GVO oder des BDSG selbst, oder die betroffene Person hätte eingewilligt. Dieses datenschutzrechtliche Verbot mit Erlaubnisvorbehalt gilt für alle personenbezogenen Daten, gleich ob deren Informationsgehalt sensibel oder vertraulich ist, wie etwa bei Informationen zu Einkommensverhältnissen und deren Herkunft, oder völlig trivial ist, weil er gegebenenfalls sogar öffentlich recherchierbar ist, wie zum Beispiel bei Adress- oder Kommunikationsdaten. Sowohl bei der Entwicklung als auch bei der späteren Anwendung und dem Training dieser KI-Modelle im Rahmen des Automatisierungsservice Rechnungen konnte nicht ausgeschlossen werden, dass personenbezogene Daten verarbeitet werden.
Datenquellen
Beim Aufbau von KI-Systemen ist hinsichtlich aller Daten, die in das jeweilige System einfließen sollen, zunächst zu fragen, aus welcher Quelle sie stammen und wer für diese Quelle in welcher Form verantwortlich ist. Das gilt insbesondere für personenbezogene Daten, da hier die Bestimmung der Datenquelle mit der Klärung des datenschutzrechtlich Verantwortlichen sowie des Verhältnisses der DATEV zu dem Verantwortlichen einhergehen. Daraus wiederum leiten sich die Befugnisse der DATEV ab, die jeweiligen Daten für Zwecke der KI-Systeme zu verarbeiten. Am Beispiel des KI-Systems Automatisierungsservices Rechnungswesen folgt daraus, dass die DATEV-Mitglieder in ihrer Eigenschaft als Träger eines Steuerberatungsmandats sowohl gegenüber ihren Mandanten – den im buchungsrelevanten Sachverhalt auftretenden Dritten – als auch gegenüber DATEV jeweils Verantwortlicher im Sinne von Art. 4 Nr. 7 DS-GVO sind.
DATEV in der Rolle des Auftragsverarbeiters
Wenn und soweit DATEV für Steuerberater personenbezogene Daten mit Bezug auf einen Mandanten des Steuerberaters selbst und/oder dritte Personen durch die automatisierte Auswertung buchungsrelevanter Belege und die Übernahme der relevanten Daten in einen Buchungsvorschlag übernimmt, tut sie dies als Anbieterin des Automatisierungsservice Rechnungen für ihre Mitglieder ausschließlich nach deren Auftrag und Weisung in einer mit einer verlängerten Werkbank vergleichbaren, ausschließlich auf die Abarbeitung der IT-technischen Verarbeitungsvorgänge fokussierten Rolle. Bereits durch den Abschluss eines Vertrags über die Nutzung von Automatisierungsservice Rechnungen trifft der DATEV-Kunde die für die Einordnung als Verantwortlicher maßgebliche Entscheidung, DATEV mit der Entwicklung und dem Betrieb dieses KI-Systems zu beauftragen.
Datenschutzrechtliche Legitimation
Für die datenschutzrechtliche Legitimation der Datenverarbeitungen im Automatisierungsservice Rechnungen folgt daraus für die Beteiligten:
- Soweit DATEV als Auftragsverarbeiter des Steuerberaters tätig wird, bestimmt dieser Art und Ausmaß der Verarbeitung der von ihm bereitgestellten personenbezogenen Daten, beispielsweise durch die Auswahl der einzulesenden Belege; der Steuerberater ist für die Prüfung seiner datenschutzrechtlichen Legitimation selbst verantwortlich und die Verarbeitungsbefugnisse der DATEV leiten sich hieraus ab.
- Die Verarbeitung personenbezogener Daten mit Bezug auf die Person des Mandanten eines Steuerberaters kann bei der Generierung bis hin zur Anwendung von KI-Systemen durch den Tatbestand der Erfüllung des Vertrags des Steuerberaters mit seinem Mandanten in Art. 6 Abs. 1 S. 1 lit. (b) DS-GVO legitimiert werden.
- Die Verarbeitung personenbezogener Daten mit Bezug zu dritten Personen, die an einem buchungsrelevanten Sachverhalt beteiligt sind (Nennung im Buchungsbeleg), bei Generierung und Anwendung von KI-Systemen kann für den Steuerberater durch den Interessensabwägungstatbestand in Art. 6 Abs. 1 S. 1 lit. (f) DS-GVO legitimiert werden.
- Der pauschalierende Wortlaut in Art. 9 Abs. 1 DS-GVO, wonach Daten, die einer der darin definierten besonderen Kategorien angehören (zum Beispiel Gesundheitsdaten bei Buchungsbelegen eines Arztes), dem Verarbeitungsverbot unterfallen, muss verarbeitungskontextsensitiv ausgelegt werden.
Die Buchung eines buchführungsrelevanten Sachverhalts ist im Hinblick auf die besondere Sensitivität der Datenkategorien völlig neutral, so werden diese Daten üblicherweise lediglich durch Subsumtion unter handels- und steuerrechtliche Tatbestände zur Erstellung einer ordnungsgemäßen Buchführung verwendet, die die buchführungsrelevanten Vorgänge neutral und zutreffend abzubilden hat, ohne dass hierbei eine Auswertungsabsicht bezüglich der individuellen Person des Betroffenen bestünde. Der Verarbeitung von besonderen Kategorien personenbezogener Daten im Zusammenhang mit der automatisierten Erstellung von Buchungsvorschlägen ist folglich gerade keines der vom Verordnungsgeber für die gesteigerte Schutzbedürftigkeit dieser Datenkategorien unterstellten Risiken immanent. Im Verarbeitungskontext der Erstellung von Buchungsvorschlägen muss für diese schutzzweckneutrale Verarbeitungsform daher der allgemeine Katalog von Legitimationstatbeständen in Art. 6 Abs. 1 DS-GVO maßgeblich sein, sodass die oben zusammengefassten Ergebnisse auch insoweit gelten.
Datenschutzrechtliche Analyse
Daran zeigt sich, wie wichtig eine detaillierte Analyse der Verarbeitungsvorgänge und der hiervon betroffenen Personen ist. Nur dann gelingt es, ein KI-System von Anfang an so zu konzipieren beziehungsweise zu entwickeln, dass neben den rein technischen Erfordernissen auch die Betroffenenrechte, die sich aus dem Datenschutzrecht ergeben, nicht nur auf dem Papier bestehen, sondern auch in den verarbeitungstechnischen Abläufen umgesetzt werden. Eine frühzeitige datenschutzrechtliche Analyse dient daher nicht nur dem Grundsatz des Datenschutzes durch Technikgestaltung (Privacy by Design), sondern ist auch eine notwendige Voraussetzung für die gesamte Software-Entwicklung. Ist das KI-System erst einmal entwickelt und im produktiven Betrieb, kommen derartige Bewertungen regelmäßig zu spät, weil die nachträgliche Einführung von datenschutzrechtlich notwendigen Prüfschritten und/oder Löschungsvorgängen weitaus aufwendiger und technisch komplexer ist. Exemplarisch zeigt sich das bei der ständigen Überprüfung des Bestands an KI-Modellen der DATEV, die für Zwecke des Trainings der KI-Algorithmen genutzt werden. Wegen des Kriteriums der Erforderlichkeit, das bei allen datenschutzrechtlichen Legitimationstatbeständen relevant ist, muss bei der Administration von KI-Modellen durch technische und organisatorische Maßnahmen sichergestellt werden, dass auch bei deren nicht automatisierter, sondern durch Mitarbeiter der DATEV erfolgenden Überprüfung keine Personalprofile erzeugt werden können. Darüber hinaus ist kontinuierlich zu prüfen und zu dokumentieren, ob datenschutzrechtlich relevante KI-Modelle noch für das weitere Training der Algorithmen benötigt werden. Entfällt die Notwendigkeit, kann die Speicherung dieser KI-Modelle nicht länger legitimiert werden; sie sind unverzüglich zu löschen.
Fazit und Ausblick
Wenn DATEV KI-Systeme entwickelt, die ihren Mitgliedern zur Verfügung gestellt werden, erstreckt sich die vorab vorzunehmende Analyse und Bewertung der dabei anfallenden Datenverarbeitungsvorgänge nicht nur auf die Verarbeitung personenbezogener Daten, sondern natürlich auch auf die Verarbeitung derjenigen Daten, die der strafrechtlich bewehrten Schweigepflicht des Steuerberaters unterliegen. DATEV ist für ihre Mitglieder datenschutzrechtlich als Auftragsverarbeiter und berufsrechtlich als Mitwirkender im Sinne von § 203 Abs. 3 S. 3 Strafgesetzbuch (StGB) tätig und somit streng weisungsgebunden. Die KI-Systeme, die den Mitgliedern zur Verfügung gestellt werden, musste DATEV daher so konzipieren, entwickeln und in ihrer Nutzung vertraglich ausgestalten, dass man sich dabei jederzeit in einem im Rahmen des für die Mitglieder berufs- und datenschutzrechtlich Zulässigen bewegt hat. Auf diese Weise ist die Genossenschaft nicht nur ihren eigenen unmittelbaren gesetzlichen Verpflichtungen nachgekommen, sondern auch dem Auftrag, ihren Mitgliedern rechtssichere Lösungen zur Verfügung zu stellen.
