Datenschutz und KI: Chancen und Herausforderungen | Part 1 – Die Vorbereitung

Das Thema Künstliche Intelligenz (KI) ist zurzeit in aller Munde. Ob in der Werbung, auf dem Handy oder als neues „Feature“ in unserer Software. Aber was bedeutet die Nutzung von KI im beruflichen Alltag? Wir zeigen Ihnen, wie sich die rechtliche Lage zur KI derzeit gestaltet ist und welche Aufgaben erforderlich sind, um KI sicher, datenschutzkonform und effizient einzuführen.

Ausgangspunkt: Trainingsdaten zur Entwicklung der KI

Die Einführung von KI-Systemen in Unternehmen und Behörden ist von einer komplexen rechtlichen Lage geprägt. Die Datenschutz-Grundverordnung (DSGVO) sowie nationale Gesetze bilden auch hier den Rahmen für den Betrieb von KI-Systemen. Von den Daten, die zur KI-Schulung dienen, bis zu den Daten, die von Mitarbeitern oder Organisationen für die KI bereitgestellt werden, muss klar sein, dass diese Daten gemäß Art. 6 oder Art. 9 der DSGVO rechtmäßig verarbeitet werden müssen.

Damit eine KI ihre Aufgaben richtig erfüllen kann, muss diese trainiert werden. Dies kann durch Interaktionen mit Menschen und das zur Verfügung stellen von Datensätzen passieren. Diese Daten werden als Trainingsdaten bezeichnet und bilden die Basis für die Nutzung der KI. Sollten diese Daten nicht datenschutzkonform erhoben worden sein, gehen die Datenschutzbehörden im Moment davon aus, dass jede Nutzung der KI nicht datenschutzkonform sein kann.

Ohne zu wissen, welche Daten also für das Training der KI verwendet wurden, kann also keine klare Aussage getroffen werden. Aber gerade das ist im Moment noch das Betriebsgeheimnis der jeweiligen Unternehmen.

Die geplante KI-Verordnung wird Unternehmen dazu zwingen gewisse Informationen hierzu zu veröffentlichen. Bis dies jedoch geschieht, muss jedes Unternehmen und jede Behörde selbst das Risiko abschätzen, ob die Nutzung der KI mit den Selbstauskünften der Unternehmen für sie ausreichen. Dies sollte in der Datenschutzfolgenabschätzung festgehalten werden.

Die Nutzerinteraktion zur Weiterentwicklung der KI

Ein großer Vorteil der KI ist, dass sie lernen und sich anpassen kann zum Beispiel an Ihre Organisation. Aber es ist auch gut möglich, dass sich KI-Systeme in Zukunft auch an neue Gesetzeslagen, Klimaveränderungen und kurzfristige Änderungen anpassen können. Dazu müssen die Systeme weiter lernen und dies geschieht nur durch die Verarbeitung von weiteren Daten und Nutzerinteraktionen. Hierbei werden allerdings weitreichende Daten Ihrer Mitarbeiter verarbeitet. Auch aus diesem Grund ist gemäß DSGVO eine Datenschutzfolgenabschätzung notwendig.

Um eine Datenschutzfolgenabschätzung richtig durchführen zu können, müssen wir Sie wissen, für welche Szenarien Sie die KI einsetzen wollen, auf welche Daten sie hierbei zugreifen soll und welche Daten von den Mitarbeitern eingegeben werden dürfen. Hierbei ist es besonders wichtig zu wissen, wo die Daten herkommen (zum Beispiel Internet, Trainingsdaten) und wo diese hinfließen (Veröffentlichung im Internet, Nutzung der Daten zum weiteren Training der KI), damit die Daten auch weiterhin sicher sind.

Wenn Sie also KI-Systeme einsetzen wollen, machen Sie vorab Gedanken wofür diese verwendet werden sollen und welche Auswirkungen dies auf die Daten in Ihrer Organisation hat. Stellen Sie sich konkret die Fragen: Welche Daten sind für die geplante Nutzung wirklich notwendig und darf die KI verwenden? Wie darf sie die Daten verwenden? Welche Risiken entstehen durch die Nutzung der KI?
Wir unterstützen Sie gerne bei der Vorbereitung um KI-Systeme in Ihrer Organisation.

Wenn Sie mehr über unsere Datenschutzdienstleistungen erfahren möchten, dann wählen Sie doch hier einen Termin für ein kostenloses Erstgespräch.

Und auch bei allen weiteren Fragen rund um das Thema DSGVO stehen wir Ihnen gerne zur Verfügung. Einfach per E-Mail unter cloudheroes@fly-tech.de oder per Telefon: 0821 207 111 16. 

Bildnachweis: Headerfoto von fly-tech