Der Datenschutztag, der jährlich am 28. Januar begangen wird, bietet eine wichtige Gelegenheit, auf die Bedeutung des Datenschutzes in einer zunehmend digitalisierten Welt hinzuweisen. In diesem Jahr steht insbesondere die Nutzung von Künstlicher Intelligenz (KI) im Fokus, da diese Technologie sowohl Chancen als auch erhebliche Risiken für den Schutz personenbezogener Daten birgt.
KI-Systeme: Risiken für den Datenschutz
KI-Systeme haben sich in den letzten Jahren rasant entwickelt und sind mittlerweile in vielen Bereichen des öffentlichen und privaten Lebens allgegenwärtig. Sie analysieren Daten, treffen Entscheidungen und automatisieren Prozesse.
Doch gerade ihre Abhängigkeit von großen Datenmengen stellt den Datenschutz vor immense Herausforderungen:
- Massive Datenverarbeitung:
KI-Systeme benötigen große Mengen personenbezogener Daten, um zu funktionieren. Dabei besteht die Gefahr, dass sensible Daten ohne ausreichende Rechtsgrundlage verarbeitet oder unbefugt weitergegeben werden. - Intransparente Entscheidungsfindung:
Viele KI-Systeme arbeiten als sogenannte „Black Boxes“, deren Entscheidungsprozesse selbst für Experten schwer nachvollziehbar sind. Dies erschwert es Betroffenen, ihre Rechte auf Transparenz und Auskunft nach der DSGVO wahrzunehmen. - Diskriminierung und Bias:
Eine der größten Gefahren der KI ist der sogenannte Algorithmic Bias. Ungleichheiten und Vorurteile in den zugrundeliegenden Datensätzen können dazu führen, dass KI-Systeme diskriminierende Entscheidungen treffen – zum Beispiel in Bewerbungsverfahren oder bei der Kreditvergabe. - Cybersecurity-Risiken:
KI-Systeme können selbst zum Ziel von Cyberangriffen werden. Manipulierte Modelle oder gestohlene Daten können erhebliche Schäden verursachen.
Gleichzeitig bieten KI-Systeme nicht nur Herausforderungen, sondern auch erhebliche Potenziale für den Datenschutz:
- Automatisierte Erkennung von Datenschutzverstößen:
KI-Systeme können große Datenmengen in Echtzeit analysieren und potenzielle Datenschutzverletzungen oder unberechtigte Zugriffe schneller als herkömmliche Methoden erkennen.
- Verbesserte Datensicherheit:
Durch den Einsatz KI-gestützter Sicherheitsmechanismen wie Anomalieerkennung oder Predictive Analytics können Bedrohungen proaktiv erkannt und abgewehrt werden.
- Unterstützung bei der Einhaltung der DSGVO:
KI kann Unternehmen bei der Einhaltung komplexer datenschutzrechtlicher Anforderungen unterstützen, etwa durch die Automatisierung von Datenauskunfts- oder Datenlöschprozessen.
- Effiziente Datenminimierung:
KI-Systeme können dabei helfen, nur die minimal notwendige Datenmenge zu verarbeiten, indem sie irrelevante oder redundante Informationen identifizieren und aussortieren.
KI-Grundsatz aus Art. 22 Abs. 1 DSGVO: Keine automatisierte Letztentscheidung
Die DSGVO hat bereits vorausschauend einen Grundsatz für den Einsatz von KI festgelegt: Nach Art. 22 Abs. 1 DSGVO dürfen Entscheidungen mit rechtlicher Wirkung nur von Menschen getroffen werden. Ausnahmen sind nur in bestimmten Fällen zulässig, etwa bei Einwilligung des Betroffenen.
Erstellt eine KI-Anwendung Vorschläge mit Rechtswirkung für den Betroffenen, muss das Verfahren so ausgestaltet sein, dass dem entscheidenden Menschen ein tatsächlicher Entscheidungsspielraum verbleibt und die Entscheidung nicht maßgeblich auf der Grundlage des KI-Vorschlags getroffen wird. Unzureichende personelle Ressourcen, Zeitdruck und mangelnde Transparenz über den Entscheidungsweg der KI-gestützten Vorarbeit dürfen nicht dazu führen, dass Ergebnisse ungeprüft übernommen werden. Eine lediglich formale Beteiligung eines Menschen am Entscheidungsprozess ist nicht ausreichend.
Beispiel aus der Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz: Eine KI-Anwendung wertet alle eingehenden Bewerbungen auf eine ausgeschriebene Stelle aus und versendet selbständig die Einladungen zu den Vorstellungsgesprächen. Dies stellt einen Verstoß gegen Art. 22 Abs. 1 DSGVO dar.
Für den Datenschutzbeauftragten (DSB) könnte sich der Handlungsspielraum gerade im Hinblick auf Art. 22 DSGVO deutlich erweitern: Neben seiner Rolle im Sinne der DSGVO könnte er auch die Funktion eines KI-Beauftragten übernehmen. Dafür sprechen die Erfahrung des DSB im Umgang mit sensiblen und biometrischen Daten und seine vertieften Kenntnisse der Datenschutzbestimmungen und -praxis.
AI Act wird gezündet: Ab Februar 2025 geht es los
Da die Regeln der DSGVO für die Regulierung von KI nicht ausreichen, hat die Europäische Union mit dem AI Act einen neuen Rechtsrahmen für Künstliche Intelligenz geschaffen. Dieses Gesetz ergänzt die DSGVO und soll sicherstellen, dass KI-Systeme in Europa sowohl sicher als auch datenschutzkonform sind. Während die DSGVO vor allem die Verarbeitung personenbezogener Daten regelt, legt der AI Act spezifische Anforderungen für den Einsatz von KI fest, wie etwa Risikoklassifizierungen und Transparenzpflichten. Ziel ist es, eine rechtliche Symbiose zu schaffen, in der Datenschutz und Innovation harmonisch zusammenwirken. Das KI-Gesetz sieht unter anderem vor
- Eine Risikoklassifizierung von KI-Systemen (gering, eingeschränkt, hoch und unzulässig).
- Strenge Auflagen für Hochrisikosysteme, wie sie etwa in der Medizin oder der Strafverfolgung eingesetzt werden.
- Transparenzpflichten, die sicherstellen, dass Nutzerinnen und Nutzer über den Einsatz von KI informiert werden.
Bereits am 2. Februar 2025 wird die nächste Stufe des KI-Gesetzes gezündet. Ab dann sind KI-Systeme, die ein unannehmbares Risiko darstellen, in der EU verboten. Allerdings wird es weiterhin Ausnahmen geben: So dürfen Strafverfolgungsbehörden weiterhin Gesichtserkennung auf Videoüberwachungsbildern anwenden.
Lese-Tipp: AI Act in Kraft getreten – so geht es jetzt weiter
Jedes zweite Unternehmen will KI für Datenschutz nutzen
Laut einer Umfrage des Digitalverbandes Bitkom (Juli/August 2024) will fast die Hälfte der Unternehmen (48 Prozent) KI für den Datenschutz einsetzen.
Dabei geht es um Chatbots für die Beschäftigten, um Datenschutzfragen zu erklären, oder auch um das Erkennen von Datenschutzverstößen durch eine KI oder die automatisierte Anonymisierung oder Pseudonymisierung von Daten. 5 Prozent nutzen solche KI-Anwendungen bereits, 24 Prozent haben den Einsatz bereits geplant. Und weitere 19 Prozent diskutieren noch darüber.
Gleichzeitig meinen 68 Prozent der Unternehmen, dass der KI-Einsatz den Datenschutz vor ganz neue Herausforderungen stellt. 53 Prozent sagen, dass Datenschutz Rechtssicherheit schafft. 52 Prozent meinen, dass der Datenschutz den KI-Einsatz behindert.
Fazit: KI-Systeme bieten viele Möglichkeiten, aber es gibt auch Fragen des Datenschutzes. Es geht nicht nur um Technik, sondern auch um Ethik und Recht. Und das nicht nur in der EU. Denn nur durch klare Regeln und eine enge Überwachung der Einhaltung können die Potenziale von KI genutzt werden, ohne dass der Schutz personenbezogener Daten auf der Strecke bleibt.
Mit Ailance können Sie in Ihrem Unternehmen selbst KI einsetzen, um Datenschutz- und Compliance-Fragen schnell und unkompliziert zu lösen. Auch unterstützt Ailance Ihr Unternehmen beim automatischen anonymisieren und pseudonymisieren von Daten. Kontaktieren Sie uns, wir beraten Sie gerne!
Fon: +49 (228) 926165-100
E-Mail: info@2b-advice.com
German 
English 
Italian 
French