Der Aktionsplan der französischen CNIL zur Regulierung von KI-Systemen

Einführung

In Anbetracht der jüngsten Entwicklungen im Bereich der künstlichen Intelligenz (KI) und insbesondere generativer KIs wie ChatGPT hat die Commission Nationale de l’Informatique et des Libertés (CNIL) einen Aktionsplan veröffentlicht, der darauf abzielt, KI-Systeme einzusetzen, die die Privatsphäre der Einzelpersonen respektieren. Generative KIs sind ein aufstrebender Bereich der KI, der die Erzeugung von Texten, Bildern und anderen Inhalten auf der Grundlage von Benutzeranweisungen ermöglicht. In diesem Artikel werden wir uns mit den Details dieses Aktionsplans befassen und seine Bedeutung für den Schutz der Privatsphäre diskutieren.

Die Rolle der CNIL

Die CNIL hat in den letzten Jahren bereits umfangreiche Arbeiten zur Vorbeugung und Bewältigung der Herausforderungen im Zusammenhang mit KI geleistet. Im Jahr 2023 wird die CNIL ihre Maßnahmen zur Regulierung erweiterter Kameras fortsetzen und ihre Arbeit auf generative KIs, große Sprachmodelle und deren abgeleitete Anwendungen wie Chatbots ausweiten. Der Aktionsplan der CNIL konzentriert sich auf vier Hauptbereiche:

Verständnis der Funktionsweise von KI-Systemen und deren Auswirkungen auf Einzelpersonen.
Förderung und Regulierung der Entwicklung datenschutzfreundlicher KI.
Unterstützung und Zusammenarbeit mit innovativen Akteuren im KI-Ökosystem in Frankreich und Europa.
Prüfung und Kontrolle von KI-Systemen zum Schutz der Einzelpersonen.
Diese Maßnahmen dienen auch der Vorbereitung auf die Umsetzung der derzeit in Diskussion befindlichen europäischen KI-Verordnung.

Der Schutz personenbezogener Daten als zentrale Herausforderung

Mit dem Fortschreiten der KI ergeben sich zunehmend Herausforderungen im Bereich des Datenschutzes und des Schutzes individueller Freiheiten. Die CNIL hat bereits seit 2017 in ihrem Bericht über die ethischen Herausforderungen von Algorithmen und künstlicher Intelligenz Stellung zu den durch diese Technologie aufgeworfenen Fragen genommen.

Generative KIs haben in den letzten Monaten vor allem im Text- und Konversationsbereich große Fortschritte gemacht. Durch den Einsatz großer Sprachmodelle wie GPT-3, BLOOM oder Megatron NLG und abgeleiteter Chatbots wie ChatGPT oder Bard können diese Systeme Texte generieren, die den von Menschen erstellten sehr nahekommen. Auch im Bereich der Bild- und Spracherzeugung gibt es bedeutende Entwicklungen. Obwohl diese Modelle und Technologien bereits in verschiedenen Branchen Anwendung finden, sind ihre Funktionsweise, Möglichkeiten und Grenzen sowie die damit verbundenen rechtlichen, ethischen und technischen Herausforderungen noch Gegenstand intensiver Diskussionen.

Die CNIL veröffentlicht ihren Aktionsplan zur Regulierung der künstlichen Intelligenz, um die Bedeutung des Schutzes personenbezogener Daten bei der Entwicklung und Nutzung dieser Tools hervorzuheben. Insbesondere liegt ihr Fokus auf generativen KIs.

Was sind generative KIs?

Generative KIs sind Systeme, die in der Lage sind, Texte, Bilder und andere Inhalte (Musik, Videos, Sprache usw.) auf der Grundlage von Anweisungen von menschlichen Benutzern zu erstellen. Diese Systeme können neue Inhalte aus den für ihr Training verwendeten Daten generieren. Dank des umfangreichen Trainingsdatensatzes können sie Ergebnisse erzielen, die bereits sehr nahe an menschlichen Produktionen liegen. Es ist jedoch wichtig, dass Benutzer ihre Anfragen klar spezifizieren, um die gewünschten Ergebnisse zu erzielen. Daher entwickelt sich ein spezifisches Fachwissen in Bezug auf die Formulierung von Benutzeranfragen (prompt engineering).

Der Aktionsplan der CNIL in vier Schritten

Die CNIL hat in den letzten Jahren umfangreiche Arbeiten zur Regulierung der KI durchgeführt und dabei verschiedene Arten von KI-Systemen und deren Anwendungsfälle berücksichtigt. Ihr Aktionsplan konzentriert sich auf vier Hauptziele:

• Funktionsweise und Auswirkungen der KI auf die Privatsphäre und Rechte von Einzelpersonen
• Schaffung eines rechtlichen Rahmens für den Einsatz von KI-Systemen, der den Datenschutz gewährleistet
• Unterstützung und Zusammenarbeit mit KI-Innovatoren in Frankreich und Europa
• Überprüfung und Kontrolle von KI-Systemen, um die Rechte und den Schutz von Einzelpersonen zu gewährleisten

“Mir gefällt an dem Aktionsplan, dass man zunächst eine Verständnis für die Funktionsweise von KI Systemen entwickeln will und auch ob und welche auswirkungen es auf Einzelperosnen hat”, kommentiert Marcus Belke, CEO der 2B Advice Group, einer Firmengruppe, die seit 20 Jahren Datenschutzlösungen anbietet. “Was fehlt ist aber ein Agendapunkt zu den Chancen die KI für den Datenschutz bietet”, führt Marcus Belke weiter aus.

Die CNIL wird ihre Kontrollmaßnahmen verstärken und insbesondere den Einsatz von generativen KIs prüfen, um sicherzustellen, dass Unternehmen, die KI-Systeme entwickeln, trainieren oder nutzen, angemessene Maßnahmen zum Schutz personenbezogener Daten ergriffen haben. Ihr Ziel ist es, klare und schützende Regeln für den Umgang mit personenbezogenen Daten in KI-Systemen zu schaffen.

Dank dieser umfassenden Maßnahmen möchte die CNIL einen Beitrag zur Entwicklung datenschutzfreundlicher KI-Systeme leisten und dabei die Privatsphäre und die Rechte der europäischen Bürgerinnen und Bürger schützen.

Mit ihrem Aktionsplan hofft die CNIL, den Datenschutzbeauftragten (Datenschutzbeauftragter) bei der Bewältigung der Herausforderungen im Zusammenhang mit Künstlicher Intelligenz (KI) zu unterstützen. Durch die Bereitstellung klarer Richtlinien und Maßnahmen zur Gewährleistung des Datenschutzes bei KI-Systemen können Datenschutzbeauftragte in Unternehmen und Organisationen besser darauf vorbereitet sein, mit den Auswirkungen von KI-Technologien umzugehen. Der Aktionsplan der CNIL bietet eine Grundlage für den Aufbau eines datenschutzfreundlichen Rahmens für den Einsatz von KI und hilft Datenschutzbeauftragten, effektive Datenschutzmaßnahmen zu implementieren und die Rechte und Freiheiten der Betroffenen zu schützen. Die Arbeit der CNIL ist daher ein wertvolles Instrument für Datenschutzbeauftragte, um die datenschutzrechtlichen Herausforderungen im Zusammenhang mit KI zu bewältigen und den Schutz personenbezogener Daten zu gewährleisten.