Am 2. Februar 2025 ist die europäische KI-Verordnung (KI-VO) in Kraft getreten. Ziel der Verordnung ist es, einen sachkundigen und verantwortungsvollen Umgang mit KI sicherzustellen und mögliche Risiken zu minimieren. Artikel 4 KI-VO verpflichtet daher Anbieter und Betreiber von KI-Systemen sicherzustellen, dass ihr Personal sowie beauftragte Dritte über eine ausreichende KI-Kompetenz verfügen. Was das konkret bedeutet und welche Anforderungen auf Unternehmen zukommen.
Definition der KI-Kompetenz
Gemäß Artikel 3 Nr. 56 KI-VO umfasst KI-Kompetenz die erforderlichen Fähigkeiten, Kenntnisse und das Verständnis, um KI-Systeme sicher und sachkundig zu verwenden. Dies beinhaltet sowohl technische als auch rechtliche und ethische Aspekte, die für einen verantwortungsvollen Umgang mit KI erforderlich sind. Unter KI-Systeme fallen auch Tools wie die Übersetzungs-KI DeepL oder der KI-Allrounder ChatGPT.
Auf technischer Ebene bedeutet KI-Kompetenz, dass Beschäftigte über ein grundlegendes Verständnis der Funktionsweise von KI-Algorithmen, der Datenverarbeitung und der Modellentwicklung verfügen. Sie müssen in der Lage sein, Modelle zu interpretieren, ihre Ergebnisse zu validieren und mögliche Fehlerquellen zu identifizieren. Darüber hinaus sollten sie mit den gängigen Methoden der KI-Sicherheit und der Vermeidung von Bias in den Trainingsdaten vertraut sein.
In rechtlicher Hinsicht umfasst KI-Kompetenz das Wissen um regulatorische Anforderungen, insbesondere die Einhaltung der europäischen KI-Verordnung und anderer datenschutzrechtlicher Bestimmungen wie der Datenschutz-Grundverordnung. Mitarbeiterinnen und Mitarbeiter sollten sich der Haftungsrisiken bewusst sein, die sich aus fehlerhaften oder diskriminierenden KI-Entscheidungen ergeben können.
Aus ethischer Sicht umfasst KI-Kompetenz die Fähigkeit, die sozialen Auswirkungen von KI-Systemen kritisch zu reflektieren. Ein zentrales ethisches Thema ist die potenzielle Diskriminierung durch KI-gestützte Entscheidungsprozesse, etwa im Bereich der automatisierten Bewerberauswahl oder bei der Kreditvergabe. Unternehmen müssen sicherstellen, dass ihre KI-Systeme fair und transparent agieren, um Diskriminierung zu vermeiden und das Vertrauen der Nutzerinnen und Nutzer zu erhalten. Dazu gehört auch die Implementierung von Mechanismen, die KI-Entscheidungen nachvollziehbar und erklärbar machen.
Zusammenfassend ist KI-Kompetenz eine interdisziplinäre Fähigkeit, die technisches, rechtliches und ethisches Wissen kombiniert. Unternehmen sollten sicherstellen, dass ihre Mitarbeiterinnen und Mitarbeiter regelmäßig geschult werden und die aktuellen Entwicklungen in der KI-Technologie und -Regulierung verfolgen, um verantwortungsvoll und zukunftsorientiert zu handeln.
Konkrete Anforderungen an Unternehmen
Unternehmen müssen verschiedene Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals sicherzustellen:
- Schulungsprogramme
Unternehmen sollten gezielte Schulungen entwickeln und durchführen, die auf die spezifischen Aufgaben und den Wissensstand der Mitarbeiterinnen und Mitarbeiter zugeschnitten sind. Diese Schulungen sollten umfassende technische Grundlagen, rechtliche Rahmenbedingungen und ethische Überlegungen im Umgang mit KI umfassen. Darüber hinaus sollten regelmäßige Weiterbildungsmaßnahmen durchgeführt werden, um sicherzustellen, dass die Mitarbeitenden mit den neuesten Entwicklungen und regulatorischen Änderungen vertraut sind.
- Interne Richtlinien und Standards
Es ist notwendig, unternehmensinterne Richtlinien und Standards für den Einsatz von KI-Systemen zu erstellen. Diese sollten verbindliche Regeln für die Entwicklung, Implementierung und Nutzung von KI enthalten. Besonderes Augenmerk sollte dabei auf Transparenz, Nachvollziehbarkeit und ethische Verantwortung gelegt werden. Dazu gehören auch die Definition klarer Verantwortlichkeiten für KI-gestützte Entscheidungen sowie regelmäßige interne Audits zur Überprüfung der Einhaltung dieser Standards.
- Dokumentation und Nachweisbarkeit
Eine sorgfältige Dokumentation der getroffenen Maßnahmen ist unerlässlich. Insbesondere im Falle von Audits oder Haftungsfragen sollten Unternehmen nachweisen können, dass sie die gesetzlichen Anforderungen erfüllen. Dazu gehört die Erstellung detaillierter Berichte über durchgeführte Schulungen, Compliance-Maßnahmen und technische Prüfungen der eingesetzten KI-Modelle. Eine lückenlose Dokumentation dient nicht nur der Erfüllung regulatorischer Anforderungen, sondern stärkt auch die interne Nachvollziehbarkeit und Kontrolle von KI-Anwendungen.
- Implementierung von Kontrollmechanismen
Unternehmen sollten Kontrollmechanismen einführen, um sicherzustellen, dass KI-Systeme in Übereinstimmung mit rechtlichen und ethischen Anforderungen betrieben werden. Dazu gehören regelmäßige Überprüfungen der KI-Modelle auf Verzerrungen (Bias), Funktionalität und Sicherheit. Auch externe Zertifizierungen und Audits können dazu beitragen, die Einhaltung von Vorschriften sicherzustellen und das Vertrauen in KI-gestützte Prozesse zu stärken.
- Interdisziplinäre Zusammenarbeit und Experteneinbindung
Da KI-Systeme eine Vielzahl von Fachgebieten berühren, sollten Unternehmen interdisziplinäre Teams aus technischen Experten, Juristen und Ethikberatern bilden. Diese Teams sollten regelmäßig zusammenarbeiten, um neue Entwicklungen zu bewerten, interne Standards weiterzuentwickeln und Compliance-Risiken frühzeitig zu identifizieren.
Rechtliche Konsequenzen bei Nichteinhaltung
Obwohl Artikel 4 KI-VO eine allgemeine Verpflichtung formuliert, kann die Nichtumsetzung dieser Maßnahmen als Verletzung der Sorgfaltspflicht gewertet werden. In Haftungsfällen könnten Gerichte prüfen, ob das Unternehmen angemessene Schulungs- und Qualifizierungsmaßnahmen umgesetzt hat. Fehlende oder unzureichende Schulungen könnten zu rechtlichen Nachteilen führen, insbesondere wenn es um die Vermeidung von Haftungsrisiken und Compliance-Verstößen geht.
Neben zivilrechtlichen Konsequenzen können auch aufsichtsrechtliche Sanktionen drohen. Die zuständigen Behörden haben das Recht, Kontrollen durchzuführen und bei Verstößen gegen die KI-VO Bußgelder zu verhängen. Die Höhe der Bußgelder kann erheblich sein und orientiert sich an der Schwere des Verstoßes und der Größe des Unternehmens.
Auch im Bereich des Datenschutzes spielen die rechtlichen Konsequenzen eine wesentliche Rolle. Werden KI-Systeme ohne ausreichende Qualifikation der Mitarbeitenden eingesetzt, kann dies zu Verstößen gegen die DSGVO führen, insbesondere wenn personenbezogene Daten unzulässig verarbeitet oder diskriminierende Entscheidungen getroffen werden.
Ein weiteres Risiko ist die Haftung gegenüber geschädigten Dritten. Führt beispielsweise eine fehlerhafte oder unzureichend überwachte KI-Entscheidung zu einem wirtschaftlichen Schaden oder einer Diskriminierung, können die Betroffenen Schadensersatzansprüche gegen das verantwortliche Unternehmen geltend machen. Eine unzureichende Ausbildung oder mangelnde Kompetenz kann in einem solchen Fall als fahrlässiges Verhalten gewertet werden.
Lese-Tipp: Generative KI – EDSB veröffentlicht Orientierungshilfe für Nutzung
KI-Kompetenz als Wettbewerbsvorteil
Artikel 4 der KI-Verordnung stellt Unternehmen vor die Herausforderung, die Kompetenzen ihrer Mitarbeitenden im Umgang mit KI systematisch zu fördern. Dies erfordert nicht nur technische Schulungen, sondern auch einen tiefgreifenden Wandel der Unternehmenskultur. Ein verantwortungsvoller und informierter Umgang mit KI-Technologien muss als strategische Priorität verankert werden, um langfristige Vorteile zu realisieren.
Die Implementierung umfassender Aus- und Weiterbildungsprogramme ermöglicht es Unternehmen, sich an technologische Entwicklungen anzupassen und die Einhaltung regulatorischer Anforderungen sicherzustellen. Darüber hinaus fördert eine durchdachte KI-Strategie nicht nur die Effizienz und Innovationskraft eines Unternehmens, sondern stärkt auch das Vertrauen von Kunden, Investoren und Aufsichtsbehörden.
Unternehmen, die proaktiv handeln und frühzeitig Maßnahmen zum Kompetenzaufbau ergreifen, können sich als Vorreiter in einer zunehmend digitalisierten und regulierten Wirtschaft positionieren. Indem sie ethische Grundsätze und rechtliche Standards in ihre Geschäftsprozesse integrieren, schaffen sie die Grundlage für nachhaltigen Erfolg und langfristige Wettbewerbsfähigkeit.
Quelle: Verordnung 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz
Sie wollen Ihr Unternehmen fit für die KI-Verordnung machen? Wir packen es gemeinsam an! Unsere Experten beraten Sie gerne. Rufen Sie uns an oder schreiben Sie uns:
Fon: +49 (228) 926165-100
E-Mail: info@2b-advice.com
German 
English 
Italian 
French