Das National Institute of Standards and Technology (NIST) ist eine US-Bundesbehörde, die weltweit für die Entwicklung von Standards und Richtlinien in Bereichen wie Technologie, Wissenschaft und Cybersicherheit bekannt ist. NIST spielt eine führende Rolle, wenn es darum geht, neue Technologien sicher und verantwortungsvoll in verschiedenen Industrien einzuführen. Angesicht der rasanten Entwicklung der Künstlichen Intelligenz (KI) hat NIST nun ein neues Programm ins Leben gerufen, das sich auf die Cybersicherheits- und Datenschutzaspekte von KI sowie auf den Einsatz von KI in der Cybersicherheit konzentriert.
Der Einfluss von KI auf Datenschutz und Cybersicherheit
Die Stärke der KI liegt in ihrer Fähigkeit, große Datenmengen aus verschiedenen Quellen zu analysieren. Das macht sie zu einem wertvollen Instrument für Innovationen. Diese Fähigkeit birgt jedoch auch neue Risiken für den Datenschutz – insbesondere in Bezug auf die Re-Identifizierung und Datenlecks während der Entwicklung von Modellen. Denn die vorausschauenden Fähigkeiten der KI können sensible Informationen über Einzelpersonen offenlegen und Überwachungs- sowie Verhaltens-Tracking verstärken.
Gleichzeitig kann KI aber auch zur Verbesserung des Datenschutzes eingesetzt werden: Zum Beispiel durch persönliche Datenschutzassistenten, die die Nutzer bei der Verwaltung ihrer Datenschutzeinstellungen auf verschiedenen Online-Plattformen unterstützen.
Auch die Cybersicherheit wird durch KI sowohl gestärkt als auch vor neue Herausforderungen gestellt. KI-gestützte Werkzeuge können die Erkennung von Bedrohungen und die Reaktionsfähigkeit verbessern, aber auch die Komplexität des Umgangs mit Fehlalarmen erhöhen. Darüber hinaus könnte KI als neuer Angriffsvektor im Bereich der Cybersicherheit dienen, was den Schutz von KI-Systemen vor herkömmlichen und neuen Bedrohungen erforderlich macht. Für Organisationen bedeutet dies, dass sie ihre Datenmanagementpraktiken und Cybersicherheitsstrategien neu bewerten und an die spezifischen Risiken von KI anpassen müssen.
Ganzheitlicher Ansatz für das Risikomanagement von KI
NIST hat bereits das AI Risk Management Framework (AI RMF) entwickelt, um die mit KI verbundenen Vorteile und Risiken für Einzelpersonen, Organisationen und die Gesellschaft zu managen. Es deckt ein breites Spektrum an Risiken ab, das von der Sicherheit bis hin zu mangelnder Transparenz und Rechenschaftspflicht reicht.
Da KI zunehmend die Cybersicherheit und den Datenschutz auf Unternehmensebene beeinflusst, verstärkt NIST nun seine Bemühungen, um einen umfassenden Ansatz für KI-bezogene Risiken zu gewährleisten.
Zu den wichtigsten Initiativen, auf denen das neue Programm aufbaut, gehören
- Sichere Softwareentwicklungspraktiken für generative KI (NIST SP 218A)
- Adversarial Machine Learning: Eine Taxonomie und Terminologie von Angriffen und Gegenmaßnahmen (NIST AI 100-2)
- Leitlinien zur Bewertung von Differential Privacy (NIST SP 800-226)
- Integration von Sicherheit in der KI im NICE Security Framework
- Werkzeuge wie Dioptra, eine Testplattform zur Evaluierung von maschinellen Lernalgorithmen, und das PETs Testbed, das datenschutzfreundliche Technologien untersucht.
Schwerpunkte des neuen NIST-Programms
- Das neu gestartete Programm wird mit einem breiten Spektrum von Interessengruppen aus Industrie, Regierung und Wissenschaft zusammenarbeiten. Es soll damit sichergestellt werden, dass die Bemühungen zur Sicherung von KI auf nationaler und internationaler Ebene umfassend und koordiniert stattfinden. Die Koordination mit anderen NIST-Programmen und US-Behörden soll dazu beitragen, einen kohärenten Ansatz zur Bewältigung der mit KI verbundenen Herausforderungen in den Bereichen Cybersicherheit und Datenschutz zu entwickeln.
Die Schwerpunkte des Programms sind
- Bewältigung der Cybersicherheits- und Datenschutzrisiken, die durch den Einsatz von KI entstehen, einschließlich der Sicherung von KI-Systemen, der Minimierung von Datenlecks und der Sicherung der Infrastruktur für maschinelles Lernen.
- Entwicklung von Strategien zur Abwehr von KI-gestützten Angriffen.
- Unterstützung von Organisationen beim Einsatz von KI zur Verbesserung der Cyberabwehr und des Datenschutzes.
KI-Vorteile nutzen und Risiken bewältigen
Die Entwicklung der KI bringt sowohl spannende Möglichkeiten als auch kritische Risiken für die Cybersicherheit und den Datenschutz mit sich. Mit diesem neuen Programm will das NIST sicherstellen, dass Unternehmen die Vorteile der KI nutzen und gleichzeitig die damit verbundenen Risiken effektiv bewältigen können. Aufbauend auf einer soliden Grundlage bestehender Forschungsarbeiten, Leitlinien und Instrumente und in Zusammenarbeit mit verschiedenen Interessengruppen will das NIST eine führende Rolle bei der sicheren und verantwortungsvollen Nutzung von KI übernehmen.
Da KI die Welt weiterhin prägen wird, ist die Bewältigung der damit verbundenen Herausforderungen im Bereich der Cybersicherheit und des Datenschutzes von entscheidender Bedeutung, um ihren langfristigen Erfolg und gesellschaftlichen Nutzen sicherzustellen.
German 
English 
Italian 
French