In dieser Verordnung geht es um die Regelung von Künstlicher Intelligenz. Die Einführung einer auf den Menschen ausgerichteten KI in Europa soll gefördert werden. Zugleich soll dabei ein hohes Schutzniveau bei den Themen Gesundheit, Sicherheit und Grundrechten der Bürger sichergestellt werden.
Verbotene KI-Praktiken
- Schädliche Manipulation
- Social Scoring
- Emotionserkennung am Arbeitsplatz
- Vorhersage von Straftaten
Hochrisiko KI-Systeme
- Biometrische Kategorisierung
- Beschäftigtenkontext
- Zugang Bildungseinrichtungen
- Kritische Infrastruktur
Im ersten Schritt müssen KI-Systeme und KI-basierte Verfahren entsprechend den Risikoklassen der KI-Verordnung klassifiziert und vor allem verbotene KI-Systeme und Hochrisikosysteme erkannt und entsprechend behandelt werden.
Begrenztes Risiko
- Chatbots
- KI-Content
- Deepfakes
Transparenzpflichten und zumindest die KI-Kompetenz der Mitarbeitenden müssen gesichert werden.
Minimales Risiko
- Spamfilter
- Videospiele
Allgemeiner Verwendungszweck
- GPT
- Claude
- LLAMA
- Stable Diffusion
Diese KI-Modelle können je nach Einsatz in alle der vorgenannten Risikoklassen fallen.
Checkliste der Datenschutzkonferenz für den Einsatz von KI-Anwendungen
Konzeption des Einsatzes und Auswahl von KI-Anwendungen
- Einsatzfelder und Zwecke bestimmen
- Rechtmäßige Einsatzfelder
- Verzicht auf personenbezogene Daten
- Datenschutzkonformes Training von KI-Anwendungen
- Rechtsgrundlage für die Datenverarbeitung
- Keine automatisierte Letztentscheidung
- Geschlossenes oder offenes System
- Transparenz
- Transparenz und Wahlmöglichkeit hinsichtlich KI-Training
- Transparenz und Wahlmöglichkeit hinsichtlich Eingabe-Historie
- Berichtigung, Löschung und weitere Betroffenenrechte
- Datenschutzbeauftragte und Beschäftigtenvertretung einbinden
Implementierung von KI-Anwendungen
- Verantwortlichkeit festlegen und verbindlich regeln
- Interne Regelungen treffen
- Datenschutz-Folgenabschätzung
- Beschäftigte schützen, betriebliche Accounts einrichten
- Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen
- Datensicherheit
- Beschäftigte sensibilisieren
- Weitere Entwicklungen verfolgen
Nutzung von KI-Anwendungen
- Vorsicht bei Eingabe und Ausgabe personenbezogener Daten
- Besondere Vorsicht bei besonderen Kategorien personenbezogener Daten
- Ergebnisse auf Richtigkeit prüfen
- Ergebnisse und Verfahren auf Diskriminierung prüfen
Orientierungshilfe als PDF zum Herunterladen
Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz gilt mit einigen Ausnahmen ab dem 2. August 2026.
