Unser Fragenkatalog und die im Fragebogen verwendeten acht Kategorien basieren auf einer Zusammenführung rechtlicher Anforderungen des EU AI Acts und etablierter Frameworks zur digitalen Bildung.
Disclaimer: Dies ist keine Rechtsberatung. Der AI Act ist wenig spezifisch bzgl. der geforderten Kompetenzen und es gibt bisher wenig Rechtsprechung zu diesem Thema.
Quellen des Fragenkatalogs
1. Rechtliche Primärquelle: EU AI Act (Art. 4)
Der Artikel 4 der Verordnung (EU) 2024/1689 ist die rechtliche Basis. Er verpflichtet Anbieter und Betreiber zur Förderung von „KI-Kompetenz“. Die Definition im Gesetz umfasst drei Kernbereiche, aus denen die Dimensionen abgeleitet wurden:
- „Fähigkeiten, Wissen und Verständnis“: Basis für die Technische Anwendungskompetenz (Dimensionen 1-2).
- „Informierte Auswahl treffen“: Basis für die Evaluative Kompetenz (Dimensionen 3-5).
- „Bewusstsein für Chancen und Risiken“: Basis für die Ethisch-rechtliche Kompetenz (Dimensionen 6-8).
2. Rechtliche Primärquelle: FAQ der EU zur KI-Kompetenz
Welche Mindestinhalte sollten bei einem KI-Kompetenzprogramm im Einklang mit Artikel 4 des KI-Gesetzes berücksichtigt werden?
Das Amt für künstliche Intelligenz wird keine strengen Anforderungen an Artikel 4 des KI-Gesetzes und sein „ausreichendes Maß an KI-Kompetenz“ stellen. Im Gegenteil, sie hält angesichts des breiten Themas der KI-Kompetenz und der sich schnell entwickelnden Technologie, die KI ist, ein gewisses Maß an Flexibilität für erforderlich. Zur Einhaltung von Artikel 4 des KI-Gesetzes sollten Anbieter und Betreiber von KI-Systemen jedoch mindestens
a) Gewährleistung eines allgemeinen Verständnisses von KI in ihrer Organisation: Was ist AI? Wie funktioniert es? Welche KI wird in unserem Unternehmen eingesetzt? Was sind ihre Chancen und Gefahren?
b) Berücksichtigen Sie die Rolle ihrer Organisation (Anbieter oder Betreiber von KI-Systemen): Entwickelt meine Organisation KI-Systeme oder verwendet sie nur KI-Systeme, die von einer anderen Organisation entwickelt wurden?
c) Berücksichtigen Sie das Risiko, dass KI-Systeme bereitgestellt oder eingesetzt werden: Was müssen Mitarbeiter wissen, wenn sie mit einem solchen KI-System umgehen? Welche Risiken müssen sie kennen und müssen sie sich der Minderung bewusst sein?
d) Konkreter Aufbau ihrer KI-Kompetenzmaßnahmen auf der vorherigen Analyse unter Berücksichtigung
- Unterschiede in Bezug auf technisches Wissen, Erfahrung, Aus- und Weiterbildung des Personals und anderer Personen – Wie viel wissen die Mitarbeiter/Person über KI und die von ihnen verwendeten Systeme der Organisation? Was sollten sie sonst noch wissen?
- sowie den Kontext, in dem die KI-Systeme verwendet werden sollen, und die Personen, auf denen die KI-Systeme verwendet werden sollen – In welchem Sektor und zu welchem Zweck/zu welchem Dienst wird das KI-System verwendet?
Die Erwägungen a, b, c und d umfassen rechtliche und ethische Aspekte. Daher werden Verbindungen zur EU-KI-Verordnung (d. h. zum Verständnis des KI-Gesetzes) und zu Ethik- und Governance-Grundsätzen gefördert.
2. Didaktische Quelle: DigComp 2.2 (EU-Kommission)
Das Digital Competence Framework for Citizens (DigComp 2.2) der Gemeinsamen Forschungsstelle der EU-Kommission enthält seit dem Update 2022 spezifische Ergänzungen zu KI.
- Hier werden über 70 Beispiele genannt, die sich direkt in den Dimensionen wiederfinden (z. B. Verständnis von Algorithmen, Erkennen von Bias, Datenschutz bei KI).
- Referenz: Vuorikari, R., et al., DigComp 2.2: The Digital Competence Framework for Citizens, 2022.
3. Akademische Quelle: AI Literacy Framework
Die wissenschaftliche Einteilung der „AI Literacy“ in technische, kritische und ethische Aspekte geht maßgeblich auf die Forschung von Duri Long und Brian Magerko (2020) zurück. Sie definierten 15 Kompetenzen, die in der aktuellen Lehrmeinung meist zu den hier genutzten Clustern zusammengefasst werden:
- Kategorie 1 & 2: „What is AI?“ und „Human Role in AI“.
- Kategorie 3, 4 & 5: „Critiquing AI“ und „Recognizing AI“.
- Kategorie 6, 7 & 8: „Ethics“ und „Data Literacy“.
- Referenz: Long, D., & Magerko, B. (2020). What is AI Literacy? Core Competencies and Design Considerations.
4. Institutionelle Quellen in Deutschland
In Deutschland wird diese Struktur unter anderem von folgenden Institutionen für Schulungskonzepte genutzt:
- KI-Campus (Lernplattform für KI): Nutzt ein Kompetenzmodell, das technische Handhabung eng mit ethischer Reflexion verknüpft.
- Stifterverband / Hochschulforum Digitalisierung: Verwendet das Konzept der „Data Literacy“ als Vorläufer, das nun um die spezifischen KI-Dimensionen (Prompting, Bias, Transparenz) erweitert wurde.
Zusammenfassung der Herleitung
Der Fragenkatalog basiert also auf den folgenden Quellen:
| Dimension im Quiz | Quelle |
|---|---|
| 1. Prompting | DigComp 2.2 (Interaction) / AI Act (Usage) |
| 2. Systemverständnis | Art. 4 AI Act (Knowledge) / Long & Magerko |
| 3. Faktencheck | DigComp 2.2 (Information Literacy) |
| 4. Bias-Sensibilität | Erwägungsgrund 44 AI Act / DigComp 2.2 |
| 5. Human Oversight | Artikel 14 AI Act (Menschliche Aufsicht) |
| 6. Datenschutz | DSGVO & Art. 4 AI Act (Risikobewusstsein) |
| 7. Transparenz | Artikel 50 AI Act (Transparenzpflichten) |
| 8. Haftung/Recht | AI Act Gesamtsystematik & Haftungsrichtlinien |
