Bei jeder neuen Technologie macht es natürlich Sinn, seine Mitarbeiter zu schulen. So ist das auch bei Künstlicher Intelligenz. Allerdings gibt es einen Unterschied zu neuen Versionen von Office-Programmen oder einer neuen Kommunikations-App wie Teams oder Zoom. Bei Künstlicher Intelligenz gibt es auch einen rechtlichen Grund dafür, die Mitarbeiter zu schulen: den AI Act (offizieller Gesetzestext).
Hinweis: Dieser Artikel stellt keine Rechtsberatung dar. Er spiegelt die Einschätzung eines Experten für KI-Trainings wider und dient der allgemeinen Information über die wirtschaftlichen und organisatorischen Implikationen des AI Acts. Für eine rechtlich verbindliche Beratung ziehen Sie bitte einen Fachanwalt hinzu.
Was steht denn überhaupt drin?
Der offizielle Titel des AI Act ist ein bisschen länger: „Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz)“.
Ich bin aufgrund der Handlichkeit des offiziellen Namens so frei und bleibe bei AI Act. Für Unternehmen sind im Hinblick auf die Mitarbeiterqualifizierung besonders die Artikel 4 und 99 relevant. In Artikel 4 steht:
Artikel 4 KI-Kompetenz
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
An mehreren Stellen des AI Acts wird die KI-Kompetenz erwähnt und als Voraussetzung für einen sicheren Betrieb referenziert. Unter anderem ist dies auch auch indirekt im Artikel 99 zu den Strafen bei Vorfällen, die laut AI Act verboten sind, der Fall:
Artikel 99 Sanktionen
(7) Bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße werden in jedem Einzelfall alle relevanten Umstände der konkreten Situation sowie gegebenenfalls Folgendes berücksichtigt:[…]
g) Grad an Verantwortung des Akteurs unter Berücksichtigung der von ihm ergriffenen technischen und organisatorischen Maßnahmen;
Der Punkt, der hier klar für eine frühzeitige Schulung der Mitarbeiter spricht, ist meiner Meinung nach die Kombination aus Pflicht und Haftung:
- Artikel 4 schreibt vor, dass KI-Kompetenz hergestellt werden muss
- Artikel 99 Absatz 7g macht die Umsetzung dieser „organisatorischen Maßnahmen“ zu einem entscheidenden Faktor bei der Bemessung von Bußgeldern.
An dieser Stelle macht es Sinn, zu erwähnen, dass die Strafen des AI Act ähnlich hoch sind wie bei der DSGVO:
- Bei Missachtung des Verbots [gemäß] Artikel 5 […] werden Geldbußen von bis zu 35 000 000 EUR oder — im Falle von Unternehmen — von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.
- [B]ei „falsche[n], unvollständige[n] oder irreführende[n] Informationen […] werden Geldbußen von bis zu 7 500 000 EUR oder — im Falle von Unternehmen — von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.
Die € 35 Mio. bzw. 7% sind allerdings primär für Ersteller von KI-Systemen gedacht, denn darum geht es in Artikel 5 Verbotene Praktiken im KI-Bereich. Wer solche KI-Systeme in Betrieb nimmt, die verbotene Praktiken ermöglichen, macht sich allerdings auch strafbar – damit erweitert sich der Kreis.
Was bedeutet der AI Act für Unternehmen?
Das realistische Risikoszenario für Betriebe sieht wie folgt aus:
- Ein Mitarbeiter nutzt KI-Werkzeuge auf eine Weise, die gegen gesetzliche Verbote verstößt, z.B. durch eine Halluzination
- Ein Vorfall wird bekannt (Data Breach, Diskriminierung durch KI, Nutzung verbotener Systeme) oder von der Firma selbst angezeigt
- Die Aufsichtsbehörde prüft im Rahmen der Bußgeldfestsetzung, welche organisatorischen Maßnahmen das Unternehmen getroffen hat, um dies zu verhindern.Bei der Festlegung der Strafe wird geprüft, ob die beteiligten Mitarbeiter geschult wurden
Hier wird das Training zum wirtschaftlichen Schutzschild. Kann die Firma nachweisen, dass sie ihrer Pflicht aus Artikel 4 nachgekommen ist (z. B. durch Schulungsprotokolle, Zertifikate oder Abschlusstests), dient dies vermutlich als maßgebliches Entlastungsargument. Ohne diesen Nachweis einer aktiven Kompetenzförderung riskieren Verantwortliche, dass ihnen ein Organisationsverschulden vorgeworfen wird, was die Strafe drastisch erhöhen kann.
Fazit: eine KI-Schulung ist keine Kür, sondern eine notwendige Risikovorsorge.
