Das EU-KI-Gesetz (Verordnung EU 2024/1689) ist die erste umfassende KI-Gesetzgebung der Europäischen Union, die einen risikobasierten Rahmen schafft, um sicherzustellen, dass KI-Systeme sicher, transparent und mit den Grundrechten vereinbar sind. Das Gesetz unterteilt KI-Systeme in vier Risikostufen – von verbotenen Anwendungen bis hin zu Tools mit minimalem Risiko – mit entsprechend abgestuften Compliance-Anforderungen. Für KI-Systeme mit hohem Risiko müssen Unternehmen ein robustes Risikomanagement, menschliche Aufsicht und Transparenzmaßnahmen implementieren. Angesichts von Strafen in Höhe von bis zu 7 % des weltweiten Jahresumsatzes oder 35 Millionen Euro ist die Einhaltung der Vorschriften von entscheidender Bedeutung. Dieser Bericht untersucht die Struktur des Gesetzes, identifiziert betroffene Unternehmen und untersucht, wie Human Risk Management dazu beiträgt, die Anforderungen des Gesetzes an die menschliche Aufsicht zu erfüllen.
Drei wichtige Erkenntnisse:
- Risikobasierte Regulierung mit strengen Strafen
KI-Systeme werden in vier Risikokategorien mit abgestuften Compliance-Verpflichtungen eingeteilt. Bei Nichteinhaltung drohen Geldstrafen von bis zu 7 % des weltweiten Jahresumsatzes oder 35 Millionen Euro. - Menschliche Aufsicht ist obligatorisch
Artikel 14 schreibt vor, dass risikoreiche KI-Systeme menschliche Interpretations-, Interventions- und Überschreibungsmöglichkeiten ermöglichen müssen – wodurch menschliche Kompetenz zu einer regulatorischen Verpflichtung wird. - Menschliches Risikomanagement ermöglicht Compliance
Obwohl nicht ausdrücklich vorgeschrieben, sind menschliches Risikomanagement und Schulungen zum Sicherheitsbewusstsein unerlässlich, um die Anforderungen des Gesetzes in Bezug auf Aufsicht, Rechenschaftspflicht und Risikomanagement zu erfüllen.