Der AI Act der EU (Verordnung (EU) 2024/1689) ist die erste umfassende KI-Verordnung der Europäischen Union. Deren risikobasierter Rahmen soll sicherstellen, dass KI-Systeme sicher, transparent und mit den Grundrechten vereinbar sind. Der AI Act unterteilt KI-Systeme in vier Risikokategorien – von KI-Systemen mit inakzeptablem Risiko bis hin zu Tools mit keinem/niedrigem Risiko. Für die einzelnen Risikokategorien gelten jeweils unterschiedliche Compliance-Anforderungen. Bei Hochrisiko-KI-Systemen müssen Organisationen ein robustes Risikomanagement, menschliche Aufsicht und Transparenzmaßnahmen implementieren. Angesichts von Geldbußen in Höhe von bis zu 7 % des weltweiten Jahresumsatzes oder 35 Millionen Euro ist die Einhaltung der Vorschriften von entscheidender Bedeutung. In diesem Whitepaper werden der AI Act vorgestellt, der Geltungsbereich dargelegt und erläutert, wie Sie mit Human Risk Management die Anforderungen des AI Acts bezüglich der menschlichen Aufsicht erfüllen können.
Drei wichtige Erkenntnisse:
- Risikobasierte Regulierung mit strengen Strafen
KI-Systeme werden in vier Risikokategorien mit abgestuften Compliance- Anforderungen eingeteilt. Bei Nichteinhaltung drohen Geldbußen von bis zu 7 % des weltweiten Jahresumsatzes oder 35 Millionen Euro. - Menschliche Aufsicht ist obligatorisch
Gemäß Artikel 14 müssen Hochrisiko-KI-Systeme so konzipiert werden, dass natürliche Personen in der Lage sind, die Ausgabe richtig zu interpretieren, in den Betrieb solcher KI-Systeme einzugreifen oder deren Ausgabe außer Kraft zu setzen – dadurch wird menschliche Kompetenz zu einer regulatorischen Verpflichtung. - Human Risk Management ermöglicht Compliance
Obwohl nicht ausdrücklich vom AI Act verlangt, sind Human Risk Management und Security Awareness Training unerlässlich, um die Anforderungen des AI Acts in Bezug auf menschliche Aufsicht, Rechenschaftspflicht und Risikomanagement zu erfüllen.