Nun ist es also so weit… ab heute, dem 2. Februar ist der EU AI-Act (auch KI-Verordnung) in Kraft getreten!
𝗗𝗮𝗺𝗶𝘁 𝘀𝗶𝗻𝗱 𝗨𝗻𝘁𝗲𝗿𝗻𝗲𝗵𝗺𝗲𝗻 𝗮𝗯 𝗷𝗲𝘁𝘇𝘁 𝘃𝗲𝗿𝗽𝗳𝗹𝗶𝗰𝗵𝘁𝗲𝘁, 𝗯𝗲𝘀𝘁𝗶𝗺𝗺𝘁𝗲 𝗠𝗮ß𝗻𝗮𝗵𝗺𝗲𝗻 𝘂𝗺𝘇𝘂𝘀𝗲𝘁𝘇𝗲𝗻, 𝘀𝗼𝗳𝗲𝗿𝗻 𝘀𝗶𝗲 𝗞𝗜 𝗲𝗶𝗻𝘀𝗲𝘁𝘇𝗲𝗻.
Beispielsweise sind 𝗞𝗜-𝗦𝘆𝘀𝘁𝗲𝗺𝗲 𝗺𝗶𝘁 𝘂𝗻𝗮𝗻𝗻𝗲𝗵𝗺𝗯𝗮𝗿𝗲𝗺 𝗥𝗶𝘀𝗶𝗸𝗼 𝘃𝗲𝗿𝗯𝗼𝘁𝗲𝗻 – man darf in der EU also kein Social Scoring mehr betreiben oder manipulative Technologien einsetzen, die mit Hilfe von KI Entscheidungen oder Meinungen von Menschen beeinflussen oder überwachen. Solche Systeme dürfen weder entwickelt noch eingesetzt werden.
In der zweiten Stufe, den 𝗛𝗼𝗰𝗵𝗿𝗶𝘀𝗶𝗸𝗼-𝗞𝗜-𝗦𝘆𝘀𝘁𝗲𝗺𝗲𝗻 wird es für uns spannender… denn die betrifft tatsächlich eine Menge Unternehmen auch hier in Deutschland. Darunter fallen bspw. Systeme in der Personalrekrutierung, Diagnostik, Bildung, Militär, Infrastruktur oder Medizin. Also genau die Sektoren, in denen die deutsche Industrie ihre Schwerpunkte gesetzt hat.
Hier sind Unternehmen verpflichtet, KI-Systeme zu 𝗶𝗱𝗲𝗻𝘁𝗶𝗳𝗶𝘇𝗶𝗲𝗿𝗲𝗻, ihre 𝗥𝗶𝘀𝗶𝗸𝗲𝗻 𝘇𝘂 𝗯𝗲𝘄𝗲𝗿𝘁𝗲𝗻 und entsprechende (was auch immer das genau heißt) 𝗞𝗼𝗻𝘁𝗿𝗼𝗹𝗹𝗺𝗲𝗰𝗵𝗮𝗻𝗶𝘀𝗺𝗲𝗻 einzuführen. Außerdem müssen (!) Mitarbeitende über die notwendigen 𝗞𝗜-𝗞𝗼𝗺𝗽𝗲𝘁𝗲𝗻𝘇𝗲𝘯 verfügen und entsprechend geschult sein.
𝗣𝘂𝗵. 𝗗𝗮𝘀 𝗶𝘀𝘁 𝗳𝘂̈𝗿 𝘃𝗶𝗲𝗹𝗲 𝗨𝗻𝘁𝗲𝗿𝗻𝗲𝗵𝗺𝗲𝗻 𝗲𝗶𝗻 𝗲𝗰𝗵𝘁𝗲𝗿 𝗞𝗹𝗼𝗽𝗽𝗲𝗿!
Wir haben also nicht nur die Verpflichtung, alle Systeme zu kennen, bewerten, kontrollieren und zu dokumentieren, sondern auch die verpflichtende Weiterbildung von Mitarbeitenden zu organisieren (viel Spaß, HR). Wenn ich mich so umsehe, sind bislang sehr wenige Unternehmen wirklich darauf vorbereitet.
Dummerweise gibt es empfindliche Strafen…. So können Verstöße gegen die Kontroll- und Dokumentationspflicht im Hochrisiko-Bereich mit bis zu 15 Millionen Euro oder 3% des Jahresumsatzes bestraft werden – theoretisch ab jetzt!
𝗪𝗮𝘀 𝗶𝘀𝘁 𝗮𝗹𝘀𝗼 𝘇𝘂 𝘁𝘂𝗻: 𝗞𝗜-𝗦𝘆𝘀𝘁𝗲𝗺𝗹𝗮𝗻𝗱𝗸𝗮𝗿𝘁𝗲 𝗲𝗿𝘀𝘁𝗲𝗹𝗹𝗲𝗻, 𝗘𝗶𝗻𝘀𝗮𝘁𝘇 𝘃𝗼𝗻 𝗞𝗜-𝗦𝘆𝘀𝘁𝗲𝗺𝗲𝗻 𝗱𝗼𝗸𝘂𝗺𝗲𝗻𝘁𝗶𝗲𝗿𝗲𝗻, 𝗥𝗶𝘀𝗶𝗸𝗼𝗯𝗲𝘄𝗲𝗿𝘁𝘂𝗻𝗴 𝗱𝘂𝗿𝗰𝗵𝗳𝘂̈𝗵𝗿𝗲𝗻, 𝗞𝗼𝗻𝘁𝗿𝗼𝗹𝗹𝗲𝗻 𝗲𝗶𝗻𝗳𝘂̈𝗵𝗿𝗲𝗻, 𝗠𝗶𝘁𝗮𝗿𝗯𝗲𝗶𝘁𝗲𝗿 𝗮𝘂𝘀𝗯𝗶𝗹𝗱𝗲𝗻.
Klingt einfach…. aber Sie brauchen hierfür jemanden, der Ahnung von KI hat, der ein flächendeckendes Mandat für das Thema erhält, Rückendeckung vom Management besitzt und mit einem Budget zur Umsetzung der Themen ausgestattet ist – auf C-Level wäre das ein CAIO…
𝗜𝗰𝗵 𝗲𝗺𝗽𝗳𝗲𝗵𝗹𝗲 𝗜𝗵𝗻𝗲𝗻: 𝗻𝗲𝗵𝗺𝗲𝗻 𝗦𝗶𝗲 𝗱𝗮𝘀 𝗧𝗵𝗲𝗺𝗮 𝗲𝗿𝗻𝘀𝘁!
Prof. Dr.-Ing. Stefan Wagenpfeil