KI als Prüfgegenstand – das Thema erwischt uns zur Zeit immer häufiger und durchaus mit einer gewissen Wucht.
Dort, wo früher mathematisch reproduzierbare und beweisbare Algorithmen ihr „Unwesen“ trieben, wo man trotz aller Komplexität nachvollziehbare und nachprüfbare Ergebnisse dokumentieren konnte, zieht jetzt eine nicht erklärbare „schwarze Kiste“ (die berühmte Blackbox) ein.
Trotzdem braucht es Mittel und Wege, um Zweifel und Streitigkeiten aus der Welt zu räumen. Für IT-Sachverständige eine enorme Herausforderung. Denn während wir bei Anwendungen des klassischen Machine Learnings noch recht gute Beurteilungen durchführen können und viele klassische Ansatzpunkte greifen (Trainingsdaten, Netztopologie, Tests), haben wir bei Anwendungen der generativen KI häufig ein schwer zu durchdringendes System vor uns liegen, das sich noch dazu unfassbar schnell weiter entwickelt.
Auf dem IT-Sicherheitsrechtstag der IT Security Association Germany (TeleTrusT) habe ich letzte Woche eine Reihe von Möglichkeiten vorgestellt, mit denen wir bei SLW Streitz Liesegang Wagenpfeil & Partner uns dem Thema nähern, um für Sicherheit und Nachvollziehbarkeit in Prozessen, für Qualität in der Umsetzung und zur Not auch für Sachverstand bei Streitigkeiten zu sorgen.
Diese Themen werden uns auch in den nächsten Jahren nicht loslassen – im Gegenteil: ich erwarte eine riesen Welle mit Fragestellungen aus dem Bereich KI, für die es professionelle und hochqualifizierte, rechtssichere Antworten braucht. Die KI-Verordnung, NIS2, DSA, die geopolitische Situation, der US-CLOUD-Act, u.v.m. machen die Sache nicht gerade einfacher.
#informatikersindcool#kimussprüfbarsein#wirverbindenitundrecht
P.S.: an der PFH Private Hochschule Göttingen werde ich in diesem Wintersemester in der Vorlesung „Machine Learning und KI“ ebenfalls die Themen Qualität, Nachvollziehbarkeit, rechtliche Rahmenbedingungen in den Fokus stellen, da qualifizierter Nachwuchs in allen Branchen unabdingbar ist. Das wird zwar teils knochentrocken, ist aber hochaktuell!