Müssen wir KI verstehen? Oder reicht es, wenn das Ergebnis stimmt?

Auf einer Veranstaltung des AKEUR in Köln entstand gestern eine Diskussion, die mich im Nachgang ziemlich beschäftigt hat: müssen wir Generative KI überhaupt verstehen – oder reicht es, wenn das Ergebnis korrekt und plausibel ist?

Der Techniker in mir sagt: natürlich möchte ich verstehen, wie Gen-KI funktioniert und in der Diskussion habe ich dann erläutert, wieso das so schwierig ist und wieso Explainable-AI m.E. ein wichtiges, vielleicht sogar entscheidendes Thema ist. Als IT-Sachverständige fordern wir darüber hinaus Nachprüfbarkeit und Nachvollziehbarkeit (im Gen-KI Umfeld derzeit sehr sehr schwierig).

Andererseits ist das Argument verständlich, man wäre ja „nur“ Nutzer und wenn’s funktioniert und die Ergebnisse stimmen, würde das ja reichen. Man würde ja mittlerweile auch nicht mehr kapieren, wie ein Auto im Detail funktioniert und solange es einen von A nach B bringt, perfekt.

Ich kann absolut akzeptieren und verstehen, dass viele Leute einfach nur am Ergebnis interessiert sind, denn ich hab‘ bspw. ja auch null Ahnung, wie mein Auto mich im Detail von A nach B bringt und was da alles an Technik und Ingenieurskunst für nötig ist.

Aber ich glaube auch, dass sich viele Leute darauf verlassen
• dass es Menschen gibt, die eben genau diese Ahnung haben
• dass es sowas wie eine Qualitätssicherung gibt und
• dass es kritische Stimmen gibt, die so lange die nervigen, gemeinen Fragen stellen, bis Bedenken ausgeräumt werden können.

Im KI-Umfeld passiert das gerade mit unfassbarer Wucht und Dynamik. Die letzten drei Jahre (seit Chat GPT veröffentlicht wurde) waren verrückt. Und das, was der Automobilbau in Jahrzehnten an Erfahrung und immer weiteren Optimierungen geschafft hat, das was hier auch zum Vertrauen in das „German Engineering“ geführt hat, müssen wir in der KI-Welt innerhalb weniger Monate stemmen. Aber das ist kein Grund, es nicht zu versuchen.

Denn nur das Ergebnis zu betrachten, ist mir persönlich zu wenig!

Ob als IT-Sachverständiger bei SLW Streitz Liesegang Wagenpfeil & Partner oder an der PFH Private Hochschule Göttingen als Professor für Software-Engineering – ich möchte meinen Teil dazu beitragen, dass all die Menschen, die einfach nur am Ergebnis interessiert sind, sich trotzdem darauf verlassen können, dass alles mit rechten Dingen zugeht.

Genauso, wie ich mich auf unsere Automobilbauer verlasse…. ich finde auch, ein Wiederbeleben des „German Engineering“ im Bereich Gen-KI schadet nicht!