KI ist schnell. Viel zu schnell. Und vor allem viel schneller als der berühmte “Human in the loop”. Und das wird zunehmend ein Problem.
Es ist mittlerweile unfassbar einfach geworden, gut klingende Ergebnisse mit KI zu erzeugen (egal ob Quellcodes, Texte, wissenschaftliche Arbeiten, Testfälle, Präsentationen, Marketing-Material, Geschäftsberichte, Analysen, Kreditbewertungen, u.v.m.) – und es ist mittlerweile unfassbar schwierig geworden, das zu prüfen.
Wenn wir den “Human in the loop” fordern, müssen wir ihm auch die nötige Zeit und Befähigung geben. Was dann wiederum bedeutet, dass er KI-optimierte Prozesse massiv ausbremsen wird.
Aber wenn eine KI statt 200 Quellcode-Zeilen pro Tag (im Schnitt) auf einmal 20.000 Zeilen produziert und der “Human in the loop” die Qualitätssicherung vornehmen soll, kann das nicht funktionieren.
Wenn es nur noch 30 Minuten dauert (anstatt 2 Monate), um ein KI-generiertes wissenschaftliches Paper zu schreiben, kann man die Masse an zusätzlichen Papers nicht mehr sauber reviewen.
Und dabei geht es nicht nur um das reine zeitliche Problem – das könnte man theoretisch mit 100en “Humans in the loop” lösen.
Es geht vor allem darum, dass man eine völlig neue Qualifikation in KI-gestützten Prozessen braucht. Früher hat man es dem Ergebnis recht schnell angesehen, ob es gut oder schlecht war. Heute sieht (danke KI) alles erst mal top aus. Wir müssen bei der Prüfung viel mehr ins Detail einsteigen, viel tiefer bohren, viel mehr hinterfragen. Wir brauchen die Prompts, die eingesetzt wurden, um eventuelle Risiken zu identifizieren und wir brauchen die Zeit dafür.
Wer also heute einen “Human in the loop” fordert, sollte sich bewusst sein, was das bedeutet – und dass man das nicht so ohne Weiteres nebenbei machen kann.
Damit der “Human in the loop” am Ende kein Problem bekommt, muss er entsprechend “ausgestattet” werden – mit Zeit, Qualifikation, Mandat. Denn sonst ist der “Human in the loop” am ende noch der letzte Depp…
#informatikersindcool #humanintheloop
