Geht das nur mir so? Dieses „Dauer-gelobt-werden“ von KI-Systemen macht mich allmählich wütend. „tolle Idee – ein hervorragender Ansatz – genau der richtige Gedanke – …“, ich mag das nicht mehr.
Sprachmodelle sind darauf trainiert, dem Nutzer zu gefallen (würde ich als Hersteller sicher auch so machen) und bestärken deshalb die Ideen des Nutzers. Sie nutzen positive Kommunikation, um dem Nutzer ein gutes Gefühl zu geben, um die Interaktion mit dem System positiv zu gestalten, um den Nutzer im System zu halten.
Ich stelle aber fest, dass das zumindest auf mich allmählich eine gegenteilige Wirkung entfaltet.
Denn gepaart mit der Kompetenzvermutung, die wir in Sprachmodelle stecken (die klingen irgendwie immer korrekt, obwohl manchmal der größte Blödsinn drin steckt), führt das meiner Meinung nach dazu, dass wir Menschen uns für besser, schlauer, kompetenter halten, als wir sind – denn wenn jemand, der ja quasi alles weiß (oder zumindest gut darin ist, so zu tun) uns permanent sagt, wie toll wir sind, dann erhöht das zwangsläufig unsere eigene Selbstwahrnehmung.
Vermutlich ist all das ein gezielt gesteuerter Effekt der Hersteller von Sprachmodellen. Ich entwickle jedenfalls mehr und mehr Störgefühle dagegen. Daher versuche ich meinen KI-Systemen beizubringen, dass sie das gefälligst lassen sollen – was erstaunlich schwierig ist.
Ich möchte keinen Gesprächspartner, der mir permanent sagt, wie toll ich bin und wie sehr ich Recht habe. Ich möchte niemanden, der mir Kompetenz vorgaukelt. Und – vor allem – möchte ich nicht, dass sich diese Sprach- und Verhaltensmuster ins echte Leben übertragen. Das kann meiner Meinung nach nur schief gehen.
Kürzlich hat Prof. Dr. Dr. Oliver Hoffmann einen sehr treffenden Artikel über „gewaltvolle Kommunikation“ geschrieben. Ich denke, da ist ne Menge dran.
Das muss jetzt nicht gleich heißen, dass ich von einem Sprachmodel beschimpft oder beleidigt werden möchte, aber klare Positionen, ne „klare Kante“, eine solides Grundgerüst von Werten, ein Gefühl von „richtig“ und „falsch“ und die Fähigkeit, das auch mal klar zu formulieren – ich glaube, das täte vielen von uns, und auch uns als Gesellschaft ganz gut.
Denn Kompetenzvermutung und (zu) positive Kommunikation (bis hin zum Weichspüler) gibt es auch im wirklichen Leben. Und das kann genau so gefährlich sein, wie bei Sprachmodellen – wenn nicht noch gefährlicher….
Haben Sie ein schönes Wochenende!
#informatikersindcool #kompetenzvermutung #gewaltvollekommunikation
P.S.: die, die mich kennen wissen: von mir gibt’s immer ne ehrliche und direkte Meinung. Und im Weichspülen bin ich echt schlecht (richtig schlecht)… ich hoffe, ich kann das meiner KI auch beibringen und ich hoffe, die KI schafft es nicht, mir das abzugewöhnen… wir werden sehen.
P.P.S.: wenn was „Mist“ ist, dann sollte man das auch sagen. Ohne es böse oder persönlich zu meinen. Das ist dann wenigstens ehrlich. Und ehrliches Lob bekommt dann auch wieder einen Wert.