Was bringt uns all die schöne generative KI, wenn wir ihr nicht glauben können? Und damit meine ich nicht KI-Wasserzeichen, Echtheitszertifikate und den ganzen technischen Kram.
Ich bin da gerade etwas grundsätzlicher unterwegs (sorry dafür)… und habe mich die letzten Wochen intensiv aus einer anderen Ecke mit dem Thema KI beschäftigt – der Philosophie. Spannende Sache das.
Und ich komme zu dem Schluss, dass wir KI endlich raus aus der Technik-Ecke nehmen müssen. Es geht nicht darum, ob KI intelligent ist oder etwas “weiß”. Vielmehr ist doch wichtig, dass wir es bereits heute mit einer ganzen Wissens-Infrastruktur zu tun haben, durch die Wissen erzeugt, geprüft, verarbeitet und genutzt wird. Ob wir wollen oder nicht.
Jeder von uns macht das. Chat GPT und Co produzieren korrekt klingendes Wissen am Fließband.
Wir müssen daher vielmehr herausfinden, unter welchen Bedingungen menschliches Vertrauen in KI-vermittelte Aussagen geschaffen werden kann – und wann dieses überhaupt gerechtfertigt ist.
Wir Menschen haben gelernt, Wissen von (direkten oder indirekten) glaubwürdigen Zeugen aufzunehmen – weil etwas in der Zeitung steht, weil uns der Lehrer das gesagt hat, weil ein Richter das so entschieden hat, usw. Und die spannende Frage ist doch, was braucht es, damit KI so eine Rolle einnehmen kann.
Ich glaube, hierfür müssen mindestens die folgenden Kriterien erfüllt sein:
• Nutzer müssen erkennen können, ob eine Antwort auf überprüfbaren Quellen, generativer Rekonstruktion oder auf bloßer Wahrscheinlichkeitsfortsetzung beruht
• Systeme müssen Unsicherheiten, Grenzen, mögliche Fehler sichtbar machen
• wir brauchen eine Anschlussfähigkeit an menschliche Prüfung. KI-Antworten dürfen nicht der Endpunkt sein, sondern vielmehr der Ausgangspunkt kritischer Reflexion
• kontextabhängiges Vertrauen in KI-Ergebnisse ist erforderlich. An das Kochrezept zuhause gelten andere Anforderungen als an die wissenschaftliche Abhandlung
• Vertrauen in KI darf nicht zur Delegation epistemischer Verantwortung führen. Überzeugungsbildung und Entscheidungsfindung muss beim Menschen bleiben
An genau diesen Punkten treffen sich Informatik und Philosophie. Und das ist richtig und wichtig! Ich bin überzeugt, dass wir uns hier “unterhaken”, miteinander reden, voneinander lernen müssen, um tragfähige Lösungen zu entwickeln.
Und ich bin außerdem überzeugt, dass wir Generative KI als epistemische Infrastruktur betrachten müssen – mit allem, was an Zeugnis, Autorität, Vertrauen, Verlässlichkeit dazu gehört. Das ist viel wichtiger als der ganze Technik-Kram. Und damit beschäftigt sich die Philosophie schon seit Ewigkeiten und wir sollten das in der Informatik nutzen (P.S.: andersrum übrigens genauso).
Wer Lust auf einen gedanklichen Ausflug hat, ich hab’ das runtergeschrieben: https://lnkd.in/e-DxDCTT
Und wer Lust auf einen interdisziplinären Austausch hat – immer gerne!
#informatikersindcool #trotzdem
