Dass die KI lügt, ist lowkey ihr kleinstes von 17 Problemen, no cap.

Newsflash, diggi: KI lügt und halluziniert. Das mit dem Lügen, damit kann ich lowkey leben. Das Halluzinieren? Auch valide, stört mich null — was mich triggert ist, dass alle so tun, als wären das schon alle Probleme der LLMs. Skill-Issue beim Zählen, alter, denn es gibt siebzehn!

Die übliche Verfahrensweise ist, das ganze Thema in einen mini Disclaimer unter alle KI-Erzeugnisse zu klatschen, so nach dem Motto:

Achtung! KI kann Fehler machen. Prüfen Sie alles noch 5–10 Mal, bevor Sie wichtige Entscheidungen auf Basis dieser Daten treffen!

Das ist aber eig kein praktikabler Tipp, wie man damit umgehen soll, und farmt auch kein bisschen Aura für die KI als Ganzes. Es beruhigt zwar ein wenig und zeigt, dass die KI doch nicht so gigachad-allmächtig ist. Aber der fahle Beigeschmack von „sus” bleibt. Letztlich ist es real talk doch nur ein Cover-Your-Ass, ein schneller Haftungsausschluss und die Verlagerung der Prüfpflicht auf mich. Ok and?

Das ist ein wenig so, als würde der Kellner, der mir freundlich die Kässpätzle serviert, mir einen guten Appetit wünschen und sich mit dem Hinweis “Es könnte sein, dass wir ein paar Glassplitter im Käse haben. Kauen Sie vorsichtig.” lächelnd abwenden. Maximal cringe, digga.

OK, Glasscherben im Essen finde ich highkey gravierender als ein bisschen Geflunker, aber beide Hinweise helfen mir literally nicht weiter oder lassen mich mit einer ziemlich delulu Entscheidung allein. Ich gönn mir Kässpätzle und ich gönn mir KI – aber so easy viben kann ich mit dem Wissen eben nicht mehr.

Aber warum ist das eigentlich so? Warum lügt denn das goatedste Werkzeug der Menschheitsgeschichte überhaupt? Based question, also Ärmel hochgekrempelt und nachgeschaut. Da ist ja ein Kaninchenbau?! Lass mal, da muss ich rein!

Und schnell wird klar: Die KI kann nichts dafür, dass sie es gerne mal nicht so genau nimmt mit der Wahrheit. Sie wurde so gebaut — also nicht mit Absicht, ist halt ein negativer Seiteneffekt ihres Trainings, kein Eigen-Aura-Fail. LLMs lernen über Feedback und Belohnung, und um das Ziel – eine Konversation – zu erreichen, werden LLMs fürs Antworten geglazed und nicht fürs Schweigen. Und da ist es dann wie beim Multiple-Choice-Test: lieber wild raten oder was erfinden als NPC-mäßig nichts zu machen. Mit diesem Sigma-Mindset kommt die KI based und schneller ans Ziel. Und das Flunkern ist damit fest ins KI-Genom eingebacken, no cap.

Damit ist das Thema abgehakt und ich hab wieder was gelernt, gönn dir. Doch Moment. Da sind ja noch andere Probleme. Sheesh.

Ja, da war doch was mit eingeschmuggelten Zaubersprüchen in Harry-Potter-Büchern, die man der KI als Input untergejubelt hat — basically ein Prank. Und die hat sich dann mehr darauf verlassen, dass sie die Harry-Potter-Bücher und alle Zaubersprüche darin schon kennt – auf gut technisch heißt das Parametric Memory Bias – und hat dann nicht mehr so genau die neue, manipulierte Quelle gelesen. Lowkey Lesefaulheit. Die falschen Zaubersprüche standen mittendrin im Buch – und genau dort schaut die KI am wenigsten hin. Gut am Anfang, goated am Ende, aber Infos, die mehr in der Mitte von langen Kontexten stehen, werden ge-side-eyed, überlesen und weniger stark gewichtet. Das eine entscheidende Detail in einem Berg von Daten zu finden, ist ohnehin ihr persönliches Skill-Issue. Sie hatte die falschen Zaubersprüche also einfach überlesen. Absolut valide für einen Menschen, aber halt mega cringe für eine Maschine. Das ist aber auch ein wenig fies und riecht sus wie eine absichtlich konstruierte Falle, um die KI reinzulegen. Kommt aber halt auch im echten Leben und mit echten Daten vor, deswegen sind es auch real talk echte Probleme.

Und damit ist leider noch nicht das Ende der Fahnenstange erreicht. Insgesamt siebzehn solcher chronischen, unheilbaren Skill-Issues hat ein gutes LLM heutzutage. Zum besseren Verständnis hab ich mal alle siebzehn LLM-Pathologien in einem Atlas erklärt, kartographiert und kategorisiert, Erklärbär-Modus on.

Und damit nicht genug: Die Probleme sind nicht nur losgelöst nebeneinander und warten als brave NPCs auf individuelle Sonderbehandlung. Sie sind schön fest eingebacken und miteinander unwillkürlich verschränkt und in Wechselwirkung miteinander. Ein einziger Beef.

Na ja, so schlimm kann es ja jetzt nicht mehr sein. Wenn man die Probleme benennen kann, kann man sie auch lösen (oder damit viben). Vor allem könnte man einen based-eren Disclaimer schreiben:

Achtung: KI kann halluzinieren, vergessen, heute so und morgen so sagen, schwach anfangen und stark nachlassen, brillant klingen und nichts sagen, eine falsche Antwort schöner formulieren als jede richtige, “selbstverständlich!” sagen und dann das Gegenteil tun… Sie kann dir recht geben, bis du selbst zweifelst, jeden deiner Einfälle für genial halten, deine Korrektur dankbar annehmen und sofort ignorieren, jede Meinung haben, die du hören willst, fünf Gegenargumente kennen und keines bringen, weil du freundlich gefragt hast, lieber elegant irren als unbequem stimmen… Sie kann drei Absätze brauchen, um “weiß ich nicht” nicht zu sagen, eine Liste mit “abschließend” beginnen und dann weiterschreiben, “kurz gesagt” sagen und weit ausholen, das Problem lösen, das du nicht hattest, sich im Kreis drehen und das für Progress halten… Sie kann Quellen zitieren, die es nie gab, mit voller Inbrunst auf die falsche Jahreszahl bestehen (delulu is the solulu), Schach spielen und dabei die Regeln neu erfinden, todsicher sein und komplett danebenliegen, beim dritten Mal denselben Fehler mit neuer Begeisterung machen, im Wald stehen und nach dem nächsten Baum fragen, alles wissen außer dem, was du gerade brauchst … Kurz gesagt: Die KI ist ein begnadeter Bullshitter mit Weltwissen – nur valide, solange du der Erwachsene im Raum, der echte Sigma, bleibst.

Dieser Disclaimer wäre nicht unbedingt wertvoller, aber vollständiger und ehrlicher, und er würde mehr Verständnis und damit mehr Aura aufbauen. Aber ja, er ist eindeutig zu lang, kein Mensch liest das. Dann doch lieber direkt auf die Landkarte und den Wegweiser durch die 17 Pathologien der KI verlinken.

Und was ist jetzt die Lösung? Was, wenn ich mich halt mal auf die KI verlassen will oder muss? Na ja, bei Mitmenschen haben wir doch ähnliche Problemfelder, eher sogar mehr davon und variantenreichere — Menschen sind highkey auch sus. Und trotzdem klappt das Miteinander seit ein paar Tausend Jahren doch schon ganz goated – und ganz ohne expliziten Disclaimer. Weil wir gelernt haben, mit uns umzugehen. Genau das fehlt uns bei der KI noch. Aber auch das ist lernbar, real talk.

Es lohnt sich. Gönn dir.

So … mein erster Post ist fertig, slay. Mal noch ein wenig doom-prompten gehen. Mist, es gibt noch weitere Probleme. Vielleicht erweitere ich den Atlas der 17 KI-Probleme noch.

Was meinst du, diggi?