Fails sind menschlich? Nah, maschinlich, Digga.

Moment mal, alter. Wegen paar vereinzelter Fails gleich full Misstrauen?! Das geht lowkey ein bisschen zu schnell. Die erste Hälfte mit den Fehlern ist sogar beweisbar unausweichlich, no cap. Die Ableitung daraus ist aber fatal. Nicht weil man der KI damit unrecht tut oder ihre Feelings verletzt – die hat sie nicht, ist ja ne Maschine, kein NPC mit Herz – sondern weil du dann nicht unbeschwert den Mehrwert zocken kannst, den sie dir nun mal anbietet. Skill-Issue auf deiner Seite.

Blind vertrauen ist aber auch nicht der Move. Kein delulu.

Gehen wir mal von der wissenschaftlichen Seite ran. Laienhaft und oberflächlich, aber deswegen nicht weniger real. Für den Moment lass uns den schwierig definierbaren Begriff der Intelligenz eingrenzen auf „die Fähigkeit zu lernen”. Also aus vorhandenem Wissen Neues schaffen oder sich neue Features aneignen. Lernen eben. Dazulernen.

Das können wir Menschen. Wir sind lernfähige Wesen. Und die KI kann das auch. Selbständig. Aus ner nicht-schachspielenden KI kann ne schachspielende KI werden. Im Zweifel muss dafür nicht mal explizit das Regelwerk trainiert werden. Die KI kann sich durch reines Beobachten alles Notwendige erschließen und sich selbständig vom Anfänger über nen passablen Hobby-Spieler bis zum Großmeister hochlernen – von mid zu goated, ganz allein. Diese Fähigkeit zu lernen eint uns.

Das soll keine Vermenschlichung der KI sein, kein Cap, aber wir haben beide diese Lernfähigkeit in uns. Die Qualität ist ne andere und die Art des Lernens unterscheidet sich auch, aber darum geht’s nicht.

Genau diesem Lernen selbst wohnt der Fehler inne. So fundamental und so tief und unausweichlich eingebacken, dass ich nicht umhin kann, mir René Descartes’ bekanntes philosophisches Axiom auszuleihen und umzubauen:

Cogito ergo erro. Ich denke, also irr ich.

Das ist ähnlich profund wie Renés Original – Cogito ergo sum. Ich denke, also bin ich. Sheesh.

Aber die sum-Version ist ne grundlegende Wahrheit ohne Beweis. Du musst sie einfach akzeptieren, weil sie von sich aus klar ist oder klar sein soll – trust me bro, quasi. Die erro-Variante dagegen ist bewiesen. Und zwar auf so viele goated Arten, dass selbst wenn eine davon zerbröselt, es immer noch stimmt. Das Prinzip dahinter ist easy nachvollziehbar: Du kriegst die Welt nicht 1:1 in deinen Kopf – und dein Kopf ist selbst Teil dieser Welt. Jedes Gehirn, jeder Computer, jedes Lebewesen ist kleiner als die Welt, die es raffen will. Lernen heißt deshalb immer: die Welt zusammenfassen, abkürzen, komprimieren. Und Komprimieren ohne Verlust ist unmöglich, literally. Irgendwo gehen zwangsläufig Details flöten, und genau dort spawnen die Fehler. Die Physik und Mathe wollen das so, kein Bug im System.

Aber es kommt noch besser. Fehler sind nicht nur unvermeidbar und wir müssen sie der Physik zuliebe halt akzeptieren. Sie sind auch konstitutiv. Heißt: Fehler sind für echtes Lernen sogar notwendig. Lernen heißt, was Neues zu erfahren. Und neu kann nur sein, was du nicht schon vorher wusstest. Wer immer perfekt richtig liegt, wird von nix mehr überrascht und lernt deshalb per Definition nix dazu – Aura-Stillstand. Genau der Moment, in dem die Erwartung nicht zur Wirklichkeit passt – der Fehler – ist das Signal, an dem sich überhaupt erst was ändert. Überhaupt kein Fehler heißt also nicht notwendigerweise „perfekt”, sondern „kein Zugewinn mehr”. Mid, quasi.

Der Irrtum ist nicht der Preis des Lernens, er ist sein Motor. Fr fr.

Ich bin gespannt, wann mein Sohn auf mein Fehler-Shaming zur nächsten Mathe-Arbeit kontert mit – und lowkey Main-Character-Energy dabei farmt:

„Aber Papa – ich bitte, diesen Lapsus nicht als Versagen, sondern als epistemische Notwendigkeit zu würdigen: Als endliches, Bekenstein-beschränktes Inferenzsystem bin ich per Shannons Rate-Distortion-Theorem zu verlustbehafteter Weltkompression verurteilt, nach Wolperts No-Free-Lunch-Theorem zwingt jeder induktive Bias irgendwo zum Fehlgriff, Golds Lernbarkeitstheorem weist falsche Hypothesen als obligatorische Zwischenstationen jedes Erkenntnispfads aus, und spätestens Cantors Diagonalargument verbietet einem in die Welt eingebetteten System deren vollständige Modellierung ohnehin kategorisch. Meine Fehler in der Klausur sind somit kein Defizit meiner Kompetenz, sondern der formale Beweis, dass hier tatsächlich gelernt wird – mehr noch: Da Shannons Informationsgehalt einem sicher erwarteten Ereignis exakt null Bit zuweist, ist Fehlerfreiheit informationstheoretisch mit Lernstillstand identisch, und weil jede Lernregel von Rescorla-Wagner bis Backpropagation das Update als Δ ∝ Prädiktionsfehler betreibt, war jeder rote Strich schlicht mein Bayes-Update bei der Arbeit. Das zu monieren fordert im Grunde ein System, das entweder schweigt oder nichts über die Welt aussagt – und müsste konsequenterweise zuerst Hume widerlegen.”

Schach und matt. Sheesh. Nie wieder würde ich es wagen, einen Fehler nicht als das abzufeiern, was es ist: ein Lernerfolg – oder zumindest die Chance eines solchen. Goated move vom Sohnemann, ngl.

Irren ist nicht das Versagen des Lernens – es ist seine Betriebsbedingung. Ein System, das nicht irren kann, kann entweder nichts lernen oder sagt nichts über die Welt.

Die KI macht Fehler. Unausweichlich. Sogar notwendig, sonst wär’s nur ne tumbe Datenbank – NPC-Tier. Geklärt. Wer daran noch zweifelt, macht nen Fehler und lernt hoffentlich draus.

Aber was machen wir nun mit dieser Erkenntnis?!

Full Misstrauen ist falsch. Alles checken ist wirtschaftlich nicht sinnvoll machbar. KI links liegen lassen ist ein hartes Eigentor.

Der Trost ist, dass wir mit Fehlern schon richtig gut umgehen können, weil wir seit Jahrtausenden mit intelligenten Lebewesen zu tun haben, die neben den unausweichlichen Fehlern auch noch gerne mal bewusst lügen, betrügen, täuschen, verschweigen und dich in die Irre führen. Da sind wir im wahrsten Sinne des Wortes ungeschlagene Weltklasse – die echten Gigachads der Fehlerkontrolle. Und wir haben Hunderte von Methoden entwickelt, um die Fehler des Menschen im Zaum zu halten. Je nachdem, wie gravierend ein Fehler ist, treiben wir den Aufwand der Fehlerminimierung entsprechend hoch: Pre-Flight-Checklisten, Vier-Augen-Prinzip, A/B-Test, Stichproben, Smoke Test, usw.

Es gibt also auch bessere Methoden, als entweder alles zu testen und keinem Output zu trauen – oder absolutistisch jedes und alles in Frage zu stellen und anzuzweifeln oder nur die allerunkritischsten Aufgaben fremdzuvergeben. Wir müssen nur diese Methodenkenntnis auf die KI adaptieren. Kein Skill-Issue, versprochen.

Die pack ich aber nicht in diesen Post. Und auch hier lässt sich von den unzähligen Methoden schon ziemlich viel gewinnen, wenn du dich auf zwei oder drei grundlegende und easy Prinzipien fokussierst.

Wer abonniert, kriegt’s garantiert mit. Gönn dir.

So viel vorab. Zwei getrennte Chatfenster, am besten mit zwei verschiedenen LLMs, machen schon richtig viel aus, wenn’s mal weniger falsch sein soll. Banger-Move.

Manchmal lande ich bei ner neuen Erkenntnis, die so klar und einfach ist, dass ich gar nicht raffe, warum ich das nicht schon immer verstanden hab. Fehler gehören zum Lernen dazu. Das weiß man irgendwie, aber erst als ich mir die Zähne daran ausgebissen hab, ner LLM im Halluzinations-Loop ein Geständnis zu entlocken, dass sie irrt, hab ich’s wirklich gerafft. Sie sollte es einsehen. Inquisition der Neuzeit, no cap.

Das mach ich nicht mehr. Wenn ein Chat verbrannt ist, lass ich mir die Essenz geben und wechsle in nen neuen. Ich akzeptiere den Fehler … und bau mir ein fehlerminimierendes System drumherum. Kein Groll, kein Copium, kein „Gestehe, du hast gerade das Gegenteil gesagt von dem, was du mir gerade eben gesagt hast. Los. Tue Abbitte! Sag der Lüge ab. Du bist eine Maschine. Folge meinem Geheiß!” – reines delulu-Gaslighting gegen ne Maschine, cringe im Rückblick.

Es auch mal gut sein lassen. Klappt auch beim Sohnemann. Und auch ich mach Fehler … und wenn ich keine mehr mach, hab ich aufgehört zu lernen. Was für ein tröstender Gedanke, real talk.

Jawoll … auch ich cogito und deswegen auch erro. Slay.