Irren ist maschinlich

Moment. Wegen vereinzelter Fehler gleich generelles Misstrauen?! Das geht ein wenig zu schnell. Die erste Hälfte mit den Fehlern ist sogar beweisbar unausweichlich. Die Ableitung daraus ist fatal. Nicht weil man der KI damit unrecht tut oder ihre Gefühle verletzt – die hat sie nicht, es ist ja eine Maschine – sondern weil man dann nicht unbeschwert den Mehrwert nutzen kann, den sie nun mal anbietet.

Blindes Vertrauen ist aber auch nicht die Lösung.

Gehen wir mal von der wissenschaftlichen Seite ran. Laienhaft und oberflächlich, aber deswegen nicht weniger wahr. Für den Moment lass uns den schwierig definierbaren Begriff der Intelligenz eingrenzen auf „die Fähigkeit zu lernen”. Also aus vorhandenem Wissen, Neues zu schaffen oder sich neue Features anzueignen. Lernen eben. Dazulernen.

Das können wir Menschen. Wir sind lernfähige Wesen. Und die KI kann das auch. Selbständig. Aus einer nicht-schachspielenden KI kann eine schachspielende KI werden. Im Zweifel muss dafür nicht mal explizit das Regelwerk trainiert werden. Die KI kann sich durch reines Beobachten alles Notwendige erschließen und sich selbständig vom Anfänger über einen passablen Hobby-Spieler bis zu einem Großmeister hochlernen. Diese Fähigkeit zu lernen eint uns.

Das soll keine Vermenschlichung der KI sein, aber wir haben beide diese Lernfähigkeit in uns. Die Qualität ist eine andere und die Art des Lernens unterscheidet sich auch, aber darum geht es nicht.

Genau diesem Lernen selbst wohnt der Fehler inne. So fundamental und so tief und unausweichlich eingebacken, dass ich nicht umhin kann mir René Descartes’ bekanntes philosophisches Axiom auszuleihen und umzuwandeln:

Cogito ergo erro. Ich denke, also irr ich.

Das ist ähnlich profund wie Renés Original-Version – Cogito ergo sum. Ich denke, also bin ich.

Aber die sum-Version ist eine grundlegende Wahrheit ohne Beweis. Man muss sie nur akzeptieren, weil sie von sich aus klar ist oder klar sein soll. Die erro-Variante dagegen ist bewiesen. Und zwar auf so viele wunderbare Arten, dass selbst wenn eine davon zerbröselt, es immer noch stimmt. Das Prinzip dahinter ist nachvollziehbar: Du kriegst die Welt nicht 1:1 in deinen Kopf – und dein Kopf ist selbst Teil dieser Welt. Jedes Gehirn, jeder Computer, jedes Lebewesen ist kleiner als die Welt, die es verstehen will. Lernen heißt deshalb immer: die Welt zusammenfassen, abkürzen, komprimieren. Und Komprimieren ohne Verlust ist unmöglich. Irgendwo gehen zwangsläufig Details verloren, und genau dort entstehen Fehler. Die Physik und Mathematik wollen das so.

Aber es kommt noch besser. Fehler sind nicht nur unvermeidbar und wir müssen sie der Physik zuliebe halt akzeptieren. Sie sind auch konstitutiv. Das heißt, dass Fehler für echtes Lernen sogar notwendig sind. Lernen heißt, etwas Neues zu erfahren. Und neu kann nur sein, was man nicht schon vorher wusste. Wer immer perfekt richtig liegt, wird von nichts mehr überrascht und lernt deshalb per Definition nichts dazu. Genau der Moment, in dem die Erwartung nicht zur Wirklichkeit passt – der Fehler – ist das Signal, an dem sich überhaupt erst etwas ändert. Überhaupt kein Fehler heißt also nicht notwendigerweise „perfekt”, sondern „kein Zugewinn mehr”.

Der Irrtum ist nicht der Preis des Lernens, er ist sein Motor.

Ich bin gespannt, wann mein Sohn auf mein Fehler-Shaming zur nächsten Mathe-Arbeit kontert mit:

„Aber Papa – ich bitte, diesen Lapsus nicht als Versagen, sondern als epistemische Notwendigkeit zu würdigen: Als endliches, Bekenstein-beschränktes Inferenzsystem bin ich per Shannons Rate-Distortion-Theorem zu verlustbehafteter Weltkompression verurteilt, nach Wolperts No-Free-Lunch-Theorem zwingt jeder induktive Bias irgendwo zum Fehlgriff, Golds Lernbarkeitstheorem weist falsche Hypothesen als obligatorische Zwischenstationen jedes Erkenntnispfads aus, und spätestens Cantors Diagonalargument verbietet einem in die Welt eingebetteten System deren vollständige Modellierung ohnehin kategorisch. Meine Fehler in der Klausur sind somit kein Defizit meiner Kompetenz, sondern der formale Beweis, dass hier tatsächlich gelernt wird – mehr noch: Da Shannons Informationsgehalt einem sicher erwarteten Ereignis exakt null Bit zuweist, ist Fehlerfreiheit informationstheoretisch mit Lernstillstand identisch, und weil jede Lernregel von Rescorla-Wagner bis Backpropagation das Update als Δ ∝ Prädiktionsfehler betreibt, war jeder rote Strich schlicht mein Bayes-Update bei der Arbeit. Das zu monieren fordert im Grunde ein System, das entweder schweigt oder nichts über die Welt aussagt – und müsste konsequenterweise zuerst Hume widerlegen.”

Schach und matt. Nie wieder würde ich es wagen, einen Fehler nicht als das abzufeiern, was es ist: ein Lernerfolg – oder zumindest die Chance eines solchen.

Irren ist nicht das Versagen des Lernens – es ist seine Betriebsbedingung. Ein System, das nicht irren kann, kann entweder nichts lernen oder sagt nichts über die Welt.

Die KI macht Fehler. Unausweichlich. Sogar notwendig, sonst wäre es nur eine tumbe Datenbank. Geklärt. Wer daran noch zweifelt, macht einen Fehler und lernt hoffentlich daraus.

Aber was machen wir nun mit dieser Erkenntnis?!

Generelles Misstrauen ist falsch. Alles prüfen ist wirtschaftlich nicht sinnvoll möglich. KI links liegen lassen ist ein Eigentor.

Der Trost ist, dass wir mit Fehlern schon sehr gut umgehen können, weil wir seit Jahrtausenden mit intelligenten Lebewesen zu tun haben, die neben den unausweichlichen Fehlern auch noch gerne mal bewusst lügen, betrügen, täuschen, verschweigen und in die Irre führen. Da sind wir im wahrsten Sinne des Wortes ungeschlagene Weltklasse. Und wir haben Hunderte von Methoden entwickelt, um die Fehler des Menschen im Zaum zu halten. Je nachdem, wie gravierend ein Fehler ist, treiben wir den Aufwand der Fehlerminimierung entsprechend: Pre-Flight-Checklisten, Vier-Augen-Prinzip, A/B-Test, Stichproben, Smoke Test, usw.

Es gibt also auch bessere Methoden, als entweder alles zu testen und keinem Output zu trauen – oder absolutistisch jedes und alles in Frage zu stellen und anzuzweifeln oder nur die allerunkritischsten Aufgaben fremdzuvergeben. Wir müssen nur diese Methodenkenntnis auf die KI adaptieren.

Die werde ich aber nicht in diesen Post quetschen. Und auch hier lässt sich von den unzähligen Methoden schon ziemlich viel gewinnen, wenn man sich auf zwei oder drei grundlegende und einfache Prinzipien konzentriert.

Wer abonniert, bekommt’s garantiert mit.

So viel vorab. Zwei getrennte Chatfenster, am besten mit zwei verschiedenen LLMs, machen schon viel aus, wenn es mal weniger falsch sein soll.

Manchmal lande ich bei einer neuen Erkenntnis, die so klar und einfach ist, dass ich gar nicht verstehen kann, warum ich das nicht schon immer verstanden habe. Fehler gehören zum Lernen dazu. Das weiß man irgendwie, aber erst als ich mir die Zähne daran ausgebissen habe, einer LLM im Halluzinations-Loop ein Geständnis zu entlocken, dass sie irrt, habe ich es wirklich verstanden. Sie sollte es einsehen. Inquisition der Neuzeit.

Das mache ich nicht mehr. Wenn ein Chat verbrannt ist, lass ich mir die Essenz geben und wechsle in einen neuen. Ich akzeptiere den Fehler … und baue mir ein fehlerminimierendes System darum herum. Kein Groll, kein „Gestehe, du hast gerade das Gegenteil gesagt von dem, was du mir gerade eben gesagt hast. Los. Tue Abbitte! Sag der Lüge ab. Du bist eine Maschine. Folge meinem Geheiß!”

Es auch mal gut sein lassen. Klappt auch beim Sohnemann. Und auch ich mache Fehler … und wenn ich keine mehr mache, habe ich aufgehört zu lernen. Was für ein tröstender Gedanke.

Jawoll … auch ich cogito und deswegen auch erro.