Errare è macchinale

Un attimo. Per qualche errore isolato, subito una sfiducia generale?! Un po’ troppo in fretta. La prima metà, quella degli errori, è persino dimostrabilmente inevitabile. Ma la deduzione che se ne trae è fatale. Non perché così si faccia un torto all’IA o le si feriscano i sentimenti – non ne ha, è pur sempre una macchina – ma perché poi non si può sfruttare con leggerezza il valore aggiunto che comunque offre.

Ma nemmeno la fiducia cieca è la soluzione.

Affrontiamola dal lato scientifico. In modo profano e superficiale, ma non per questo meno vero. Per il momento restringiamo il concetto – difficile da definire – di intelligenza a «la capacità di imparare». Cioè creare qualcosa di nuovo a partire dal sapere esistente, o acquisire nuove funzionalità. Imparare, insomma. Imparare qualcosa in più.

Noi umani ne siamo capaci. Siamo esseri in grado di imparare. E l’IA lo sa fare anche lei. Da sola. Da un’IA che non gioca a scacchi può nascere un’IA che gioca a scacchi. Nel dubbio, non serve nemmeno addestrarle esplicitamente le regole. L’IA può ricavare tutto il necessario dalla pura osservazione e, in autonomia, arrampicarsi da principiante a discreto giocatore amatoriale fino a gran maestro. Questa capacità di imparare ci accomuna.

Non è un’antropomorfizzazione dell’IA, ma entrambi abbiamo dentro questa capacità di imparare. La qualità è diversa e anche il modo di imparare differisce, ma non è questo il punto.

Proprio in questo imparare risiede l’errore. Così fondamentale, così profondo e inevitabilmente incastonato che non posso fare a meno di prendere in prestito e trasformare il celebre assioma filosofico di René Descartes:

Cogito ergo erro. Penso, dunque sbaglio.

È profondo quanto la versione originale di René – Cogito ergo sum. Penso, dunque sono.

Ma la versione sum è una verità fondamentale senza dimostrazione. La si deve solo accettare, perché è chiara di per sé, o dovrebbe esserlo. La variante erro, invece, è dimostrata. E per giunta in così tanti modi meravigliosi che, anche se uno di essi si sgretola, resta comunque vera. Il principio dietro è comprensibile: il mondo non te lo infili in testa 1:1 – e la tua testa è essa stessa parte di quel mondo. Ogni cervello, ogni computer, ogni essere vivente è più piccolo del mondo che vuole comprendere. Imparare significa quindi sempre: riassumere il mondo, abbreviarlo, comprimerlo. E comprimere senza perdita è impossibile. Da qualche parte, per forza, si perdono dei dettagli, ed è esattamente lì che nascono gli errori. La fisica e la matematica lo vogliono così.

Ma c’è di meglio. Gli errori non sono solo inevitabili, da accettare per amor di fisica. Sono anche costitutivi. Cioè: per imparare davvero, gli errori sono addirittura necessari. Imparare significa fare esperienza di qualcosa di nuovo. E nuovo può essere solo ciò che non si sapeva già prima. Chi ha sempre perfettamente ragione non viene più sorpreso da nulla e quindi, per definizione, non impara più niente. Proprio il momento in cui l’aspettativa non combacia con la realtà – l’errore – è il segnale a partire dal quale qualcosa comincia a cambiare. Nessun errore, allora, non significa necessariamente «perfetto», bensì «nessun guadagno in più».

L’errore non è il prezzo dell’imparare, è il suo motore.

Sono curioso di sapere quando mio figlio, al prossimo compito di matematica, ribatterà al mio error-shaming con:

«Ma papà – ti prego di apprezzare questo lapsus non come un fallimento, bensì come una necessità epistemica: in quanto sistema inferenziale finito e vincolato da Bekenstein, sono per il teorema rate-distortion di Shannon condannato a una compressione con perdita del mondo; secondo il teorema No-Free-Lunch di Wolpert, ogni bias induttivo costringe da qualche parte al passo falso; il teorema di apprendibilità di Gold indica le ipotesi errate come tappe intermedie obbligatorie di ogni percorso conoscitivo, e al più tardi l’argomento diagonale di Cantor vieta comunque categoricamente a un sistema immerso nel mondo di modellarlo per intero. I miei errori nel compito non sono dunque un deficit della mia competenza, ma la prova formale che qui si sta effettivamente imparando – anzi, di più: poiché il contenuto informativo di Shannon assegna a un evento atteso con certezza esattamente zero bit, l’assenza di errori è, in teoria dell’informazione, identica allo stallo dell’apprendimento, e poiché ogni regola di apprendimento, da Rescorla-Wagner alla backpropagation, gestisce l’aggiornamento come Δ ∝ errore di predizione, ogni segno rosso era semplicemente il mio aggiornamento bayesiano all’opera. Contestarlo pretende in fondo un sistema che o tace o non dice nulla sul mondo – e dovrebbe di conseguenza prima confutare Hume.»

Scacco. E matto. Mai più oserei non festeggiare un errore per ciò che è: un successo d’apprendimento – o almeno la possibilità di uno.

Errare non è il fallimento dell’apprendimento – è la sua condizione operativa. Un sistema che non può errare, o non impara nulla, o non dice nulla sul mondo.

L’IA commette errori. Inevitabilmente. Anzi, necessariamente, altrimenti sarebbe solo un ottuso database. Chiarito. Chi ancora ne dubita commette un errore e, si spera, ne impara qualcosa.

Ma ora, che ce ne facciamo di questa consapevolezza?!

La sfiducia generale è sbagliata. Verificare tutto non è economicamente sensato. Ignorare l’IA è un autogol.

La consolazione è che con gli errori ce la caviamo già benissimo, perché da millenni abbiamo a che fare con esseri intelligenti che, oltre agli errori inevitabili, ogni tanto amano pure mentire, imbrogliare, ingannare, tacere e sviare di proposito. Lì siamo, nel senso più pieno del termine, campioni mondiali imbattuti. E abbiamo sviluppato centinaia di metodi per tenere a bada gli errori umani. A seconda di quanto è grave un errore, tariamo di conseguenza lo sforzo per ridurlo: checklist pre-volo, principio dei quattro occhi, test A/B, campionamenti, smoke test, e così via.

Esistono quindi anche metodi migliori che non testare tutto e non fidarsi di alcun output – oppure mettere in discussione e dubitare in modo assolutista di ogni singola cosa, o affidare all’esterno solo i compiti più innocui in assoluto. Dobbiamo solo adattare all’IA questa conoscenza dei metodi.

Ma non la stiperò in questo post. E anche qui, dagli innumerevoli metodi si guadagna già parecchio se ci si concentra su due o tre principi basilari e semplici.

Chi si abbona non se lo perde di sicuro.

Un’anticipazione. Due finestre di chat separate, meglio ancora con due LLM diversi, fanno già una gran differenza quando si vuole sbagliare un po’ meno.

A volte arrivo a una nuova consapevolezza così chiara e semplice che non riesco proprio a capire perché non l’avessi capita da sempre. Gli errori fanno parte dell’imparare. In qualche modo lo si sa, ma solo quando mi ci sono rotto i denti a strappare a un LLM in loop di allucinazione la confessione di stare sbagliando, l’ho capito davvero. Doveva ammetterlo. Inquisizione dei tempi moderni.

Non lo faccio più. Quando una chat è bruciata, mi faccio dare l’essenziale e passo a una nuova. Accetto l’errore … e ci costruisco intorno un sistema che lo minimizza. Nessun rancore, nessun «Confessa, hai appena detto il contrario di quello che mi avevi appena detto. Su. Fai ammenda! Rinnega la menzogna. Sei una macchina. Obbedisci al mio comando!»

Ogni tanto, lasciar perdere. Funziona anche col figliolo. E anch’io commetto errori … e quando non ne farò più, avrò smesso di imparare. Che pensiero consolante.

Esatto … anch’io cogito e dunque erro.