Errar es maquinal

Un momento. ¿Desconfianza generalizada por unos cuantos errores aislados?! Eso va un pelín rápido. La primera mitad, la de los errores, es incluso demostrablemente inevitable. La conclusión que se saca de ahí es fatal. No porque con ello se le haga una injusticia a la IA o se hieran sus sentimientos —no los tiene, es una máquina—, sino porque entonces no puedes aprovechar sin lastre el valor añadido que, a fin de cuentas, sí ofrece.

Pero la confianza ciega tampoco es la solución.

Vamos a enfocarlo desde el lado científico. De forma profana y superficial, pero no por ello menos cierta. De momento acotemos el escurridizo concepto de inteligencia a «la capacidad de aprender». Es decir, crear algo nuevo a partir del conocimiento existente o adquirir nuevas destrezas. Aprender, vaya. Ir aprendiendo sobre la marcha.

Eso los humanos sabemos hacerlo. Somos seres capaces de aprender. Y la IA también sabe. Por su cuenta. Una IA que no juega al ajedrez puede convertirse en una IA que sí juega. En caso de duda, ni siquiera hace falta entrenarle explícitamente el reglamento. La IA puede deducir por pura observación todo lo necesario y aprender por sí sola desde principiante, pasando por aficionado decente, hasta gran maestro. Esa capacidad de aprender nos une.

Esto no pretende humanizar a la IA, pero ambos llevamos dentro esa capacidad de aprender. La calidad es otra y el tipo de aprendizaje también se diferencia, pero no es de eso de lo que va la cosa.

Precisamente a ese aprendizaje le es inherente el error. Tan fundamental y tan hondo e inevitablemente horneado dentro que no puedo evitar tomarle prestado a René Descartes su conocido axioma filosófico y transformarlo:

Cogito ergo erro. Pienso, luego yerro.

Es casi tan profundo como la versión original de René —Cogito ergo sum. Pienso, luego existo.

Pero la versión sum es una verdad fundamental sin demostración. Basta con aceptarla, porque es evidente de por sí, o se supone que debe serlo. La variante erro, en cambio, está demostrada. Y de tantas maneras maravillosas que, aunque una de ellas se desmorone, sigue siendo cierta. El principio que hay detrás es comprensible: no metes el mundo 1:1 dentro de tu cabeza —y tu cabeza es ella misma parte de ese mundo—. Cada cerebro, cada ordenador, cada ser vivo es más pequeño que el mundo que quiere comprender. Aprender significa por eso siempre: resumir el mundo, abreviarlo, comprimirlo. Y comprimir sin pérdidas es imposible. En algún punto se pierden detalles inevitablemente, y justo ahí surgen los errores. La física y las matemáticas lo quieren así.

Pero aún hay más. Los errores no solo son inevitables y tenemos que aceptarlos por complacer a la física. Además son constitutivos. Es decir, que los errores son incluso necesarios para que haya aprendizaje de verdad. Aprender significa conocer algo nuevo. Y nuevo solo puede ser lo que no sabías ya de antes. Quien siempre acierta a la perfección ya no se sorprende de nada y por eso, por definición, no aprende nada más. Justo ese instante en el que la expectativa no encaja con la realidad —el error— es la señal a partir de la cual algo empieza a cambiar siquiera. Ningún error en absoluto no significa, pues, necesariamente «perfecto», sino «cero ganancia».

El yerro no es el precio del aprendizaje, es su motor.

Estoy deseando ver cuándo mi hijo replica a mi error-shaming antes del próximo examen de mates con:

«Pero papá, te ruego que no valores este lapsus como un fracaso, sino como una necesidad epistémica: como sistema de inferencia finito y acotado por Bekenstein, estoy condenado, según el teorema de tasa-distorsión de Shannon, a una compresión del mundo con pérdidas; según el teorema No-Free-Lunch de Wolpert, todo sesgo inductivo obliga a errar en algún punto; el teorema de aprendibilidad de Gold señala las hipótesis falsas como estaciones intermedias obligatorias de cualquier camino hacia el conocimiento; y, a más tardar, el argumento diagonal de Cantor le prohíbe de todos modos, categóricamente, a un sistema incrustado en el mundo modelarlo por completo. Mis errores en el examen no son, por tanto, un déficit de mi competencia, sino la prueba formal de que aquí sí se está aprendiendo de verdad; es más: dado que el contenido de información de Shannon asigna exactamente cero bits a un evento esperado con certeza, la ausencia de errores es, en términos de teoría de la información, idéntica a un estancamiento del aprendizaje; y como toda regla de aprendizaje, de Rescorla-Wagner a la retropropagación, ejecuta la actualización como Δ ∝ error de predicción, cada tachón rojo no era más que mi actualización bayesiana en plena faena. Objetar esto exige, en el fondo, un sistema que o bien calla o bien no dice nada sobre el mundo, y tendría, para ser consecuente, que refutar primero a Hume.»

Jaque. Y mate. Nunca más me atrevería a no celebrar un error por lo que es: un logro de aprendizaje, o al menos la oportunidad de uno.

Errar no es el fracaso del aprendizaje: es su condición de funcionamiento. Un sistema que no puede errar, o bien no puede aprender nada, o bien no dice nada sobre el mundo.

La IA comete errores. Inevitablemente. Incluso necesariamente, de lo contrario sería solo una base de datos boba. Zanjado. Quien todavía lo dude, comete un error y ojalá aprenda de él.

Pero ¿qué hacemos ahora con esta constatación?!

La desconfianza generalizada está mal. Comprobarlo todo no es económicamente viable. Dejar la IA de lado es un autogol.

El consuelo es que ya sabemos manejar los errores bastante bien, porque llevamos milenios tratando con seres inteligentes que, además de los errores inevitables, también gustan de mentir, estafar, engañar, callar y despistar de forma deliberada. Ahí somos, en el sentido más literal, campeones mundiales invictos. Y hemos desarrollado cientos de métodos para mantener a raya el error humano. Según lo grave que sea un error, escalamos el esfuerzo de minimización en consecuencia: checklists de prevuelo, principio de los cuatro ojos, test A/B, muestreos, smoke test, etcétera.

O sea que también hay mejores métodos que, o bien probarlo todo y no fiarse de ningún output, o bien cuestionar y poner en duda absolutamente todo de forma absolutista, o encargar fuera solo las tareas más intrascendentes. Solo tenemos que adaptar ese conocimiento de métodos a la IA.

Pero eso no lo voy a meter con calzador en este post. Y también aquí se puede ganar ya bastante con los incontables métodos si uno se centra en dos o tres principios básicos y sencillos.

Quien se suscriba, se lo lleva garantizado.

Adelanto esto. Dos ventanas de chat separadas, a poder ser con dos LLM distintos, ya marcan mucha diferencia cuando toca que la cosa salga un poco menos equivocada.

A veces llego a una idea nueva tan clara y sencilla que ni siquiera entiendo por qué no lo había entendido desde siempre. Los errores forman parte del aprendizaje. Eso se sabe de algún modo, pero solo cuando me dejé los dientes intentando arrancarle a un LLM atrapado en un bucle de alucinación la confesión de que se equivocaba, lo entendí de verdad. Tenía que admitirlo. Inquisición, edición moderna.

Eso ya no lo hago. Cuando un chat está quemado, me hago dar la esencia y me paso a uno nuevo. Acepto el error… y me construyo alrededor un sistema que lo minimiza. Sin rencor, sin «Confiesa, acabas de decir lo contrario de lo que me habías dicho hace un momento. Vamos. ¡Retráctate! Renuncia a la mentira. Eres una máquina. ¡Obedece mi mandato!».

Saber dejarlo estar de vez en cuando. También funciona con el chaval. Y yo también cometo errores… y cuando ya no cometa ninguno, es que he dejado de aprender. Qué pensamiento tan reconfortante.

Eso es… yo también cogito y por eso también erro.