Que la IA mienta es el menor de sus 17 problemas.

Última hora: la IA miente y alucina. Lo de mentir, con eso uno puede apañárselas. A mí tampoco me molesta lo de alucinar — sino que todos hacen como si esos fueran ya todos los problemas de los LLM. ¡Pero hay diecisiete!

El procedimiento habitual es meter todo el tema en un breve descargo de responsabilidad debajo de cualquier producto de IA, al estilo de:

¡Atención! La IA puede cometer errores. ¡Comprueba todo otras 5–10 veces antes de tomar decisiones importantes basándote en estos datos!

Pero eso no es un consejo práctico de cómo manejarlo, y tampoco refuerza la confianza en la IA en su conjunto. Tranquiliza un poco, sí, y demuestra que la IA no es tan todopoderosa después de todo. Pero el pálido regusto de la desconfianza permanece. Al final no es más que un cúbrete-las-espaldas, una exención de responsabilidad rápida y el traslado del deber de comprobación hacia mí.

Es un poco como si el camarero que me sirve amablemente los Kässpätzle me deseara buen provecho y se diera la vuelta sonriendo con la advertencia “Podría ser que tengamos algún cristalito en el queso. Mastique con cuidado.”

Vale, los cristales en la comida me parecen ya algo más grave que un poco de cuento, pero ninguna de las dos advertencias me ayuda de verdad, o me dejan solo ante una decisión bastante tonta. Me gustan los Kässpätzle y me gusta la IA — pero, con ese conocimiento, ya no puedo disfrutarlos así, tan a la ligera.

¿Pero por qué pasa esto, en realidad? ¿Por qué miente siquiera la herramienta más poderosa de la historia de la humanidad? Pregunta interesante, así que arremangarse y echar un vistazo. ¿Pero si esto es una madriguera de conejo? ¡Tengo que entrar!

Y rápido queda claro: la IA no tiene la culpa de que le guste no ser tan precisa con la verdad de vez en cuando. La construyeron así. O sea, no a propósito, pero es un efecto secundario negativo de su entrenamiento. Los LLM aprenden mediante feedback y recompensa, y para alcanzar el objetivo — una conversación — a los LLM se les recompensa por responder, no por callar. Y entonces pasa como en un examen tipo test: mejor arriesgar a lo loco o inventarse algo que no hacer nada. Con esa mentalidad, la IA llega al objetivo mejor y más rápido. Y así el cuento pasa a formar parte del genoma de la IA.

Con eso el tema queda zanjado y he vuelto a aprender algo. Pero un momento. Si todavía hay más problemas.

Sí, eso de los conjuros mágicos colados en libros de Harry Potter que se le metieron a la IA como input. Y la IA se fió entonces más de que ya conocía los libros de Harry Potter y todos los conjuros en ellos — en buen tecnicismo eso se llama Parametric Memory Bias — y entonces ya no leyó tan bien la nueva fuente manipulada. Los conjuros falsos estaban justo en mitad del libro — y ahí es justo donde menos mira la IA. Bien al principio, muy bien al final, pero la información que está más hacia la mitad de los contextos largos recibe menos atención, se pasa por alto y se pondera con menos peso. Encontrar el detalle decisivo en una montaña de datos es de todos modos su punto débil. Así que sencillamente se había pasado por alto los conjuros falsos. Absolutamente comprensible para una persona, pero no para una máquina. Aunque también es un poco rastrero y suena a una trampa construida a propósito para engañar a la IA. Pero también ocurre en la vida real y con datos reales, por eso son problemas reales también.

Y con eso, por desgracia, todavía no se ha llegado al final del trayecto. En total, un buen LLM tiene hoy día diecisiete de estas debilidades crónicas e incurables. Para entenderlo mejor, en su momento expliqué, cartografié y categoricé las diecisiete patologías de los LLM en un atlas.

Y no acaba ahí: los problemas no solo están sueltos unos junto a otros, esperando un trato especial individual. Están bien horneados dentro, involuntariamente entrelazados unos con otros y en interacción mutua.

Bueno, ahora ya no puede ser tan grave, ¿no? Si uno puede nombrar los problemas, también puede resolverlos (o manejarlos). Sobre todo, se podría escribir un descargo de responsabilidad mejor:

Atención: la IA puede alucinar, olvidar, decir hoy una cosa y mañana otra, empezar fuerte y desfallecer rápido, sonar brillante y no decir nada, formular una respuesta equivocada más bonita que cualquier acertada, decir “¡por supuesto!” y luego hacer lo contrario… Puede darte la razón hasta que dudes de ti mismo, considerar genial cada una de tus ocurrencias, aceptar tu corrección con gratitud e ignorarla al instante, tener cualquier opinión que quieras oír, conocer cinco contraargumentos y no soltar ninguno porque preguntaste con amabilidad, errar con elegancia antes que votar incómoda… Puede necesitar tres párrafos para no decir “no lo sé”, empezar una lista con “para concluir” y luego seguir escribiendo, decir “en resumen” y luego explayarse, resolver el problema que no tenías, dar vueltas en círculo y tomarlo por progreso… Puede citar fuentes que nunca existieron, insistir con fervor en el año equivocado, jugar al ajedrez reinventando las reglas, estar segurísima y equivocarse por completo, cometer a la tercera el mismo error con renovado entusiasmo, estar en el bosque y preguntar por el árbol más cercano, saberlo todo salvo lo que necesitas justo ahora … En resumen: la IA es un fabuloso bullshitter con conocimiento del mundo — útil solo mientras tú sigas siendo el adulto en la sala.

Este descargo no sería necesariamente más valioso, pero sí más completo y más honesto, y construiría más comprensión. Pero sí, está claramente demasiado largo. Mejor entonces enlazar directamente al mapa y la guía a través de las 17 patologías de la IA.

¿Y cuál es ahora la solución? ¿Qué pasa si simplemente quiero, o tengo, que fiarme de la IA? Bueno, con nuestros congéneres tenemos campos de problemas parecidos — más bien incluso más, y más variados. Y aun así la convivencia funciona ya bastante bien desde hace unos cuantos miles de años — y enteramente sin un descargo de responsabilidad explícito. Porque hemos aprendido a tratarnos entre nosotros. Eso es justo lo que todavía nos falta con la IA. Pero también eso se puede aprender.

Merece la pena.

Así que … mi primer post está terminado. Voy a doom-promptear un rato. Mierda, todavía hay más problemas. Quizá amplíe aún más el Atlas de los 17 problemas de la IA.

¿Tú qué opinas?