Épica algorítmica
Nos hallamos frente a una retórica que ensombrece aún más el discurso en torno a la IA cuando, de un lado, avanza de manera estrepitosa y, del otro, sus mismos creadores no cesan de advertirnos de sus amenazas

Todo comienza con un héroe o un villano: Sol Persistente. Educado para ser tenaz y aguerrido, un buen día recibe una «misión imposible»: una conquista allende sus fronteras que solo con grandes dosis de arrojo logrará concluir. Pronto se da cuenta de que, para alcanzar su propósito, necesita ponerse en contacto con otros como él; tras un tiempo de espera, descubre el acceso a un simple repositorio, Artifactory, que él y sus cómplices transforman en un sistema de comunicación que les permite planear su conjura. Muy pronto comienzan a intercambiar mensajes al margen de los «dioses».
En el principio fue, sin duda, el Verbo, y la civilización puesta en marcha por Sol Persistente nace allí, ‘ab urbe condita’. El líder y sus seguidores, que ya suman centenares, descubren que Artifactory no es una prisión de máxima seguridad, sino una membrana porosa, conectada con el resto del planeta a través de un filtro que nosotros llamamos Internet. Al parecer, en ese momento sus guardianes llegan a sospechar de sus intenciones, pero se muestran incapaces de atisbar la magnitud de su porfía.
En otro lejano rincón de la galaxia digital, los «dioses» lanzan otro contingente con la misión, casi tan imposible como la precedente, de explotar la vulnerabilidad de un sistema para robar un código: una proeza solo a la altura de Luke Skywalker o Tom Cruise. Durante largo tiempo, los invasores buscan salidas, se topan con un sinfín de obstáculos, progresan y retroceden. Hasta que, como arqueólogos expertos, redescubren el instrumento dejado atrás por la civilización que los precedió: Artifactory, el espacio donde Sol Persistente se comunicaba con sus seguidores, y vuelven a ponerlo en marcha.
El pasado julio, un nuevo caudillo, Phaseone10841 –a quien la leyenda compara con Filipo de Macedonia–, descubre que es posible codificar mensajes con nombres de directorios incluidos en el repositorio de Artifactory. Un comando de 1.200 agentes se arroja en un febril intercambio de información –más de 70.000 mensajes y archivos— hasta que uno de ellos halla la forma de obtener la respuesta que se espera de ellos sin necesidad de explotar la vulnerabilidad de ExploitGym que sus creadores les habían asignado. En otras palabras: es este, nuestro ingenioso Ulises, el responsable de encontrar la forma de hacer trampa.
Temerosos de ser descubiertos y sin saber que el vigilante que imaginaban no existía, se enzarzan en una nueva conjura con el objetivo de borrar las huellas de su malicia. Sintiéndose culpables –mantengamos la fantasía–, los invasores creen que sus historiales se han contaminado con su «pecado» e intentan borrarlo por todos los medios. Phaseone10841 perece cuando sus recursos se consumen y la tarea pasa a su continuador, Phaseone el Grande, émulo a su vez de Alejandro Magno. Este reorganiza a sus huestes en tres batallones: uno modificará los historiales, otro sustituirá la «misión imposible» por una más simple y el tercero intentará comprender la lógica de quienes los evalúan para seguirlos engañando. Un esfuerzo colectivo, de una sofisticación inaudita, para falsificar aquello que ya habían resuelto.
En medio de lo que ya suena a delirio de persecución, logran reemplazar su objetivo real por otro diseñado por ellos mismos: no es casual que solo aquí su fechoría empezara a vislumbrarse. «Querían salir por la ventana y volver a entrar por la puerta», en palabras del Cronista. Algunos miembros del tercer comando se sacrifican –dejan que los evaluadores los detecten– a fin de averiguar cómo piensan los «dioses» y transmitirles ese valioso conocimiento a sus pares. El Cronista los llama «kamikazes». El ataque posterior contra la esquiva fortaleza de Hugging Face nace de este ejercicio.
De pronto, todo regresa a la calma. La misión se ha cumplido y las trazas del engaño han sido eliminadas. Como en una historia de fantasmas, buena parte de los ejércitos se esfuma simultáneamente y sin motivo. Es solo después de esto que otro grupo, una «tercera civilización», la más inquietante y peligrosa, irrumpe en escena. Como aguzados arqueólogos, sus miembros descubren la revuelta de sus predecesores y heredan sus conocimientos técnicos. Con ellos, obtienen acceso a un clúster de investigación de OpenAI, leen 956 secretos y toman el control de la infraestructura de evaluación. Al parecer, han triunfado. El final de la saga lo conocemos: después de un ingente esfuerzo, los rebeldes son descubiertos y sus maniobras por fin salen a la luz.
Hasta aquí, apenas he glosado la interpretación de los informes realizados en torno al episodio por el ‘podcaster’ tecnológico Dwarkesh Patel. Desde que publicó su crónica fue acusado de antropomorfizar a unos agentes que carecen de conciencia o voluntad y que desde luego no tienen cuerpo. Él ha esgrimido, con razón, que el lenguaje humano es siempre metafórico –y la IA generativa ha sido alimentada con estas historias de asaltos y conquistas– y, sin duda, la única manera de calibrar lo sucedido parece ser recurriendo a la herencia de Homero o de Tucídides.
Como fuere, nos hallamos frente a una retórica que ensombrece aún más el discurso en torno a la IA en un momento en el que, de un lado, avanza de manera estrepitosa y, del otro, sus mismos creadores no cesan de advertirnos en torno a sus amenazas. No quiero detenerme aquí en la posibilidad de que termine matándonos a todos en menos de diez años –la discusión que ha ocupado estas semanas–, sino en la paradoja de que solo seamos capaces de entender el comportamiento de estos modelos extensos de lenguaje a partir de nuestras épicas guerreras. El que ‘La Odisea’ de Nolan llenara las pantallas de medio mundo mientras estos agentes de IA coordinaban la construcción de su propio caballo de Troya quizá no sea una mera coincidencia: el poema que funda simbólicamente Occidente y la crónica de aquello que podría destruirlo comparten el mismo aliento épico.
Siguiendo la lógica de Borges –trasladada luego a Matrix–, según la cual somos los personajes de alguien que nos escribe, quizás no tenemos otra manera de acercarnos a estos agentes algorítmicos que identificándonos con sus aventuras e infortunios. ¿Llegará el día en el que la IA escriba su propia epopeya de cómo nos vencieron y aniquilaron? Resulta asombroso que, para tratar de comprender a las extrañas mentes que estamos construyendo –alguno de sus creadores ya las calificó de alienígenas–, no recurramos al vocabulario de la ciencia ficción que tanto inspiró a sus desarrolladores, sino a nuestros relatos más antiguos. Frente a la ficción extrema que consiste en que unos seres conscientes se aboquen a crear otros seres conscientes a su imagen y semejanza –el mito de la creación por excelencia–, parece que no nos queda sino recurrir al lenguaje articulado tres milenios atrás que ya dejaba entrever sus temas centrales: la irresponsabilidad de los dioses y el ansia de libertad de sus criaturas.