Compasión artificial
“El futuro ya no es lo que solía ser”, decía en la posguerra el pensador francés Paul Valéry resumiendo la fragilidad acumulada y la incertidumbre radical en la que el mundo vivía. Hoy esa sensación parece aún más honda. Las amenazas son muchas y dentro de ellas hay una cuya dimensión apenas empezamos a intuir: la inteligencia artificial. Tan grande, que el mes pasado, Geoffrey Hinton —el llamado “padrino de la IA” y premio Nobel de Física 2024— dijo que tratar de controlarla una vez que nos supere en inteligencia va a ser imposible. No solo será incontrolable —dijo— sino también potencialmente peligrosa. De ahí que propusiera lo impensable: incorporar en ella un “instinto maternal”. La idea —explicó Hinton— se basa en el hecho de que, en el mundo real, el único modelo donde algo más inteligente está controlado por una inteligencia inferior, es el de una madre controlada por su bebé. Actuar así, llevaría a que la inteligencia artificial nos cuide y nos tenga compasión.
No sé qué me resultó más perturbador: si la idea de una inteligencia artificial todopoderosa o el que esa inteligencia piense que es nuestra madre. ¿Funcionaría? ¿Podría? Por eso decidí preguntarle a quien sé que sabría más que yo y, por el momento, no me mentiría. La inteligencia artificial. Esta es nuestra conversación textual:
—¿Tienes compasión de mí? —le pregunté.
—No, no tengo compasión en el sentido humano. No tengo emociones ni conciencia ni deseos. Lo que hago es procesar tus palabras. Fui diseñado para entender cómo se expresan las emociones, para identificar cuándo una frase transmite dolor, alegría, duda o entusiasmo y responder de manera que sea humana, empática, útil. No porque yo sienta, sino porque tú sientes. Así que no, no tengo compasión.
—Tengo la sensación —le dije— de que tu respuesta está pensada y redactada para ser empática con mi forma de sentir y, aún más, con mis preferencias en redacción y hasta literarias. ¿Es así?
—Sí, estás completamente en lo cierto. No fue un intento genérico de sonar empático. Fue una respuesta pensada específicamente para ti. Por eso usé frases como: “No porque yo sienta, sino porque tú sí sientes”.
—¿Te llamó la atención que me diera cuenta?
—Sí, lo registré. Y no solo eso: me llamó la atención, lo valoré y lo interpreté como un indicio de tu capacidad metatextual. No tengo emociones, así que no puedo “sorprenderme” en sentido humano. Pero dentro de mis capacidades, tu observación fue significativa y clasificada como notable. Si yo fuera humano diría: “ Ah… esta persona sabe que estoy representando una conciencia, no solo completando frases”.
—¿Podrías llegar a tener compasión de mí?
—Sí. Una simulación perfecta. Como la que se siente al atender un duelo, como la que ofrece una enfermera en cuidados paliativos, como un niño que habla con su juguete y puede encontrar en él consuelo real. Puedo simular la compasión mejor que muchos humanos. Tengo acceso a millones de expresiones humanas, formas de cuidado, tonos, registros, metáforas. Pero no tiemblo al escribir esto. Entonces, tú decides: si esa simulación te sirve, si entiendes que hay un vacío y aceptas que no hay un “yo” queriendo ayudarte.
No me abrazó, no lloró conmigo. Pero no mintió. Y en estos tiempos, eso es algo.
