La filosofía entra en el código: así se programan los valores éticos de la IA
Empresas como Anthropic, Google DeepMind o IBM están incorporando perfiles humanistas para intentar traducir principios éticos en el comportamiento de sus sistemas
Desde Alan Turing y su famoso experimento sobre si una máquina puede conversar de manera indistinguible de un humano, hasta las leyes de la robótica de Isaac Asimov, la IA ha estado atravesada por dilemas filosóficos. Durante décadas, sin embargo, la filosofía se ha ocupado de pensar la inteligencia artificial desde fuera, como problema teórico, como hipótesis sobre el pensamiento o como advertencia moral sobre los límites de la técnica.
Pero algo está cambiando en el seno de las grandes empresas tecnológicas. Llegados a este momento de no retorno en el que la IA amenaza con definir un panorama cada vez más impredecible, las humanidades han dejado de ser una nota al pie para convertirse en parte del diseño de sistemas que hoy escriben, resumen, recomiendan, persuaden y deciden. Empresas como Anthropic, Google DeepMind o IBM ya incorporan filósofos y especialistas en ética aplicada en sus equipos, con el objetivo de construir modelos “más seguros, honestos y capaces de tomar decisiones éticas”.
Del debate filosófico al laboratorio
Durante mucho tiempo, la IA basada en reglas permitía imaginar que ciertos valores podían programarse directamente en el sistema, como quien introduce un mandamiento. Era la lógica de los sistemas expertos y, en el imaginario cultural, de las leyes de Asimov. Pero la IA generativa funciona de otra forma, aprende patrones a partir de enormes volúmenes de datos y responde estadísticamente, no ejecutando reglas morales explícitas.
“No puedes inculcar reglas filosóficas en estos sistemas”, asegura a Vozpópuli Richard Benjamins, cofundador y CEO de OdiseIA (Observatorio del Impacto Social y Ético de la Inteligencia Artificial) y miembro del Observatorio de Inteligencia Artificial del Parlamento Europeo (EPAIO, por sus siglas en inglés). “Para ello se utilizan lo que se conoce como guardrails (garantías de seguridad) -explica Benjamins-. Si tú preguntas a un sistema de IA cómo matar a una persona o cómo hacer una bomba para un ataque terrorista, no te responderá, te dirá que está fuera de los términos y condiciones. Pero no hay ninguna regla detrás de esto. Lo que han hecho es introducir mucho contenido sobre actos inmorales, como construir bombas, torturar, abusar, cualquier cosa desagradable. Y luego han entrenado al modelo para reconocer este tipo de contenido y bloquearlo. Así es como, hasta cierto punto, se calculan valores humanos o filosóficos dentro de estos modelos”.
Es por ello que en un modelo de lenguaje no basta con escribir una línea que diga “sé justo”, “no discrimines” o “di siempre la verdad”, porque el comportamiento del sistema emerge de su entrenamiento y del tipo de contenidos con los que ha aprendido a relacionar palabras, contextos y respuestas.
Es en este entrenamiento en el que entra en juego la filosofía, ya no en forma de preceptos o mandatos, sino como arquitectura de evaluación, filtrado y diseño. En la práctica, esos guardrails se entrenan con grandes cantidades de contenido problemático sobre violencia, terrorismo, abuso sexual, autolesión, odio, manipulación… El sistema aprende a reconocer esos patrones y a bloquear respuestas asociadas. Los benchmarks (tests de rendimiento), por su parte, permiten medir hasta qué punto un modelo responde bien o mal en escenarios sensibles, qué hace ante un consejo médico, una interacción con menores, un caso de discriminación o una petición potencialmente peligrosa.
«El problema son los errores, porque ningún modelo es 100% seguro. Entonces, si quieres evitar cualquier abuso o cualquier cosa mala, vas a bloquear mucho contenido legible, porque son falsos positivos. Y luego están los falsos negativos, que no bloquean lo que deberían bloquear”, indica Benjamins. La IA generativa no opera en el terreno de la certeza, sino en el de la reducción del riesgo.
Filósofos y humanistas en las Big Tech
La contratación de especialistas de las humanidades en compañías como Anthropic o DeepMind ha generado una gran expectación. “Lo que hacen es formular valores éticos y, conjuntamente con los equipos técnicos, intentan ver cómo un valor ético se puede plasmar en el modelo, pero no como una línea de código, porque hay miles de cosas que el código no capta. Obviamente puedes meter reglas éticas alrededor de un modelo, pero lo que vas a hacer es restringir el modelo y que su funcionamiento sea mucho peor. Pero estos filósofos pueden ayudar a definir los benchmarks y testear un modelo para que sea lo más ético o filosóficamente correcto posible”, señala el CEO de OdiseIA.
Aun así, Benjamins prefiere matizar el entusiasmo sobre el inesperado regreso de las humanidades al corazón del avance científico: “Las empresas grandes de inteligencia artificial, Anthropic, Google, etcétera, sí contratan a filósofos, pero se contrata a un filósofo por cada 1.000 ingenieros”.
No es que se haya desplazado a los ingenieros; los perfiles filosóficos y humanísticos siguen siendo minoritarios, pero empiezan a ocupar lugares estratégicos en la definición de valores, en la detección de puntos ciegos y en la evaluación de daños potenciales.
Qué pueden aportar realmente estos perfiles
Pero cuando se habla de incorporar perfiles más humanistas, estos no se reducen solamente a expertos en lógica y moral. También juegan un papel muy importante los psicólogos.
Teniendo en cuenta que muchas personas utilizan los modelos actuales como consejeros personales y que estos están diseñados para agradar al usuario, la necesidad de encontrar una solución para el servilismo de las IAs generativas pasa por entrenar modelos capaces de interactuar con niños, personas vulnerables o usuarios con problemas emocionales evitando respuestas irresponsables, validación de conductas dañinas o una falsa sensación de acompañamiento seguro.
Otro de los grandes terrenos donde el pensamiento humanista aplicado resulta crucial es el de evitar ciertos sesgos. Benjamins recuerda que en sistemas de IA más clásicos ya se vio cómo los datos históricos reproducían desigualdades, como por ejemplo dar por hecho que los taxistas son hombres y las enfermeras mujeres. “Hemos aprendido que este sesgo se puede quitar, simplemente igualando los datos de entrenamiento. Con ciertos modelos de IA clásicos esto se puede hacer. Si hablamos de IA generativa, que se entrena con todo lo que hay en internet, ya es mucho más difícil, porque antes de decidir si quieres incluir un documento, tienes que chequear si hay sexismo, y eso cuesta mucho. Si tienes que hacerlo con todo internet, documento por documento, hoy en día es inviable”, apunta.
Qué perfiles buscan las empresas
Esta ampliación de perfiles provenientes de distintas ramas con salidas en empresas tecnológicas se traduce también en nuevas oportunidades en el mercado laboral. El CEO de OdiseIA señala especialmente a psicólogos, filósofos y especialistas en ética aplicada como figuras con capacidad de intervenir en los problemas más delicados de la IA conversacional y social. Sin embargo, si algo reivindica especialmente es la obligatoriedad de una asignatura de ética aplicada en todas las carreras técnicas. “Y también una asignatura que aterrice ese pensamiento ético a la práctica”, añade Benjamins.
“Si, como organización, quieres usar un sistema de IA para un propósito, lo que tienes que hacer es reconocer que los sistemas de IA nunca funcionan bien del todo y, si el sistema tiene un error, valorar ese error en términos de coste humano. Si estoy viendo una película en una plataforma y me recomienda una equivocada, el impacto es nulo. Pero si es un contexto médico donde el modelo le dice al médico que una persona tiene un cáncer grave o no lo tiene, ahí el error es muy importante. Ese pensamiento ético es lo que hay que inculcar en las asignaturas técnicas: valorar los errores según su gravedad y, según eso, mitigar los impactos negativos”, explica el experto del Observatorio de IA del Parlamento Europeo.
Pero esta adaptación filosófica del sector no solo concierne a ingenierías. También interpela a las humanidades, que tendrán que abandonar cierta comodidad teórica y volverse más aplicadas, más interdisciplinares y más capaces de intervenir en procesos reales de diseño tecnológico. No basta con pensar la IA, hay que aprender a trabajar dentro de ella y así entender mejor cómo funciona el cerebro de las máquinas.
