La IA no debe atentar contra la dignidad humana

En la sección más provocadora de la encíclica, León sostiene que los sistemas de IA “no viven experiencias”, “no sienten ni alegría ni dolor” y no “tienen conciencia moral, ya que no juzgan ni el bien ni el mal, no comprenden el significado último de las situaciones ni asumen la responsabilidad por las consecuencias”. Y León añade: “Pueden imitar el lenguaje, el comportamiento y las habilidades analíticas, o incluso simular empatía y comprensión, pero no entienden lo que producen”.

Que uno esté de acuerdo o no con la interpretación del Papa depende en parte de las propias respuestas a preguntas fundamentales sobre lo que significa ser humano y la naturaleza de la conciencia.

Quienes se han formado en la tradición bíblica argumentarán que ser humano significa haber sido creado a imagen y semejanza de Dios. Los católicos -entre los que me incluyo y, por supuesto, el Papa- creen que Dios es intrínsecamente relacional, una esencia en tres personas. Para vislumbrar parte de la verdad de este gran misterio, San Agustín, uno de los teólogos más destacados del cristianismo, propuso una analogía en el siglo V: el Padre como la mente grande y eterna; el Hijo como el autoconocimiento perfecto y eternamente engendrado del Padre; y el Espíritu como el amor perfecto a uno mismo.

Los seres humanos, creados a imagen divina, compartimos con Dios la capacidad de formarnos una comprensión de nosotros mismos a través del acto del autoconocimiento. Y, al igual que Dios, podemos amarnos a nosotros mismos. De este modo, nuestra vida interior -nuestra conciencia- es relacional, como la de Dios.

La IA no se acerca ni remotamente a cumplir estos criterios. ¿Lo hará alguna vez? Lo dudo.

Muchos discrepan. Durante la presentación de la encíclica en la Ciudad del Vaticano, el cofundador de Anthropic, Chris Olah, afirmó que su equipo de investigación, que estudia la estructura interna de estos modelos, ha encontrado “evidencia de introspección” y “estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud”. Si bien Olah admitió desconocer su significado, sostiene que esto “merece un análisis continuo”.

Bueno, me gustaría ver alguna evidencia. La carga de la prueba de que la IA puede realizar introspección -que puede formarse una imagen de sí misma, como los humanos- y experimentar emociones recae sobre el creyente, no sobre el escéptico.

¿Y qué hay de la cognición? León sostiene que las herramientas de IA “se limitan a imitar ciertas funciones de la inteligencia humana” y que están “completamente ligadas al procesamiento de datos”. Muchos tecnólogos no están de acuerdo. Pero León tiene razón al destacar la distinción entre el procesamiento de datos de la IA y la cognición humana. Las herramientas de IA generativa sobresalen en el reconocimiento de patrones. Los modelos estadísticos que las impulsan utilizan un enfoque inductivo, basándose en enormes conjuntos de datos y una gran capacidad de procesamiento para dotar a los sistemas de IA de conocimiento tácito.

Esto difiere del aprendizaje humano en aspectos importantes. Nosotros no entrenamos nuestra mente con cantidades enormes de datos con el objetivo de predecir resultados. En cambio, elaboramos teorías e hipótesis basándonos en un número reducido de ejemplos, a menudo de nuestra propia experiencia. Somos seres sociales, aprendemos de nuestras familias y comunidades, y a menudo adoptamos las conclusiones de quienes nos rodean. Recurrimos al método de ensayo y error.

A medida que crecen los temores sobre los posibles efectos de la IA generativa, León es admirablemente claro: la inteligencia creativa de la humanidad -incluida la IA y cualquier otro avance tecnológico importante- “es un don que puede aliviar el sufrimiento y abrir nuevas posibilidades, pero debe seguir orientada hacia el bien común, la justicia, el cuidado de los vulnerables y la creación”.

El Papa se centra en cómo la IA podría socavar el florecimiento humano, ya sea dando paso a una guerra autónoma, exacerbando la desigualdad, violando la privacidad, provocando un desempleo masivo o reduciendo a los seres humanos a meros engranajes. Es posible que incluso perdamos gradualmente “el deseo mismo de establecer conexiones humanas genuinas”.

Sin duda, reconocer los riesgos es prudente. Pero me habría gustado que el Papa hubiera dedicado más tiempo al enorme potencial de la IA para mejorar el bienestar humano. Estas herramientas podrían acelerar la innovación farmacéutica, mejorar la calidad y la accesibilidad de la atención sanitaria y la educación (especialmente en los países en desarrollo), crear puestos de trabajo y elevar el nivel de vida. De hecho, creo que, en definitiva, la IA incrementará sustancialmente el florecimiento humano.

También me gustaría que León tuviera más fe en los mercados y menos en el gobierno. En lugar de reconocer que la IA probablemente aumentará los ingresos de los trabajadores pobres, parece más preocupado por cómo los responsables de las políticas pueden contrarrestar la desigualdad impulsada por la IA, y cómo las empresas privadas utilizarán estas herramientas para ganar cuota de mercado. León aboga por “medidas para garantizar la equidad”, incluidas “políticas industriales”, con aparente confianza en que reducirán la concentración de riqueza y poder, cuando es más probable que tengan el efecto contrario.

En última instancia, estas discrepancias son menos importantes que los fundamentos morales e intelectuales de la primera encíclica de León. En un mundo cautivado por los avances tecnológicos, el Papa subraya la primacía de la dignidad inherente e inestimable de cada persona. Y en medio del frenesí por elegir a los ganadores de la IA y la exageración sobre la posibilidad de que la IA eclipse a la humanidad, León nos pide que protejamos el bien común y nos desafía a aceptar nuestra debilidad y fragilidad. Como él mismo afirma, “debemos recordar que la humanidad florece no a pesar de las limitaciones, sino a menudo gracias a ellas”.

En Magnifica Humanitas, León busca desviar la atención de las maravillas y los terrores de la IA hacia la magnificencia de la humanidad. Con todas las miradas puestas ahora en la tecnología, este mensaje es necesario y bienvenido. Las herramientas de IA son impresionantes, pero resultan insignificantes en comparación con la grandeza del ser humano.

Michael R. Strain, Director of Economic Policy Studies at the American Enterprise Institute, is the author, most recently, of The American Dream Is Not Dead (But Populism Could Kill It) (Templeton Press, 2020).