El reciente artículo de Francis Fukuyama nos obliga a pensar la IA y sus riesgos o temores más extendidos sobre su desarrollo. Más que en una hipotética superinteligencia, el politólogo sitúa el peligro en el uso creciente de agentes de IA y en la tendencia humana a delegar cada vez más decisiones en ellos.

El pasado miércoles, en una reunión de la sección de filosofía del
Ateneu Barcelonès, mi colega Ramon Alcoberro me dio a conocer el
artículo que acaba de publicar el 21 de septiembre el conocido politólogo
estadounidense Francis Fukuyama en la comunidad digital «Persuasion».
Se trata de un artículo titulado «Por qué cambié de opinión sobre el riesgo
de la IA. Sobre los aceleracionistas y los pesimistas» [«Why I Changed My
Mind About AI Risk. On Accelerationists and Doomers»] que merece una
lectura detenida para quienes deseen sopesar sus opiniones acerca de la IA
y del peligro potencial de su desarrollo.

En esos días, ante la proliferación de opiniones, diagnósticos y
noticias —muchas de ellas apocalípticas— sobre el desarrollo de la
inteligencia artificial, había escrito en las redes que el asunto tiene una
complejidad notable y que merece la pena que los gobernantes presten
atención a lo que dicen los expertos: en su mayor parte, lo que recomiendan
es que se establezcan medidas internacionales de seguridad, tal como se
hizo en su día con la investigación sobre la bomba atómica.

¿Podremos simplemente desconectar las máquinas?

Dos consideraciones venían a mi memoria. La primera, la
inolvidable escena de la película «2001: Una odisea del espacio» —que
pude ver con gran emoción en su estreno en 1968— en la que el
comandante Bowman va extrayendo una a una las tarjetas de memoria de
HAL —el ordenador de la nave que se había rebelado contra la
tripulación— hasta desconectarlo. Me parece que siempre podremos hacer
eso con las máquinas: desenchufarlas.

La segunda consideración —trivial, por otra parte— es que el peligro
realmente no está en la IA, sino en sus dueños y en sus usuarios. Si estos
quieren hacer el mal, la IA potenciará enormemente los daños. El problema
no está en la IA, sino en las personas que la manejan. Terminaba mi post
diciendo que hay mucho ruido de fondo, pero de lo que se trata realmente
—como decía León XIV en su encíclica Magnifica Humanitas— es de
«desarmar la IA» (n. 110). Como me escribió Jacin Luna al leer mi post:
«Los algoritmos nunca podrán con los latidos del corazón».

Fukuyama ante los riesgos de la IA

Después de escuchar a los catastrofistas que quieren detener el
desarrollo de la IA porque les parece una amenaza que puede causar la extinción de la especie humana, la lectura reposada del artículo de
Fukuyama me ha reconfortado. Es innegable que el desarrollo de la IA
encierra peligros, en particular el de la devaluación del trabajo de todos los
que estamos detrás de un ordenador si se descubre que la IA puede hacer lo
mismo o incluso mejor que un ser humano.

Algunos argumentan que esa destrucción de muchos puestos de trabajo podría solucionarse mediante un sueldo básico universal, pero es claro que una vida de perpetua vacación
para una parte importante de la población implicaría una lamentable pérdida del sentido.

Fukuyama no ve un problema en la prometida «superinteligencia»
—nadie sabe muy bien lo que será—, sino en los agentes de IA que ya
existen: «En mi opinión, el principal peligro no radica en la
superinteligencia en sí misma, sino más bien en el creciente uso de una IA
agentiva cada vez más capaz. Hoy en día se encarga a los agentes de IA
que realicen una amplia gama de tareas, desde las más cotidianas, como
gestionar tu cuenta de correo electrónico, hasta otras más importantes,
como la selección de objetivos militares o la elaboración de estrategias
empresariales. […]

El problema de delegar en la inteligencia artificial

Delegar —prosigue Fukuyama— es fundamental para el
funcionamiento de todos los sistemas jerárquicos, desde las empresas hasta
los gobiernos nacionales. A los agentes humanos se les puede controlar sea
mediante el establecimiento de normas detalladas que deben seguir, sea
confiando en que tomen decisiones autónomas basadas en su formación,
sus habilidades y su lealtad. Lograr que esto funcione correctamente en las
organizaciones humanas es muy difícil, y lo será aún más en el caso de la
IA con capacidad de agencia».

Me parece interesantísimo esto que afirma Fukuyama, pues apela a la
experiencia tan común que todos tenemos al delegar tareas, ya sea en el
ámbito laboral o incluso en el espacio doméstico. Cuando se le pide a un
miembro de la familia que recoja la cena de la mesa del comedor y deje
preparados los platos del desayuno, cualquiera —incluso los niños— es
capaz de hacerlo perfectamente bien si está familiarizado con los usos de la
casa; sin embargo, no parece que sea posible educar a un robot para que
lleve a cabo esa tarea tan genérica, que implica limpiar los platos, cargarlos
en el lavaplatos, recoger las migas, y tantas otras pequeñas cosas a menudo
imprevisibles.

Cuando la IA potencia el daño humano

Los agentes de IA pueden tornarse peligrosos cuando un ser humano
los usa para hacer el mal. Un ejemplo de esto podría ser el mal uso de la IA
en biotecnología. Copio de Fukuyama: «Los últimos modelos de IA
destacan en biología sintética, y la biología sintética es una tecnología
relativamente barata y muy extendida.

Hoy en día, un laboratorio capaz de crear y modificar virus y bacterias cabe dentro de un container de
transporte y hasta los alumnos de secundaria organizan concursos en los
que intentan modificar genéticamente organismos. Esto significa un grupo
muy amplio de personas que podrían utilizar la IA para crear patógenos
muy peligrosos. Hoy en día, los sociópatas se arman con armas automáticas
[en USA] y disparan contra escolares; en el futuro, sus posibles objetivos
podrían ser mucho más amplios»

El riesgo de delegar demasiado

Fukuyama piensa que los temores de que los agentes de IA se
«desalineen» —es la palabra técnica— de los propósitos de sus creadores,
esto es, que ganen independencia, están poco fundados. Donde ve el
problema es en que los seres humanos deleguemos excesivamente en los
agentes de IA.

Copio de sus últimas líneas: «Los seres humanos tienden a
delegar en exceso en las organizaciones humanas, y no hay motivos para
pensar que esto no vaya a ocurrir en entornos de IA en los que el agente sea
mucho más capaz. La IA es una herramienta que puede utilizarse con fines
buenos o malos, y, por el momento, disponemos de pocos mecanismos para
regular los malos usos, aparte de las buenas intenciones de las personas que
crean la tecnología».

Por mi parte no añado nada más, pues Fukuyama de nuevo me deja
pensando.