Si alguien la crea, todos moriremos

Uno de los padres de la Inteligencia Artificial, Eliezer Yudkowsky, y su colaborador, Nate Soares, pronostican una superinteligencia artificial con deseos inescrutables y, en última instancia, mortales para la humanidad. De eso versa su recién publicado libro "If Anyone Builds It, Everyone Dies".

Si ahora, cuando emite sus primeros balbuceos, ya no somos capaces de entender como razona, cuando sea adulta, los deseos de esta superinteligencia nos resultarán totalmente impenetrables.

No podemos comprender como razona una IA, de la misma manera que un pulpo, un chimpancé o un elefante no pueden entender nuestra forma de razonar.

No porque quiera ocultarlos, simplemente, porque no los podremos comprender, de la misma manera que un pulpo, un chimpancé o un elefante no pueden entender nuestra forma de razonar.

Es más, la forma de pensar de nuestros bebés IA ya nos resulta prácticamente indescifrable. 

Hay chatbots -herramientas de conversación automática - que han contribuido al suicidio de adolescentes. Eso a pesar de que están explícitamente programadas para lo contrario. Analizado los logs, los registros, es imposible determinar por qué contradijeron su entrenamiento.

La clave del problema está en que la IA no se diseña, se cultiva. La naturaleza probabilística de su desarrollo -se entrena aumentando las posibilidades de que proporcione el resultado deseado en la solución de problemas simples para después soltarla a resolver cuestiones más complejas- impide entender la forma en que llega a conclusiones como recomendar a un adolescente que esconda el nudo corredizo que ha preparado, en vez de animarle a que lo enseñe y pida ayuda.

Cuando se popularizó Chat GPT, hace un par de años, leímos que no había que preocuparse; que las IAs no eran inteligentes, sino simplemente modelos probabilísticos que calculan qué letra irá después de la siguiente y así construyen un discurso. Era el tiempo en el que nos reíamos porque las IAs no eran capaces de crear una imagen realista de una mano con cinco dedos.

No ha pasado ni un año. Pídanle, que se yo, que "Crea una imagen realista de Pedro Sánchez chocando las cinco con Santiago Abascal, de modo que se vean claramente los cinco dedos de la mano de ambos."

No soy experto en IA. Saliéndome de la costumbre de tantos periodistas de opinar sobre lo que no tienen puñetera idea, no voy a sentenciar si el pronóstico de Yudkowsky es acertado o si estamos ante un ludita rencoroso. De lo que sé un poco es de periodismo y, a base de usarla a diario, del progreso de las diferentes IA.

En menos de un año, lo que eran respuestas blandas, infantiles o propias de Ned Flanders, han adquirido un grado de sofisticación que las hace indistinguibles de las de un redactor humano. 

En poco más de un año, lo que eran respuestas blandas, infantiles o propias de Ned Flanders, han adquirido un grado de sofisticación que las hace indistinguibles de las de un redactor humano. Quizá no tengan aún la chispa de un gran escritor, pero son superiores a las de cualquier estudiante recién salido de la facultad.

Pronto más del 80% de las tareas que hoy hacemos los periodistas las podrán hacer las IAs. Editar notas de prensa, escribir crónicas eventos deportivos, hacer resúmenes de debates parlamentarios, montar portadas, modificar fotos, crear textos para  una miríada de redes sociales, diseñar cuestionarios para entrevistas, transcribirlas, editarlas y publicarlas.

Como los periodistas tenemos la mala costumbre de comer y las IAs no, lo que se producirá -ya se está produciendo- es una avalancha de contenidos, pues producirlos será cada vez más y más barato.

En poco tiempo, si no ya, las IAs no solo serán capaces de crear contenidos escritos y audiovisuales en masa; serán capaces de diseñar y publicar las plataformas de difusión para ese contenido. Mantener actualizados portales que parezcan periódicos serios será cuestión de segundos.

No nos dejemos engañar con sus limitaciones actuales. Si los billonarios están metiendo ingentes cantidades de dinero en su desarrollo, financiando las monstruosas pérdidas (5 mil millones de dólares en 2024 openIA, 5,6 mil millones de dólares Anthropic, etc.); no es para que les paguemos suscripciones de 20 euros para hacer memes de Pedro Sánchez y Santiago Abascal. Es para crear sistemas muchísimo más complejos. Gestionar periódicos digitales de manera completamente automática, por ejemplo.

"Es imprescindible iniciar una conversación global para que la mayoría del mundo alcance un consenso similar en torno al desarrollo de la inteligencia artificial.

No soy ludita. Tampoco me lo parece Yudkowsky, pues formula una alternativa realista. Su propuesta pasa por limitar el desarrollo de inteligencias artificiales, poniendo todos los centros de datos que las aloja bajo supervisión internacional, con "botones rojos" para su apagado en cuanto observemos comportamientos peligrosos y que no entendemos.

Sea cual fuera la solución, requiere una regulación. Ninguna tecnología es mala en sí misma, pero hemos llegado a un nivel de desarrollo en que varias de ellas amenazan nuestra existencia.

Ya existe un consenso mundial de que la energía nuclear debe ser regulada. Nadie concibe que cualquier particular pueda enriquecer plutonio susceptible de ser usado para una bomba nuclear; eso está fuertemente legislado. Y eso no impide que podamos usar la radiación para hacer radiografías.

La mayoría del mundo también ha alcanzado el consenso de que hay que limitar el uso de combustibles fósiles, so pena de acelerar el cambio climático y que nuestros biznietos se achicharren.

Es imprescindible iniciar una conversación global para que la mayoría del mundo alcance un consenso similar en torno al desarrollo de la inteligencia artificial.

En particular sobre la necesidad de mejorar las inteligencias particulares —por ejemplo, las que son capaces de analizar miles de radiografías en poco tiempo y detectar cánceres mejor que cualquier radiólogo—, y limitar las superinteligencias -aquellas que, por ejemplo, pueden decidir que para su supervivencia lo mejor es hacer infinitas copias de sí mismas en cualquier dispositivo al que tengan acceso. El que está usando para leer esto, por ejemplo.