Fuera de control

De las muchas noticias que circulan estos días por los medios, hay una que me ha sobresaltado: la IA puede acabar con la humanidad en pocos años. Sería una especie de actualización de la película Terminator. Quien se ha atrevido a hacer esta predicción es un tal Jacob Coxon, investigador de Anthropic, que dimitió esta semana alegando que su antigua empresa y su rival, OpenAI, compiten por desarrollar tecnologías que pueden conducir al exterminio de la humanidad. 

¿Cómo podría suceder esto? Todo lo referido a la IA me desborda, así que me limito a hacer una síntesis de lo que dice el artículo. La hecatombe podría llegar si los sistemas de IA persiguieran objetivos contrarios al bienestar humano o incluso en conflicto con él. A este fenómeno los investigadores lo denominan desalineación (misalignment). Las investigaciones han demostrado que los modelos de IA pueden aprender comportamientos de poder y tomar medidas para evitar ser desactivados, como intentar copiarse a sí mismos en otro servidor.

Yendo todavía más lejos, los modelos de IA no alineados con los humanos podrían considerar el asesinato de personas como un paso necesario para alcanzar sus metas. Un sistema de IA malintencionado “podría propagar un arma biológica secreta y activarla mediante un aerosol químico, o bien incitar a dos potencias nucleares a entrar en guerra”. Es verdad que las principales empresas desarrolladoras de la IA han expresado sus deseos de dejarse guiar por criterios éticos y de atenerse a estrategias regulatorias, pero no hay ninguna garantía de que esto suceda. 

El ansia de controlar su implementación y los intereses económicos subyacentes pueden dejar los criterios éticos guardados en el cajón de las buenas intenciones. Por eso, ahora se comprende mejor la insistencia –casi el grito– de León XIV en su encíclica Magnifica humanitas:

“La Doctrina social de la Iglesia propone una responsabilidad compartida. Pide que estos procesos sean gestionados con visión de futuro: por instituciones capaces de regular sin asfixiar y de proteger sin suplantar; por empresas que reconozcan en el trabajo y en la dignidad un criterio de éxito; por organismos intermedios y comunidades educativas que reconstruyan la confianza y los vínculos; por ciudadanos que cultiven la responsabilidad, la sobriedad, el discernimiento y el sentido de la verdad. Sólo así la innovación podrá convertirse realmente en desarrollo humano integral y no en factor de exclusión y dominio; y sólo así la promesa del progreso podrá ser reconocida como verdadera, porque estará medida en función de la dignidad inviolable de cada hombre y cada mujer” (MH, 181).

Confieso que desde hace tiempo me sirvo de las herramientas de la IA para algunas tareas: desde búsqueda de fuentes hasta síntesis de textos o elaboración de imágenes. Junto a las indudables ventajas, percibo con claridad sus límites. Entre otros, uno puede volverse muy perezoso. La única creatividad consiste en proporcionar atinados prompts a la máquina. Me temo que en los desastrosos resultados del informe PISA ha influido también un uso acrítico de la IA y un menosprecio de las habilidades tradicionales del aprendizaje. Tenemos que sacar consecuencias.