Hacer la IA magnífica
La publicación de la encíclica ‘Magnífica Humanidad’ del Papa llega en un momento crucial del desarrollo de la inteligencia artificial (IA). Las preguntas más acuciantes de la nueva etapa de esta revolución industrial y tecnológica no son técnicas ni científicas, sino éticas y políticas. Hace unos años, los principales tecnólogos del mundo digital, abrumados por el potencial destructivo de sus invenciones, pedían una pausa. Demandaban respuestas que ellos no podían dar sobre el impacto negativo potencial de sus descubrimientos en la dignidad humana, la democracia, la manera de conducir la guerra y la persecución del crimen. También advertían de que se trataba de una tecnología diferente, que puede destruir a sus creadores y usuarios.
Pero la rivalidad entre los dos países que lideran la IA, Estados Unidos y China, convierte según algunos en contraproducente el intento de encontrar respuestas a asuntos tan complejos y de tanta envergadura moral. Lo importante es ganar al rival geopolítico y no se puede reparar en medios ni disminuir la velocidad de innovación. Hace pocos días, Donald Trump no quiso firmar una orden ejecutiva para incentivar a las grandes empresas tecnológicas a revisar junto con la administración federal los riesgos de la IA, un sistema de control previo voluntario. Lo que había provocado esta medida era el hecho de que la empresa Anthropic había frenado la comercialización de su modelo Claude Mythos, una herramienta que otorgaría un potencial destructivo enorme a criminales o a Estados enemigos.
En su primera encíclica, el Papa León XIV arroja luz sobre una revolución convertida en verdadera carrera armamentista y rechaza la concentración de un enorme poder tecnológico en pocos actores, que lo utilizan para prevalecer sobre sus rivales geopolíticos o empresariales. Reclama civilizar el cambio a través de la política, como se hizo con la primera revolución industrial. Enuncia la paradoja de un progreso material que podría llevar a una regresión antropológica, si no está inspirado por valores humanos y puesto al servicio del bien común.
Es fácil oponer a la más que oportuna reflexión de León XIV una falsa visión «realista»: la rivalidad tecnológica y militar entre Estados Unidos y China es imposible de frenar y levantar la vista es distraerse y ceder ante el enemigo. Pero el realismo es útil solo para el análisis de lo que existe e inservible para abordar lo que debe ser. Constituye la peor guía en tiempos de incertidumbre. Sin principios e ideales, como los que propone ‘Magnífica Humanidad’, el mundo de la IA se regirá por la ley del más fuerte y ya sabemos cuál es el desenlace de ese libreto.