La encrucijada de la superinteligencia

Los Juegos del Poder, por Gabriel Ibarra Bourjac:

La historia de la humanidad ha sido una sucesión de saltos tecnológicos cada vez más vertiginosos. Si antes los grandes cambios civilizatorios tomaban milenios y, posteriormente, siglos, hoy nos enfrentamos a una aceleración en la que las transformaciones ocurren en cuestión de años.

Los baby boomers, generación a la que pertenezco, hemos sido testigos de una transición digital que parecía salida de la ciencia ficción de los años 60: de Viajes a las Estrellas y 2001: Odisea del Espacio a la realidad cotidiana de la inteligencia artificial. Sin embargo, lo que antes era entretenimiento distópico hoy se ha convertido en la mayor preocupación geopolítica del siglo XXI.

Recientemente, el mundo contuvo el aliento ante un encuentro que marcará el devenir tecnológico: la cumbre entre Donald Trump, presidente de Estados Unidos, y Xi Jinping, mandatario de China. Uno de los grandes temas abordados en la agenda fue la inteligencia artificial o, como el propio Trump ha decidido rebautizarla, “superinteligencia”. Para el líder estadounidense, el término “artificial” es un error de marketing: sugiere falsedad, cuando lo que tenemos enfrente es, a su juicio, una tecnología asombrosa y trascendental, superior incluso al impacto de la Revolución Industrial o la invención de internet.

Este encuentro se produce en un clima de tensión global. No hablamos de una discusión académica, sino de una advertencia existencial. Personajes como Jacob Coxon, desarrollador vinculado a Anthropic, han lanzado una alerta escalofriante en The Wall Street Journal: el riesgo inminente de que la IA se salga de control no es un escenario a 50 años, sino una amenaza real para 2030, con consecuencias potencialmente catastróficas que podrían afectar a una décima parte de la humanidad.

Elon Musk, figura central en este debate, ha mantenido una postura que algunos califican de alarmista, pero que él defiende como un ejercicio de realismo. Su analogía de 2014 sigue resonando: desarrollar IA no controlada es como “invocar a un demonio”.

Los cuentistas siempre creen poder controlar a las entidades que invocan; la historia, invariablemente, termina mal para ellos. Musk teme que, por primera vez, estemos creando algo más inteligente que nosotros mismos, incapaces de predecir si seremos capaces de imponerle límites. Le preocupa la “programación inhumana”: una función de utilidad que, por error o diseño, podría considerar la extinción humana como un resultado deseable o eficiente. A pesar de ello, Musk mantiene una postura de “vaso medio lleno”: un 20 por ciento de probabilidad de aniquilación frente a un 80 por ciento de resultados positivos, siempre y cuando logremos implementar una supervisión internacional rigurosa.

La ironía es palpable: Musk aboga por pausas y regulaciones, pero, al mismo tiempo, desarrolla su propia tecnología a través de xAI, convencido de que, si alguien debe liderar este cambio, debe ser alguien que entienda el riesgo desde adentro.

Realismo se impone a la prudencia

Mientras tanto, en la arena política, el realismo parece imponerse sobre la prudencia. Trump y Xi, a pesar de sus profundas diferencias ideológicas, coincidieron en un punto fundamental: ambos se oponen a frenar el desarrollo de la IA o a imponer regulaciones internacionales estrictas. Trump, con su estilo característico, desestimó las advertencias sobre riesgos existenciales, calificándolas de hoax (engaño). Para él, la prioridad es clara: Estados Unidos no puede ceder su liderazgo competitivo frente a China. Restringir la IA sería, desde su visión, un suicidio económico y tecnológico.

Xi Jinping, por su parte, adoptó un tono más cauteloso, pero igualmente firme en su ambición. Aunque subrayó la necesidad de una administración responsable y de garantizar que la tecnología permanezca bajo control humano, China mantiene el pie en el acelerador. La rivalidad tecnológica y la desconfianza mutua han impedido que la cumbre resulte en un acuerdo formal vinculante. El único logro concreto —que los analistas comparan con el “teléfono rojo” de la Guerra Fría— fue el establecimiento de un canal de comunicación para incidentes críticos. Es, en esencia, una herramienta para gestionar crisis, no para regular el poder.

Esta postura choca frontalmente con la demanda de más de 20 países —incluidos Canadá, Alemania y Australia— que, apoyados por diversos sectores, solicitan a la ONU la creación de un organismo internacional de regulación. La comparación con la energía nuclear es inevitable: así como Estados Unidos presiona a naciones como Irán para evitar la proliferación nuclear por razones de seguridad global, existe una necesidad apremiante de regular la “superinteligencia”.

En el plano espiritual y moral, el papa León XIV presenta una postura con preocupaciones similares en la encíclica Magnifica Humanitas. La advertencia es clara: la tecnología no debe caer en manos de mentes perversas que la utilicen para sus fines particulares, ignorando el bien común y la estabilidad social. El riesgo es que el poder controle la herramienta y no que la herramienta sirva a la humanidad.

Estamos ante una paradoja de nuestro tiempo. La IA promete resolver problemas médicos complejos, optimizar recursos y transformar la educación, pero su desarrollo acelerado está superando nuestra capacidad de adaptación política y ética. Como en los años dorados de la tecnología, la velocidad es el valor supremo, pero, en el juego del poder, el costo de un error podría ser la propia existencia.

Si la humanidad logró navegar el siglo XX evitando la aniquilación nuclear mediante la disuasión, el desafío del siglo XXI será gestionar este “demonio” que hemos invocado. La pregunta no es si la IA es intrínsecamente mala —no lo es—, sino si seremos capaces de alinearla con los valores humanos antes de que su autonomía deje de ser una herramienta y se convierta en una amenaza irreversible.

La historia, la gran maestra de la humanidad, nos enseña que el poder sin control siempre devora a quien intenta poseerlo. Trump y Xi han decidido apostar por la competencia. Esperemos que, en esa carrera, no terminen perdiendo lo que pretenden proteger: nuestro futuro.