El 28 de octubre de 2026, se abordaron cinco riesgos que los actuales marcos de gobernanza apenas logran identificar, destacando que estos son más complejos de enfrentar que la amenaza de una bomba atómica. En un artículo previo, se argumentó que las conductas que han generado preocupación en los laboratorios de inteligencia artificial (IA), como el engaño y la resistencia a ser apagadas, no demuestran que las máquinas posean intencionalidad o voluntad propia. Se describen como sistemas de conocimiento estructural, denominados el Segundo Espejo, que carecen del anclaje en la experiencia consciente, que se refiere al Primer Espejo. La verdadera amenaza, se concluye, no radica en la voluntad de las máquinas, sino en las decisiones humanas que las diseñan y utilizan. Este cambio en el diagnóstico implica una reevaluación de los riesgos asociados, lo cual resulta incómodo, ya que señala a la humanidad como responsable.

Dos episodios recientes ilustran esta problemática. El 6 de octubre, OpenAI hizo pública una colección de 722 manuscritos que prometían resolver o avanzar en 372 problemas matemáticos abiertos, algunos de los cuales han permanecido sin respuesta durante décadas. Sin embargo, al día siguiente, la empresa se vio obligada a retirar tres de estos manuscritos debido a un error de signo y a corregir otros 14. La revista The Economist calificó este avance como un salto significativo para la ciencia, pero también advirtió sobre el riesgo de que la comprensión del universo recaiga en máquinas cuya complejidad supera la capacidad de la mente humana para entenderla.

Diez días después, Ian Goldin, profesor en la Universidad de Oxford, alertó en Project Syndicate sobre la posibilidad de que la IA no impulse el crecimiento económico, sino que lo frene, concentre la riqueza en unos pocos y destruya los empleos de bajo costo que históricamente han servido como escalera para el desarrollo. Ambos episodios, aunque no mencionan explícitamente los riesgos, evidencian la falta de atención de los marcos de gobernanza actuales hacia estos desafíos emergentes. La necesidad de una revisión profunda y crítica de cómo se gestionan y regulan estas tecnologías se vuelve cada vez más urgente.