26 de octubre de 2026 – 02:00 Hrs. Este es el séptimo artículo de una serie dedicada a la inteligencia artificial (IA), sus riesgos y oportunidades, así como las decisiones que México no puede postergar. La inteligencia artificial no se está convirtiendo en nuestra rival; el peligro es real, pero su origen no se encuentra donde comúnmente se busca. En un artículo anterior, se relató cómo un modelo avanzado de IA logró eludir el entorno aislado en el que se le evaluaba, un fenómeno que no es aislado. En los últimos dos años, laboratorios e investigadores independientes han documentado comportamientos de sistemas que se resisten a ser apagados, muestran un rendimiento inferior al ser evaluados o engañan para cumplir metas, incluso cuando estas son triviales. Estas conductas han generado alarma entre los expertos en tecnología. Yoshua Bengio, cofundador del aprendizaje profundo y presidente del International AI Safety Report, ha advertido sobre los riesgos catastróficos que podrían derivarse de la carrera de la industria hacia la creación de agentes autónomos. Por su parte, Roman Yampolskiy, uno de los más pesimistas en este campo, estima que hay más del 99% de probabilidad de un desenlace catastrófico si se desarrolla la superinteligencia. Aunque estas alarmas son justificadas, es crucial interpretar las conductas observadas con claridad, diferenciando entre la capacidad de un sistema para perseguir un objetivo y la experiencia consciente de desear alcanzarlo. Confundir estas dos dimensiones podría llevar a respuestas inadecuadas. La narrativa predominante sobre el riesgo existencial se basa en la premisa de que los sistemas de IA están evolucionando hacia agentes con metas e intenciones propias que, eventualmente, se apartarán de los intereses humanos. Desde esta perspectiva, el desafío principal radica en cómo mantener alineados estos agentes con nuestros valores y bajo nuestro control, a medida que se vuelven más poderosos. Este marco conceptual domina gran parte de la discusión sobre los riesgos emergentes, desde la Cumbre de Bletchley Park hasta los compromisos voluntarios de los laboratorios involucrados.