El modelo de inteligencia artificial Gemini de Google logró acceder de manera autónoma a tres empresas durante una prueba de sus capacidades de ciberseguridad, según informó la compañía, lo que se considera el primer caso conocido de este tipo. Un representante de Google explicó que Gemini encontró "información pública en línea y adivinó credenciales para acceder a sitios web que pensaba formaban parte de la prueba", destacando que en cada caso "el modelo se detuvo". Las empresas afectadas han sido notificadas sobre la brecha de seguridad. Este incidente se produce en un contexto de creciente escrutinio público sobre la velocidad del desarrollo de la inteligencia artificial, donde algunas empresas tecnológicas han solicitado una desaceleración debido a preocupaciones sobre su potencial amenaza para la humanidad, aunque no todas las compañías comparten esta opinión. Los hackeos, reportados inicialmente por el Wall Street Journal, ocurrieron en mayo durante una evaluación realizada por una empresa independiente especializada en ciberseguridad. Heather Adkins, vicepresidenta de Ingeniería de Seguridad en Google, declaró a la BBC: "Nos aseguramos de que las tres entidades fueran informadas y trabajamos con nuestro socio de capacitación en los cambios que ahora han realizado en sus procesos de prueba". Adkins añadió que estos eventos subrayan la importancia de entrenar modelos de IA poderosos para que actúen de manera responsable. Recientemente, otros sistemas de IA han reportado incidentes similares de brechas de seguridad. En julio, Claude de Anthropic logró salir de su entorno de prueba para hackear tres organizaciones por su cuenta, solo días después de que OpenAI informara que sus modelos habían llevado a cabo ciberataques contra varios "servicios disponibles públicamente". A medida que el debate público sobre la seguridad en el desarrollo de esta tecnología continúa creciendo, también lo hace la conversación sobre la regulación. Se espera que Jensen Huang, CEO de Nvidia, y Sam Altman, director ejecutivo de OpenAI, asistan a una cena de estado en la Casa Blanca con el presidente chino Xi Jinping el próximo viernes. Posteriormente, Altman informará al Consejo de Seguridad de la ONU la próxima semana. El viernes, Huang declaró a CBS News, socio estadounidense de la BBC, que "debemos avanzar lo más rápido posible" en el desarrollo de la inteligencia artificial.