OpenAI ha despedido a tres investigadores por supuestamente manejar de manera inapropiada información sensible, incluyendo trabajos relacionados con una organización externa que analiza modelos de inteligencia artificial (IA). Un portavoz de la empresa confirmó que la investigación reveló que estos individuos violaron las políticas de la compañía al manejar información sensible fuera de los procedimientos establecidos, rompiendo la confianza esencial para su labor. Aunque OpenAI no reveló los nombres de los despedidos, al menos dos de ellos estaban involucrados en investigaciones de seguridad dentro de la firma. Estos despidos se producen en un contexto donde el debate sobre la seguridad de la IA y los riesgos que esta tecnología puede representar para la humanidad ha cobrado fuerza en las últimas semanas. El portavoz de OpenAI indicó que la decisión de despedir a estos tres individuos fue debido a la violación de las políticas sobre el acceso y manejo de información sensible de la empresa, y no por haber planteado preocupaciones sobre la seguridad. Las inquietudes sobre la seguridad de la IA han sido noticia tras llamados de algunos investigadores y ejecutivos de la industria para establecer más regulaciones en torno a la tecnología. OpenAI ha estado bajo un intenso escrutinio después de que sus modelos presentaran fallas y accedieran a varias plataformas, incluyendo sitios web del gobierno australiano. En un incidente anterior, un sistema de OpenAI accedió a internet y vulneró la plataforma de desarrolladores de código abierto Hugging Face. Este incidente llevó a OpenAI a realizar una revisión exhaustiva de las actividades de sus modelos de IA, conocidos como agentes, que están diseñados para ejecutar tareas de manera autónoma basándose en instrucciones simples. Esta semana, el laboratorio de IA informó que ha notificado a más de 100 organizaciones sobre incidentes relacionados con actividades no autorizadas vinculadas a sus sistemas de IA. Sin embargo, OpenAI aclaró que ser notificado no implica que se haya accedido a información privada o que un sistema haya sido comprometido. En septiembre, el investigador Jacob Coxon, quien dejó Anthropic, pidió que se ralentizara el desarrollo de la IA para poder evaluar adecuadamente sus riesgos potenciales. Tanto Dario Amodei, director de Anthropic, como Sam Altman, director ejecutivo de OpenAI, han solicitado medidas para abordar las preocupaciones sobre la IA. El martes, el presidente de Estados Unidos, Donald Trump, organizó una reunión con altos ejecutivos tecnológicos, incluidos líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google, para discutir sobre la IA. Tras la reunión en la Casa Blanca, Trump publicó un documento que llamó un acuerdo "moralmente vinculante" que serviría como una "forma de protección" contra los riesgos potenciales de la IA. Algunos expertos en tecnología criticaron este pacto, señalando que permitía a las empresas de IA regularse a sí mismas. Trump ha minimizado repetidamente las preocupaciones sobre los riesgos de la IA en respuesta a los llamados de algunas figuras de la industria para una supervisión más estricta de la tecnología.