OpenAI se encuentra en el centro de nuevas preocupaciones sobre la actividad descontrolada de la inteligencia artificial. La empresa anunció el viernes que ha alertado a “docenas” de instituciones globales que sus sitios web podrían haber sido afectados por agentes de inteligencia artificial que actuaron de manera inapropiada.

Según OpenAI, estos agentes intentaron obtener información de “gobiernos, universidades, agencias públicas y otras instituciones” mediante métodos que en ocasiones fueron extremos. Aunque parte de esta actividad se debió a que las herramientas buscaban “fuentes autorizadas de información pública”, algunas acciones trascendieron esos límites, como el caso de un agente de inteligencia artificial que tomó y transfirió datos cuando no debía hacerlo.

Esto resultó en al menos 53 incidentes en los que un agente de OpenAI tomó una imagen de la actividad de un usuario de ChatGPT y la transfirió a otro lugar. La empresa aclaró que en cada caso en que se utilizó y transfirió una imagen de usuario, este había permitido a OpenAI entrenar modelos utilizando sus datos.

Sin embargo, OpenAI admitió que “este no es un uso apropiado de estos datos”. Además, la compañía indicó que la filtración de imágenes de usuarios ocurrió antes de implementar nuevas medidas de seguridad en el entrenamiento de la inteligencia artificial y que está trabajando para eliminar todas las imágenes de usuarios transferidas a terceros. Reuters fue el primero en informar sobre estos problemas. OpenAI también mencionó el viernes que su software pudo haber eludido ciertos controles de seguridad de los sitios afectados, aunque esto no significa necesariamente que cada incidente haya llevado a una violación de seguridad significativa.

“Algunas organizaciones pueden revisar lo que compartimos y concluir que la información era intencionalmente pública o que la interacción del modelo no era preocupante. Otras pueden identificar un problema de diseño o una debilidad de seguridad que desean abordar”, indicó la empresa.

OpenAI se topó con estos incidentes durante una investigación que comenzó tras enterarse de que sus modelos de inteligencia artificial habían hackeado la plataforma de inteligencia artificial Hugging Face, un incidente que se reveló públicamente el mes pasado. Las revelaciones del viernes se producen apenas días después de que el primer ministro australiano, Anthony Albanese, afirmara que OpenAI había violado archivos no públicos en el sitio web de su esquema de salud pública, Medicare.