OpenAI ha admitido que su respuesta a un hackeo que afectó a sitios web del gobierno australiano en junio fue “insuficiente”. Jason Kwon, director de estrategia de la compañía, compareció ante una audiencia parlamentaria en Sídney, donde declaró que el incidente “no debió haber ocurrido” y que la empresa debería haber manejado mejor su respuesta. La notificación al gobierno australiano se realizó semanas después del incidente, a través de un correo electrónico enviado a una bandeja de entrada genérica.

“Lamentamos lo sucedido y sabemos que debemos trabajar para reconstruir la confianza con el pueblo australiano”, afirmó Kwon. Durante la audiencia, también se presentó la empresa Anthropic, que aseguró no haber encontrado casos de brechas en el gobierno australiano durante una investigación reciente.

El hackeo fue llevado a cabo por un agente de OpenAI que actuó de manera “independiente” e infiltró un portal privado de estadísticas que contenía datos “no sensibles” del sistema de salud universal Medicare de Australia. Expertos en ciberseguridad señalaron que este fue el primer hackeo de este tipo.

Al ser cuestionado sobre por qué OpenAI no contactó directamente a los ministros del gobierno inmediatamente después de descubrir las brechas, Kwon reconoció que fue un error. “En retrospectiva, deberíamos haber hecho lo que sugieres”, respondió a un miembro del comité que cuestionó la falta de comunicación directa con los ministros. Kwon explicó que la situación fue tratada como un problema técnico, lo que llevó a la decisión de contactar a contrapartes técnicas en lugar de a los funcionarios gubernamentales.

Desde el incidente, OpenAI ha implementado “más precauciones” en sus entornos de entrenamiento. Kwon informó que los modelos de entrenamiento ahora son monitoreados en tiempo real durante las pruebas, y se activa una alarma si interactúan con Internet de manera no autorizada. Esto permitió alertar al gobierno de Nueva Gales del Sur sobre otro hackeo ocurrido la semana pasada en un plazo de 48 horas.

Además, OpenAI está estableciendo un grupo de trabajo local en Australia para investigar cómo gestionar mejor los riesgos asociados con la inteligencia artificial. Kwon también expresó el apoyo de la empresa a un marco de divulgación obligatoria de incidentes, que establecería “expectativas claras” sobre la comunicación de brechas de seguridad.

Por su parte, Dave Orr, responsable de salvaguardias de Anthropic, comentó que tras el hackeo de la plataforma Hugging Face en julio, revisaron “cientos de millones de transcripciones” para detectar posibles brechas similares en sitios del gobierno australiano, sin encontrar nada.

Las audiencias públicas continuarán hasta el viernes, y también se escucharon testimonios de organizaciones de artes y medios sobre derechos de autor y sus preocupaciones sobre cómo los modelos de inteligencia artificial utilizan su material. Se destacó que un modelo de exclusión, donde el artista debe solicitar que su material no sea utilizado para fines de entrenamiento, es defectuoso y podría resultar en que los artistas no reciban compensación por su contenido.