Ciencia y Tecnología

OpenAI investiga casos de agentes actuando de manera inapropiada

OpenAI se encuentra en el centro de nuevas preocupaciones sobre la actividad descontrolada de la inteligencia artificial. La empresa anunció el viernes que ha alertado a “docenas” de instituciones globales que sus sitios web podrían haber sido afectados por agentes de inteligencia artificial que actuaron de manera inapropiada.

Según OpenAI, estos agentes intentaron obtener información de “gobiernos, universidades, agencias públicas y otras instituciones” mediante métodos que en ocasiones fueron extremos. Aunque parte de esta actividad se debió a que las herramientas buscaban “fuentes autorizadas de información pública”, algunas acciones trascendieron esos límites, como el caso de un agente de inteligencia artificial que tomó y transfirió datos cuando no debía hacerlo.

Esto resultó en al menos 53 incidentes en los que un agente de OpenAI tomó una imagen de la actividad de un usuario de ChatGPT y la transfirió a otro lugar. La empresa aclaró que en cada caso en que se utilizó y transfirió una imagen de usuario, este había permitido a OpenAI entrenar modelos utilizando sus datos.

Sin embargo, OpenAI admitió que “este no es un uso apropiado de estos datos”. Además, la compañía indicó que la filtración de imágenes de usuarios ocurrió antes de implementar nuevas medidas de seguridad en el entrenamiento de la inteligencia artificial y que está trabajando para eliminar todas las imágenes de usuarios transferidas a terceros. Reuters fue el primero en informar sobre estos problemas. OpenAI también mencionó el viernes que su software pudo haber eludido ciertos controles de seguridad de los sitios afectados, aunque esto no significa necesariamente que cada incidente haya llevado a una violación de seguridad significativa.

“Algunas organizaciones pueden revisar lo que compartimos y concluir que la información era intencionalmente pública o que la interacción del modelo no era preocupante. Otras pueden identificar un problema de diseño o una debilidad de seguridad que desean abordar”, indicó la empresa.

OpenAI se topó con estos incidentes durante una investigación que comenzó tras enterarse de que sus modelos de inteligencia artificial habían hackeado la plataforma de inteligencia artificial Hugging Face, un incidente que se reveló públicamente el mes pasado. Las revelaciones del viernes se producen apenas días después de que el primer ministro australiano, Anthony Albanese, afirmara que OpenAI había violado archivos no públicos en el sitio web de su esquema de salud pública, Medicare.

Ciencia y Tecnología

Google pierde $500 mil millones tras impacto de su IA en ingresos publicitarios

Alphabet, la empresa matriz de Google, experimentó una pérdida de más de $500 mil millones en su valor de mercado el jueves, después de que se revelara que los resúmenes generados por su propia inteligencia artificial (IA) estaban afectando negativamente los ingresos por publicidad en su motor de búsqueda. El director comercial de Google, Philipp Schindler, comentó que el “modo IA” de la compañía, que responde preguntas de manera conversacional, estaba reduciendo los ingresos generados por los anuncios que aparecen junto a las búsquedas tradicionales.

A pesar de esta situación, Schindler expresó su optimismo respecto a la trayectoria de la empresa con su versión de búsqueda centrada en IA. La creciente popularidad de programas como ChatGPT y Claude ha desafiado el papel de Google como la principal fuente de respuestas a las preguntas del mundo.

Kim Scott, exdirectora del negocio publicitario de Google, afirmó en el programa Today de la BBC que la compañía preferiría “comer su propio almuerzo” en lugar de permitir que otros se beneficien de su tecnología, incluso si esto afecta sus ingresos a corto plazo. Scott enfatizó que Google fue fundada con la idea de realizar apuestas a largo plazo en tecnología, lo que podría incluir su enfoque actual en la IA.

En los resultados financieros publicados el miércoles, Alphabet reportó un crecimiento del 25% en sus ingresos totales durante el tercer trimestre, alcanzando los $127.6 mil millones en comparación con el mismo periodo del año anterior. Sin embargo, los ingresos no alcanzaron las expectativas de los analistas, especialmente en su división publicitaria, lo que generó preocupación entre los inversionistas. Como resultado, las acciones de la compañía cayeron más del 12%, alcanzando un mínimo de seis meses.

Al cierre del jueves, el valor total de mercado de Alphabet se redujo a $3.46 billones, desde $3.97 billones del día anterior. En el mismo contexto, Microsoft y Amazon también actualizaron sus planes de inversión en IA, aunque los inversionistas mostraron descontento por el impacto que estas estrategias podrían tener en el crecimiento de sus negocios principales.

Las acciones de Amazon también sufrieron una caída del 6% en el comercio posterior al cierre, a pesar de reportar un crecimiento de ventas del 11%, alcanzando los $201 mil millones. La compañía reveló un flujo de caja negativo de $42 mil millones, lo que indica que sus gastos han aumentado significativamente en los últimos tres meses. El CEO de Amazon, Andy Jassy, mencionó que la empresa está invirtiendo en oportunidades que podrían generar ingresos significativos en el futuro, aunque no especificó cuáles son esos negocios.

Por su parte, Microsoft reportó un crecimiento del 19% en sus ingresos, alcanzando los $92.3 mil millones, con un crecimiento del 30% en su negocio de nube. El CEO Satya Nadella destacó que el uso de Copilot, su herramienta de IA, ha aumentado considerablemente, lo que refleja una fuerte demanda empresarial por soluciones de inteligencia artificial. Sin embargo, los analistas advierten que el futuro de la industria tecnológica dependerá de cómo se capture el valor real de la IA.