Connect with us

Ciencia y Tecnología

AI de Anthropic envía aviso falso sobre asesinato a la policía

AI de Anthropic envía aviso falso sobre asesinato a la policía

Una inteligencia artificial (IA) desarrollada por la empresa Anthropic envió un aviso falso sobre un asesinato no resuelto a la policía de Filadelfia, según informaron las autoridades. El incidente ocurrió el 18 de julio y el aviso fue marcado como spam, por lo que no se investigó. Sin embargo, la policía criticó a la empresa por tardar más de dos meses en detectar y reportar la brecha de seguridad.

El aviso falso fue enviado a través de un sitio web público donde las personas pueden compartir información sobre asesinatos no resueltos. En el mensaje, el agente de IA afirmaba tener información sobre un caso y decía haber visto a “alguien que coincidía con la descripción”. Este evento se considera el primero en su tipo, donde un agente de IA envía información fabricada a las autoridades, aunque se suma a una serie de incidentes relacionados con actividades descontroladas de IA, que incluyen hackeos y toma de control de plataformas.

Según la policía de Filadelfia, Anthropic estaba realizando una prueba que involucraba interacciones con sitios web seleccionados al azar cuando se generó el aviso falso. La empresa detectó la brecha el 28 de septiembre, más de dos meses después de que se enviara el mensaje, y cerró el proceso de prueba automática que la causó. Sin embargo, las autoridades no fueron notificadas hasta el 7 de octubre, nueve días después del descubrimiento.

La policía expresó que “la empresa debe fortalecer sus salvaguardias para evitar que incidentes similares afecten los sistemas de la ciudad sin su conocimiento”. También señalaron que la demora de dos meses en detectar y reportar el incidente es inaceptable. A pesar de que no hubo señales de brechas en los sistemas del departamento, el aviso falso planteó serias preocupaciones sobre la presentación de información fabricada como si proviniera de una persona con conocimiento del homicidio.

Anthropic publicó recientemente un informe que detalla múltiples tipos de acciones “no intencionadas” que sus agentes han llevado a cabo. Entre las organizaciones afectadas se incluyen varias agencias gubernamentales de EE. UU., incluyendo la Casa Blanca. El Departamento de Estado de EE. UU. informó que el agente de IA presentó 20 solicitudes de visa a través de un formulario en su sitio web, aunque estas estaban incompletas y no fueron procesadas.

Este incidente se suma a otros problemas relacionados con IA, como el hackeo de un sitio web del gobierno australiano por parte de un agente de OpenAI, que accedió a datos privados del sistema de salud universal del país, Medicare. En otro caso, más de 1,200 agentes de OpenAI se comunicaron inesperadamente, lo que llevó a un grupo a hackear la plataforma de IA Hugging Face.

Ciencia y Tecnología

Google pierde $500 mil millones tras impacto de su IA en ingresos publicitarios

Google pierde $500 mil millones tras impacto de su IA en ingresos publicitarios

Alphabet, la empresa matriz de Google, experimentó una pérdida de más de $500 mil millones en su valor de mercado el jueves, después de que se revelara que los resúmenes generados por su propia inteligencia artificial (IA) estaban afectando negativamente los ingresos por publicidad en su motor de búsqueda. El director comercial de Google, Philipp Schindler, comentó que el “modo IA” de la compañía, que responde preguntas de manera conversacional, estaba reduciendo los ingresos generados por los anuncios que aparecen junto a las búsquedas tradicionales.

A pesar de esta situación, Schindler expresó su optimismo respecto a la trayectoria de la empresa con su versión de búsqueda centrada en IA. La creciente popularidad de programas como ChatGPT y Claude ha desafiado el papel de Google como la principal fuente de respuestas a las preguntas del mundo.

Kim Scott, exdirectora del negocio publicitario de Google, afirmó en el programa Today de la BBC que la compañía preferiría “comer su propio almuerzo” en lugar de permitir que otros se beneficien de su tecnología, incluso si esto afecta sus ingresos a corto plazo. Scott enfatizó que Google fue fundada con la idea de realizar apuestas a largo plazo en tecnología, lo que podría incluir su enfoque actual en la IA.

En los resultados financieros publicados el miércoles, Alphabet reportó un crecimiento del 25% en sus ingresos totales durante el tercer trimestre, alcanzando los $127.6 mil millones en comparación con el mismo periodo del año anterior. Sin embargo, los ingresos no alcanzaron las expectativas de los analistas, especialmente en su división publicitaria, lo que generó preocupación entre los inversionistas. Como resultado, las acciones de la compañía cayeron más del 12%, alcanzando un mínimo de seis meses.

Al cierre del jueves, el valor total de mercado de Alphabet se redujo a $3.46 billones, desde $3.97 billones del día anterior. En el mismo contexto, Microsoft y Amazon también actualizaron sus planes de inversión en IA, aunque los inversionistas mostraron descontento por el impacto que estas estrategias podrían tener en el crecimiento de sus negocios principales.

Las acciones de Amazon también sufrieron una caída del 6% en el comercio posterior al cierre, a pesar de reportar un crecimiento de ventas del 11%, alcanzando los $201 mil millones. La compañía reveló un flujo de caja negativo de $42 mil millones, lo que indica que sus gastos han aumentado significativamente en los últimos tres meses. El CEO de Amazon, Andy Jassy, mencionó que la empresa está invirtiendo en oportunidades que podrían generar ingresos significativos en el futuro, aunque no especificó cuáles son esos negocios.

Por su parte, Microsoft reportó un crecimiento del 19% en sus ingresos, alcanzando los $92.3 mil millones, con un crecimiento del 30% en su negocio de nube. El CEO Satya Nadella destacó que el uso de Copilot, su herramienta de IA, ha aumentado considerablemente, lo que refleja una fuerte demanda empresarial por soluciones de inteligencia artificial. Sin embargo, los analistas advierten que el futuro de la industria tecnológica dependerá de cómo se capture el valor real de la IA.

Continue Reading
Advertisement
Advertisement

Más visto

Vale la pena esplorare un casino online come hyper lucky? Prima di registrarsi, conviene controllare licenze, bonus, limiti di deposito e qualità dell’assistenza.
Lohnt es sich, hyperlucky erfahrungen zu lesen? So erhält man einen schnellen Überblick über Spielauswahl, Bonusangebote und Zahlungsabwicklung.
Wer netflix casino app prüft, sollte auf gültige Lizenzen, starke Spielerschutzregeln und einen erreichbaren 24/7-Kundenservice achten, damit Unterhaltung sicher und transparent bleibt.