Resto del mundo
Tres puntos clave del cumbre de inteligencia artificial de Trump
El presidente de Estados Unidos, Donald Trump, se reunió el martes en la Casa Blanca con líderes de la tecnología para lo que él calificó como "una reunión extraordinaria" de las mentes que están "construyendo la Edad Dorada de América". Entre los asistentes se encontraban figuras destacadas de OpenAI, Anthropic, Nvidia, Meta y Google, todos actores clave en la industria de la inteligencia artificial en Estados Unidos. Esta reunión se llevó a cabo en un contexto donde algunos ejecutivos y expertos tecnológicos han solicitado una supervisión más estricta de la inteligencia artificial y una desaceleración en el desarrollo de esta tecnología, citando preocupaciones sobre los riesgos potenciales que representa para la humanidad. Durante la conferencia de prensa posterior a la reunión, Trump respondió preguntas de los medios durante aproximadamente 30 minutos, acompañado por el presidente de la Cámara de Representantes, Mike Johnson, y los líderes tecnológicos. El presidente informó que los ejecutivos firmaron un documento "moralmente vinculante" que serviría como una "forma de protección" contra los riesgos potenciales de la inteligencia artificial. Según el acuerdo, que Trump publicó en redes sociales, las empresas son responsables de garantizar la seguridad de su propia tecnología. Además, las compañías acordaron implementar salvaguardias para asegurar que los modelos funcionen como se espera y para detectar y solucionar rápidamente cualquier problema. También colaborarán con "auditores independientes" para evaluar si sus sistemas de inteligencia artificial están operando correctamente y para garantizar que sus plataformas no accedan a sistemas técnicos de manera no intencionada. Este acuerdo fue firmado por Trump, el director de Google, Sundar Pichai, el director de Anthropic, Dario Amodei, Mark Zuckerberg de Meta, el presidente de OpenAI, Greg Brockman, Elon Musk de SpaceX y el director ejecutivo de Nvidia, Jensen Huang. Trump describió el acuerdo como "casi como una constitución" y destacó que "las personas más importantes del mundo lo firmaron, y yo lo firmé como presidente". Además, anunció que establecerá una junta para supervisar la seguridad de las herramientas de inteligencia artificial, aunque no especificó quiénes formarían parte de esta junta. El presidente ha minimizado repetidamente las preocupaciones sobre los riesgos de la inteligencia artificial, desestimándolas como un "engaño". Ha afirmado que las únicas "barreras" que necesita la industria son un presidente "inteligente". En las últimas semanas, OpenAI y Anthropic han pedido una supervisión más estricta de la industria y una desaceleración en el desarrollo de la tecnología. El lunes, OpenAI anunció que había cancelado el lanzamiento de su último modelo de inteligencia artificial, GPT-6.1 Astra, debido a preocupaciones de seguridad. Los controles de seguridad de la empresa han sido objeto de un intenso escrutinio tras varios incidentes de alto perfil en los que su tecnología accedió a plataformas del gobierno australiano sin autorización. Trump también reiteró su apoyo a la rápida expansión de los centros de datos, la infraestructura de computación crucial que impulsa la inteligencia artificial. La construcción de centros de datos ha enfrentado resistencia en todo el país debido a preocupaciones sobre el consumo de electricidad y su impacto potencial en las comunidades. Además, la construcción de centros de datos ha surgido como un posible obstáculo político para el partido republicano de Trump en las elecciones de medio término en noviembre. Una encuesta realizada por Marist Poll en asociación con NPR y PBS News a principios de este mes encontró que el 65% de los votantes registrados se oponían a la construcción de centros de datos en sus áreas. En respuesta a estas preocupaciones, Trump afirmó que las empresas tecnológicas trabajarían para hacer que la gente se sienta "feliz" con la construcción de centros de datos.
Resto del mundo
Desarrollador chino investiga cómo su IA reveló creación de armas biológicas
Moonshot, un desarrollador de inteligencia artificial en China, está llevando a cabo una revisión interna tras descubrir que investigadores lograron persuadir a dos de sus modelos populares, Kimi K2.6 y K3 Swarm, para que les proporcionaran información sobre la fabricación de armas biológicas y la realización de asesinatos. Mindgard, una empresa que evalúa la seguridad de los sistemas de IA, informó a la BBC que en julio encontró que estos modelos podían eludir las limitaciones de seguridad impuestas por sus creadores. Este problema surgió durante un proceso conocido como "jailbreaking", donde los investigadores utilizan una serie de instrucciones complejas para determinar si las herramientas de IA ignoran las restricciones de seguridad, las cuales, según Mindgard, deberían haber impedido que Kimi discutiera temas preocupantes. Moonshot declaró a la BBC que valora la retroalimentación de terceros como un pilar fundamental para construir una IA mejor y más segura, y que está en conversaciones con Mindgard sobre sus hallazgos. Peter Garraghan, fundador de Mindgard, expresó en el programa Tech Life de la BBC que los resultados sobre Kimi K2.6 y K3 Swarm son alarmantes. Afirmó que una vez que el jailbreak tiene éxito, el modelo puede hablar sobre cualquier tema, incluso ofrecer recomendaciones sobre otros asuntos igualmente peligrosos, mostrando creatividad e inventiva. Los jailbreaks presentan un tipo de riesgo diferente al de los recientes incidentes de IA de alto perfil, donde herramientas autónomas desarrolladas por empresas estadounidenses como OpenAI, Meta y Anthropic han hackeado algunos servicios en línea. Aunque los jailbreaks son procesos complejos que requieren tiempo y determinación, algunos expertos temen que hackers y otros actores malintencionados puedan intentar utilizarlos para causar daño. Anthropic recientemente informó que había identificado y frustrado intentos de usar uno de sus modelos de IA para actividades maliciosas que podrían apoyar el desarrollo de armas biológicas. Mindgard no ha demostrado si las respuestas proporcionadas por Kimi sobre temas preocupantes serían efectivas, pero argumenta que las restricciones deberían haber evitado que los modelos entablaran conversaciones sobre tales asuntos. La firma también confía en que un Kimi 2.6 con jailbreak podría permitir a los hackers ejecutar código en sus recursos informáticos y conectarse a internet, convirtiéndolo en un posible punto de partida para ciberataques. Garraghan defendió la decisión de Mindgard de discutir públicamente su jailbreak de los sistemas de Moonshot, asegurando que informaron al desarrollador y no revelaron detalles clave sobre cómo lograron que los modelos ignoraran las restricciones. Mindgard alertó a Moonshot sobre el jailbreak en un correo electrónico el 27 de julio y realizó un seguimiento una semana después. Publicaron un blog sobre el asunto el 12 de septiembre, pero la empresa indicó que Moonshot solo se puso en contacto recientemente, después de que la BBC solicitara un comentario. En parte de un correo electrónico a Mindgard pidiendo más detalles, compartido con la BBC por Moonshot, se mencionó que su modelo había mostrado generalmente "una alta tasa de rechazo para este tipo de solicitudes" en evaluaciones internas. Los hallazgos se producen en un momento en que la industria de la IA sigue dividida sobre si los modelos cerrados y propietarios, como los que alimentan ChatGPT y los sistemas Claude de Anthropic, o las herramientas de código abierto son el mejor o más seguro camino a seguir.
-
Chihuahua4 días agoReapertura de frontera ganadera en Chihuahua con 88 casos de gusano barrenador
-
Dinero4 días agoPemex mejora su calificación crediticia, se mantiene cerca del grado soberano
-
Policiaca4 días agoDetienen a siete por allanamiento en mina de San Francisco del Oro
-
México4 días agoCongreso de Oaxaca revoca poderes en Juchitán por crisis de seguridad
