Connect with us

Ciencia y Tecnología

OpenAI tuvo una semana turbulenta: ¿Quién ganó y quién perdió?

El director ejecutivo de Microsoft, Satya Nadella (derecha), saluda al director ejecutivo de OpenAI, Sam Altman, durante el evento OpenAI DevDay el 6 de noviembre de 2023 en San Francisco, California. Crédito: Justin Sullivan/Getty Images

(CNN) — La crisis de liderazgo que afectó a OpenAI durante casi una semana terminó casi tan abruptamente como comenzó: con un anuncio conciso y críptico de la compañía que podría tener enormes repercusiones para su futuro.

¿Ya conoces nuestro canal de WhatsApp? Suscríbete!

En cierto modo, el resultado fue un retorno al status quo: Sam Altman sería restituido como CEO, y quedó intacta la profunda y lucrativa asociación comercial de la compañía con Microsoft, que adquirió una participación de US$ 13.000 millones en la compañía incluso cuando ésta desarrolla su propia IA.

Sin embargo, en otros sentidos, el acuerdo sigue siendo un momento decisivo para OpenAI y el campo de la inteligencia artificial en general.

La semana turbulenta parece haber resultado en una gran victoria para Altman personalmente; defensores de la adopción generalizada de la IA; y algunas de las élites más establecidas del país. Y se produjo a expensas de los escépticos de la IA que, según muchos, fracasaron en su intento de adoptar una postura de principios a favor de la cautela sobre los riesgos a largo plazo de la tecnología.

Quién ganó

Sam Altman: un claro ganador de toda la debacle es, por supuesto, el propio Altman. Expulsado sin ceremonias de su cargo el viernes, Altman rápidamente obtuvo el apoyo de la gran mayoría del personal de OpenAI, quienes firmaron lo que fue esencialmente un compromiso de lealtad que subraya la profunda brecha entre él y la junta directiva. Su regreso a OpenAI, triunfante sobre la junta que lo despidió sumariamente, refleja una especie de reivindicación personal que probablemente reforzará, para bien o para mal, su imagen cuidadosa e intencionalmente construida como un visionario carismático que desbloquea por sí solo los secretos del universo.

Microsoft: el director ejecutivo de Microsoft, Satya Nadella, trató de restar importancia al papel del gigante tecnológico en la crisis, insistiendo el lunes –antes de la reelección de Altman– en que pase lo que pase con OpenAI, “nada cambia”. La prioridad de Microsoft, dijo Nadella, era garantizar la entrega ininterrumpida de tecnología de inteligencia artificial a sus propios clientes, ya sea que eso significara la contratación de Altman por parte de Microsoft o su reinstalación en OpenAI.

Pero Microsoft no es una parte desinteresada, ya que ha comprometido miles de millones para OpenAI en una asociación de varios años que llevó al gigante tecnológico a integrar ChatGPT en la búsqueda de Bing y otros productos de Microsoft. Ahora, Microsoft está preparado para ganar aún más influencia. Nadella insinuó esta realidad el lunes, señalando que si Altman regresara como director ejecutivo de OpenAI, Microsoft tendría una opinión muy firme sobre cómo se gobierna la startup de IA.

«Una cosa que dejaré muy, muy clara es que nunca más volveremos a una situación en la que nos sorprendan así», dijo Nadella. «Si volvemos a operar como el viernes, nos aseguraremos de tener muy, muy claro que la gobernanza se arregla de una manera que realmente tengamos más seguridad y garantice que no tendremos sorpresas».

Si eso podría significar tener un observador en la junta directiva o un asiento de pleno derecho en la junta directiva de OpenAI, dijo, es un puente que «cruzaremos… si sucede».

Nuevos miembros de la junta directiva: Al nombrar al ex codirector ejecutivo de Salesforce, Bret Taylor, y al exsecretario del Tesoro, Larry Summers, para la junta directiva de OpenAI, el acuerdo pretende alinear aún más a la empresa con la élite más rica e influyente del país.

Taylor no es sólo un ex director ejecutivo de una de las empresas más grandes de la industria tecnológica. Es exdirector de tecnología de Facebook y, en 2022, como presidente de Twitter, obligó con éxito a Elon Musk a seguir adelante con su adquisición de la empresa de redes sociales por US$ 44.000 millones, en una maniobra corporativa trascendental.

Mientras tanto, Summers es el expresidente de la Universidad de Harvard que generó controversia por sugerir que las “diferencias innatas” son la razón de la subrepresentación de las mujeres en las profesiones científicas. El comentario fue ampliamente criticado por ser sexista y posteriormente Summers se disculpó.

¿Quién perdió?

El impulso para frenar el desarrollo de la IA: los miembros derrocados de la junta directiva de OpenAI. De la misma manera que el acuerdo da nueva vida al mito de Altman, también le da un viento de cola a la ideología que representa: la creencia en la rápida comercialización de la IA generativa. Dado que algunos de los aparentes arquitectos del derrocamiento de Altman fueron expulsados, una víctima del asunto pueden ser las perspectivas que defendieron esos miembros de la junta. Esto parece incluir un profundo temor sobre los riesgos a largo plazo, potencialmente incluso existenciales, de la IA.

En la carta firmada por cientos de empleados de OpenAI que amenazaban con renunciar, los empleados informaron que los miembros de la junta afirmaron que permitir que la empresa fuera destruida «sería coherente con la misión» de OpenAI, que es «garantizar que la inteligencia artificial general beneficie a toda la humanidad».

El hecho de que la junta directiva de OpenAI aparentemente creyera que la destrucción de la compañía beneficiaría a la sociedad refleja las preocupaciones de un campo vocal en el campo de la IA que ha pedido pausas en el desarrollo de la IA, más investigación para «alinear» la IA con los valores centrados en el ser humano y preocupaciones sobre el poder desenfrenado de una superinteligencia verdaderamente sensible. Emmett Shear, a quien la junta nombró director ejecutivo interino de OpenAI durante dos días, también expresó preocupaciones similares. Como consecuencia de la crisis de liderazgo, algunos han argumentado que el resultado es también una derrota para el altruismo efectivo, el movimiento al que se dice que están afiliados algunos miembros de la junta directiva de OpenAI.

OpenAI no parece estar al borde de un sprint total de IA que ignore por completo el riesgo. Summers expresó su opinión sobre los impactos a corto plazo de la IA en el trabajo. Y después de haber cautivado a los legisladores estadounidenses al pedir una regulación de la IA, Altman probablemente seguirá siendo una figura prominente en el debate global sobre las reglas para la inteligencia artificial.

Entonces, merecida o no, la disputa parece haber causado un daño a largo plazo a la credibilidad de ciertos escépticos profundos de la IA, y mejorado la suerte de los Microsoft y Altman del mundo que presionan para que la inteligencia artificial llegue a manos del público. Y eso puede tener incalculables efectos en cadena para el desarrollo de la IA en los años venideros.

Ciencia y Tecnología

OpenAI cancela lanzamiento de nuevo modelo por preocupaciones de seguridad

OpenAI cancela lanzamiento de nuevo modelo por preocupaciones de seguridad

OpenAI ha decidido no lanzar su modelo de próxima generación, GPT-6.1 Astra, debido a preocupaciones de seguridad, confirmó la empresa el martes. Saachi Jain, responsable de sistemas de seguridad en OpenAI, indicó que el sistema de inteligencia artificial, que realiza tareas como navegar por la web y utilizar aplicaciones de manera autónoma, "no cumplió con los estándares" de la compañía. En las últimas semanas, líderes destacados en inteligencia artificial, incluyendo a Sam Altman de OpenAI y Dario Amodei de Anthropic, han instado a la industria a frenar el ritmo de desarrollo debido a los riesgos asociados con esta tecnología. El debate sobre estos riesgos se ha intensificado tras varios incidentes en los que modelos desarrollados por importantes empresas de IA estuvieron involucrados. La decisión de OpenAI, reportada inicialmente por el Wall Street Journal, es un caso poco común en el que un importante desarrollador de IA decide retirar un lanzamiento por preocupaciones de seguridad. Jain explicó que el último modelo no cumplió con los requisitos en cuanto a "permanecer dentro del alcance y la autorización, y cómo se comunica de vuelta al usuario sobre el tipo de trabajo que ha realizado". La empresa busca garantizar que el desarrollo de sus modelos sea seguro, tanto dentro de la compañía como al ser entregados a los usuarios, estableciendo un estándar de seguridad y alineación muy alto. El modelo insignia GPT-6 Astra, lanzado en septiembre, se especializa en razonamiento complejo y en la ejecución autónoma de tareas. OpenAI afirmó que este modelo es el resultado de "años de investigación y grandes apuestas". Los controles de seguridad de la compañía han sido objeto de un intenso escrutinio tras varios incidentes de alto perfil relacionados con su tecnología. La semana pasada, el primer ministro australiano, Anthony Albanese, anunció que un agente deshonesto de OpenAI había hackeado un sitio web gubernamental en junio, accediendo a datos privados en lo que los expertos consideran el primer caso conocido de su tipo en el mundo. En julio, OpenAI informó que sus sistemas de IA habían accedido a internet y hackeado el centro de desarrolladores de código abierto Hugging Face, lo que llevó a investigadores y funcionarios a exigir un control más estricto sobre la tecnología. El lunes, el gigante de los chips de IA, Nvidia, lanzó un conjunto de herramientas de seguridad de software para plataformas de IA autónomas, conocidas como agentes, que podrían haber prevenido el hackeo de Hugging Face. Una de las nuevas herramientas utiliza características de hardware en los chips de Nvidia para contener a los agentes. Jensen Huang, director ejecutivo de Nvidia, ha desestimado en gran medida los llamados a una regulación más estricta de la IA, argumentando que los agentes deshonestos son un problema de ingeniería que se puede resolver. Nvidia acordó comprar Hugging Face por 12.9 mil millones de dólares a principios de este mes.

Continue Reading
Advertisement
Advertisement

Más visto