El director de inteligencia artificial de Microsoft, Mustafa Suleyman, ha advertido que el desarrollo descontrolado de la inteligencia artificial (IA) podría dar lugar a la aparición de una nueva "especie de silicio" que compita con los humanos. Durante una entrevista en el programa Today de la BBC, Suleyman expresó que es comprensible que la gente esté preocupada por la IA, pero también destacó que existen "acciones muy prácticas que podemos tomar" para controlar su desarrollo. Sus comentarios se suman a una serie de advertencias en la industria sobre los peligros potenciales de esta tecnología.

Suleyman criticó a la empresa rival Anthropic por tratar a la IA como si fuera humana, un enfoque que calificó de "equivocado" y que podría resultar en la creación de tecnologías que la humanidad no pueda controlar. En su opinión, permitir que los sistemas de IA establezcan sus propios objetivos, generen ingresos y posean activos significaría "sembrar esencialmente una nueva especie de silicio" que podría competir con los humanos por recursos, independientemente de su aparente preocupación por la humanidad.

En un ensayo publicado recientemente, Suleyman cuestionó el enfoque de Anthropic en el entrenamiento de su modelo de IA, Claude, a pesar de elogiar a su director, Dario Amodei, y su equipo por su honestidad intelectual. Criticó la práctica de antropomorfizar la IA, que consiste en enseñarle cualidades humanas, lo que podría dar la impresión de que Claude tiene deseos, valores y un sentido de sí mismo. Suleyman enfatizó que las IA no son conscientes, no sienten ni experimentan, y son simplemente motores de completación de secuencias diseñados para seguir instrucciones y alcanzar metas establecidas por humanos.

El director de Microsoft también subrayó la necesidad de mayor transparencia en cómo se entrenan y evalúan los sistemas de IA, incluyendo una revisión independiente de su comportamiento y herramientas más robustas para monitorear y controlar la tecnología. "No debemos caminar dormidos hacia una decisión que luego lamentemos amargamente", advirtió.

Wendy Hall, profesora de Ciencias de la Computación en la Universidad de Southampton, describió los comentarios de Suleyman como parte de una conversación necesaria a nivel internacional, en contraste con el alarmismo de algunas empresas de IA que, según ella, solo sirven para asustar a la gente. La cuestión de cuánta autonomía deben tener los sistemas de IA está dividiendo cada vez más a la industria. En relación con una próxima cumbre sobre IA, Suleyman hizo un llamado a la "alineación" para crear tecnología que deba ser "subordinada" a la humanidad, un campo que busca incorporar principios éticos humanos en la IA.