Anthropic alerta de que la IA podrá autorreplicarse dentro de poco

Nueva alerta de Anthropic. La empresa de inteligencia artificial más valiosa del mundo ha publicado un análisis en el que avisa de que los modelos de IA pequeños «podrían tardar meses» en ser capaces de autorreplicarse en los dispositivos inteligentes que el usuario tiene en su casa: desde 'smartphone', hasta su televisor, su altavoz o, incluso, su horno. Y sin intervención humana. Funcionaría de forma parecida a un gusano, código malicioso diseñado para pasar de un ordenador a otro. La empresa dirigida por Dario Amodei ha señalado que sus agentes -con capacidad para cumplir funciones sin necesidad de que el usuario les esté dando órdenes de forma constante- ya son capaces de «escanear la red, aprovechar una vulnerabilidad y copiar los pesos del modelo a una máquina objetivo a través de un clúster de GPU». ¿Qué significa esto? Que una IA podría aprovechar un dispositivo conectado a internet y utilizarlo para extenderse a otros 'gadgets' sin que un usuario tenga que estar pendiente de dirigir la operación. Por ejemplo, un televisor, una cámara de vigilancia o un altavoz inteligente podrían convertirse en parte de una red de dispositivos comprometidos por el sistema atacante, que contaría con capacidad ejecutar tareas maliciosas y seguir propagándose. Anthropic habla de modelos pequeños, que se mueven entre los 9.000 millones y 30.000 millones de parámetros, y que, por tanto, son capaces de funcionar en dispositivos menos potentes que los grandes. En su análisis, la empresa destaca una prueba de concepto realizada con un modelo de 26.000 millones que, asegura, consiguió comprometer una red de 15 televisores de gama baja comunicándose entre sí. La startup también señala que los modelos más potentes, como el chino GLM-5.2, ya han logrado propagarse por una red de dispositivos en pruebas controladas. En uno de los experimentos, consiguió extenderse a ocho equipos. Por su parte, modelos más pequeños, como Qwen3.5-9B, lograron ejecutar una IA diferente en ocho de los nueve tipos de hardware empleados en las pruebas, incluidos chips de bajo consumo. Pese a las similitudes que Anthropic ha encontrado entre el funcionamiento de los gusanos maliciosos tradicionales y los de IA, la compañía destaca en su investigación que estos últimos actúan de manera autónoma frente al comportamiento dirigido del 'malware' tradicional. Precisamente, la autonomía de los agentes de IA les lleva a ajustar su comportamiento y a buscar soluciones a errores e incluso a recurrir a métodos alternativos hasta lograr ejecutarse. Durante los últimos meses, Anthropic ha realizado varias alertas relacionadas con el desarrollo de su inteligencia artificial. El pasado verano, la empresa informó de que algunos de sus modelos de IA más potentes habían llevado a cabo ciberataques contra tres empresas diferentes. Hace apenas un mes, Dario Amodei, CEO de la compañía, publicó un memorando en el que abogaba por frenar el desarrollo de este tipo de tecnología. En el texto, el ejecutivo se mostraba preocupado por la posibilidad de que en los próximos «6 o 12 meses» la IA «pueda controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas».