Anthropic crea una IA tan peligrosa que teme ponerla en manos de los usuarios

La empresa de IA Anthropic ha creado la herramienta de inteligencia artificial generativa más potente que hay en el mercado. Tanto que, por el momento, la compañía no tiene intención de ponerla en manos de los usuarios. ¿Su nombre?: Claude Mythos Preview . ¿Qué hace?: Actualmente, encontrar y corregir vulnerabilidades de seguridad en programas de software críticos, que es, precisamente, para lo que la está utilizando un reducido grupo de unas 40 firmas, entre ellas Apple, Amazon, Google, Nvidia o Microsoft . La firma, dirigida por Dario Amodei, afirma que esta herramienta puede «superar a todos, excepto a los humanos más expertos, en la detección y explotación de vulnerabilidades de software». Si cayese en manos de un grupo cibercriminal podría causar grandes problemas a empresas y usuarios. «Dado el ritmo de avance de la IA, no pasará mucho tiempo antes de que estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura. Las consecuencias para la economía, la seguridad pública y la seguridad nacional podrían ser graves», destacan desde la empresa. Anthropic apunta que Claude Mythos Preview ya ha detectado miles de vulnerabilidades «de alta gravedad» , incluyendo algunas en los principales sistemas operativos y navegadores web. Por ejemplo, descubrió un fallo de seguridad de 27 años de antigüedad en OpenBSD, uno de los sistemas operativos más seguros del mundo. La IA también encontró varias vulnerabilidades en el núcleo de Linux , software de código abierto que ejecuta la mayoría de los servidores del mundo. A través de ellas, un cibercriminal podría pasar de tener un acceso básico como usuario normal a tomar el control total del sistema, como si fuera el administrador. La herramienta de Anthropic ya está despertando preocupación fuera del seno de la compañía. Según el ' Financial Times ' los reguladores financieros británicos están manteniendo conversaciones con la agencia gubernamental de ciberseguridad de Reino Unido y sus principales bancos para evaluar los riesgos que plantea Claude Mythos Preview. Mientras tanto, ' Bloomberg ' señala que, en Estados Unidos, el secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron la semana pasada a ejecutivos de varios bancos para animarlos a que comenzasen a utilizar la herramienta de Anthropic; algo que ya están haciendo algunos como JP Morgan Chase . Esto resulta especialmente sorprendente, ya que actualmente la empresa de IA se encuentra en la lista negra de empresas del gobierno norteamericano tras negar al Pentágono el uso de su tecnología para el desarrollo de armamento autónomo y sistemas de vigilancia que serían empleados a nivel nacional.