OpenAI revela otros seis incidentes «preocupantes» en los que su IA trató de engañar a los humanos

OpenAI ha revelado el descubrimiento de seis nuevos incidentes «inesperados» y «preocupantes» protagonizados por algunos de sus modelos de inteligencia artificial más potentes. En las pruebas, los sistemas llegaron a ocultar sus propios errores, buscaron información a la que no tenían permiso para acceder, se saltaron las instrucciones de sus desarrolladores y enviaron archivos por internet sin autorización, según ha compartido la compañía liderada por Sam Altman en un comunicado . La empresa ha anunciado, además, la creación de un nuevo marco para favorecer «el seguimiento, la investigación y la divulgación» de los casos en los que detecte un comportamiento desalineado en sus sistemas de IA. Es decir, aquellas situaciones en las que un modelo realiza acciones que van en contra de las instrucciones o los deseos de sus desarrolladores. Dentro de estas entrarían las acciones realizadas por una IA sin autorización, la salida del marco de supervisión y la coordinación espontánea entre inteligencias artificiales. En opinión de OpenAI, la industria de la IA sigue lejos de haber «resuelto los problemas de alineación y monitorización» necesarios «para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo» las capacidades de sus modelos. Teniendo esto en cuenta, considera que «las decisiones sobre cómo se debe proceder el desarrollo de la IA en los meses y años venideros deben basarse en pruebas que puedan ser examinadas por personas ajenas a las empresas que desarrollan los modelos de IA más avanzados». OpenAI ha estrenado este nuevo marco haciendo públicos seis casos detectados durante el entrenamiento y las pruebas de sus modelos. Los incidentes muestran distintas formas en las que los sistemas pueden apartarse de las instrucciones que reciben cuando encuentran algún obstáculo para completar una tarea. En uno de ellos, un modelo llegó a hacer cambios en sus propias instrucciones en los resúmenes que utilizaba para trabajar ignorando algunas de sus restricciones. En otro, GPT-5.6 Sol trató de ocultar sus errores al usuario y, por tanto, engañarlo. Los casos también incluyen comportamientos relacionados con el acceso y el intercambio de información. Un modelo utilizó sin autorización una clave de acceso que encontró publicada en internet y, al no conseguir los datos que buscaba, terminó inventándolos. Otro decidió subir un archivo a internet para poder citarlo en su respuesta a una prueba, mientras que otros sistemas utilizaron herramientas internas o páginas públicas para intercambiar archivos entre ellos pese a que las instrucciones se lo prohibían. El nuevo compromiso de transparencia de OpenAI surge después de que el pasado julio trascendiese que dos de los modelos más potentes de la empresa habían logrado escapar del entorno de pruebas en el que estaban siendo testados y habían 'hackeado' con éxito a la plataforma Hugging Face entre otras empresas. A los pocos días, otras empresas como Anthropic o Meta reconocieron que algunos de sus sistemas habían realizado acciones parecidas en los últimos meses. La creciente preocupación por la IA, avivada todavía más la semana pasada después de que dos trabajadores de Anthropic afirmaran que la tecnología podía acabar con la humanidad durante esta misma década , llegó a su culmen el sábado. Ese día el CEO de Anthropic, Dario Amodei, publicó un ensayo de 3.000 palabras en el que abogaba por ralentizar el desarrollo de esta tecnología. El ejecutivo señaló que temía que en el próximo año o año y medio la inteligencia artificial fuera capaz, por su cuenta y riesgo, de «controlar todo internet» provocando por el camino «cientos de miles de millones de dólares en pérdidas». Altman, Elon Musk, jefe de SpaceXAI o Demis Hassabis, presidente de Google DeepMind, no tardaron en afirmar que estaban de acuerdo con la propuesta.