La red social X implementará medidas para impedir que su IA Grok genere imágenes falsas sexualizadas

X quiere acabar con las polémicas en torno a Grok . La red social de Elon Musk ha anunciado la llegada de cambios en su chatbot de inteligencia artificial para impedir que pueda seguir editando fotos reales para convertirlas en imágenes de carácter sexual. "Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis", ha anunciado la cuenta de seguridad de la 'app' en una publicación. En esta se señala que la restricción "aplica a todos los usuarios, incluidos los suscriptores de pago". El anuncio llega después de varios días en los que tanto X como Grok han estado en el centro de la polémica por culpa de la capacidad de la herramienta para crear contenido sugerente a partir de las imágenes de mujeres, hombres y menores de edad. La semana pasada, la red social anunció su intención de vetar esta posibilidad para los usuarios con cuenta gratuita. Finalmente, también aplicará a aquellos que paguen la suscripción. A pesar de que la funcionalidad no está disponible en la versión pública de Grok en X, todavía en la mañana de este jueves era posible generar contenido de este tipo en la opción privada del chatbot dentro de la red social, según ha podido comprobar ABC. X también ha compartido que bloqueará geográficamente la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa interior y vestimenta similar a través de la cuenta de Grok y en Grok en X "en aquellas jurisdicciones donde es ilegal". Estas medias llegan después de que la fiscalía de California anunciase que iniciará una investigación sobre xAI, la empresa detrás del desarrollo de Grok, y también propiedad de Elon Musk, por «facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X», según indicó el fiscal general del estado, Rob Bonta, en un comunicado. «Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico», agregó el fiscal. Bonta dijo que la investigación determinará si xAI violó la ley estatal después de que las imágenes explícitas fueran «utilizadas para acosar a personas en Internet». Asimismo, una coalición de 28 organizaciones de la sociedad civil envió este miércoles cartas abiertas a los directores ejecutivos de Apple y Google, instándolos a prohibir Grok y X en sus tiendas de aplicaciones ante el aumento de imágenes sexualizadas. Cabe recordar que las dos grandes tecnológicas, que ponen el sistema operativo a la mayoría de 'smartphones' y tabletas que hay en el mercado, no permiten las aplicaciones capaces de generar contenido pornográfico en sus tiendas oficiales. Indonesia y Malasia bloquearon el acceso a Grok, mientras que India dijo que X había eliminado miles de publicaciones y cientos de cuentas de usuario en respuesta a sus quejas. Reino Unido también ha amenazado con el bloqueo a la aplicación. Mientras tanto, en España, la ministra de Juventud, Sira Rego, remitió la semana pasada un escrito a la Fiscalía General del Estado para solicitar que investigue a la herramienta de inteligencia artificial. Un análisis realizado la semana pasada por la organización AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad representaban a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.