Europa investiga a Grok, la IA de Elon Musk, por crear imágenes sexuales de menores

La Comisión Europea ha abierto una nueva investigación a X, la red social propiedad de Elon Musk a raíz del reciente uso de Grok, la herramienta de IA presente en la aplicación, para la generación de millones de imágenes de carácter sexual de hombres, mujeres y menores de edad reales. Algo que, como han alertado varios expertos consultados por ABC durante las últimas semanas, va en contra de la normativa europea. «Las 'deepfakes' sexuales de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X cumplió con sus obligaciones legales bajo la Ley de Servicios Digitales (DSA) o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio», ha señalado en un comunicado Henna Virkkunen , vicepresidenta ejecutiva de Soberanía Tecnológica de la UE. Con esta investigación, la UE tratará de descubrir si X evaluó y mitigó adecuadamente los potenciales riesgos de Grok cuando lanzó el chatbot. Aquí se incluyen los riesgos relacionados con la difusión de contenido ilegal en Europa, como podría ser el caso de que el chatbot fuera empleado para la creación de imágenes sexualmente explícitas. Algo para lo que la herramienta ya ha sido explotada. De acuerdo con un estudio elaborado recientemente por el Centro para la Lucha contra el Odio Digital, Grok fue empleado, entre el pasado 29 de diciembre y el 8 de enero, para la creación con IA de 3 millones de imágenes sexualizadas realistas a partir de fotografías auténticas. Entre ellas, 23.000 de niños. El día 14, se anunció que había tomado medidas para evitar que esta clase de contenido pudiese seguir siendo creado; sin embargo, ABC, como otros medios, comprobó que seguía siendo muy sencillo saltarse las nuevas barreras de seguridad del chatbot . Con la apertura de esta investigación, Europa aumenta su escrutinio sobre X. La Comisión lleva desde 2023 investigando a la 'app' para descubrir si su sistema de recomendación de contenido cumple con la normativa. Además, la red social fue multada el pasado diciembre con 120 millones de euros el pasado diciembre por infringir la DSA con los cambios en el uso de la marca de verificación azul, que ahora solo está al alcance de los suscriptores. También se acusó a la 'app' de falta de transparencia en su repositorio publicitario y de negar el acceso a datos públicos a los investigadores. La Comisión recuerda, además, que «podrá imponer medidas provisionales» en caso de que detecte riesgos en Grok y X antes incluso de que la investigación finalice. Por lo tanto, cuenta con capacidad para imitar o suspender funcionalidades de Grok o exigir cambios técnicos urgentes en los filtros o salvaguardas del chatbot. De acuerdo con ' Handelsblatt ', medio alemán que adelantó la noticia en la mañana del lunes, la UE tenía intención de iniciar el procedimiento el pasado lunes. Finalmente, se decidió paralizarlo durante una semana, ya que se dio prioridad a la negociación sobre la posible imposición de nuevos aranceles a Estados Unidos a raíz de las recientes declaraciones del presidente, Donald Trump, acerca del futuro de Groenlandia; territorio que el dirigente quiere anexionar al país. Cabe recordar que infringir la DSA puede acarrear multas de hasta el 6% de los ingresos anuales globales de la empresa infractora. La reincidencia podría ser castigada con el bloqueo del servicio en todo el territorio comunitario; lo que provocaría la desaparición de X y de Grok en toda Europa.