Reino Unido ilegalizará la generación de imágenes íntimas tras escándalo con la IA Grok

"No son imágenes inofensivas. Son armas de abuso, dirigidas desproporcionadamente hacia mujeres y niñas, y son ilegales", dijo en una comparecencia ante la Cámara de los Comunes (baja) del Parlamento británico la ministra de Tecnología del Reino Unido, Liz Kendall.

Ilegalización entra en vigor esta semana

La titular laborista explicó que la ley de Uso y Acceso de Datos aprobada el año pasado ya tipificaba la creación o petición de generación de imágenes íntimas sin consentimiento como un delito penal, pero anunció que su cumplimiento entraría en vigor esta semana y también criminalizará a las aplicaciones que permiten la desnudez, para atajar el problema desde su origen.

La medida llega después de que el regulador de comunicaciones británico (Ofcom) expresase "serias preocupaciones" sobre una de las funciones de Grok que permitía a los usuarios generar "imágenes de personas con poca ropa e imágenes sexualizadas de niños".

Reportes de imágenes "criminales" de mujeres y menores sexualizados

Kendall aseguró que existían reportes de imágenes "criminales" de niños de unos 11 años y de niñas y adolescentes sexualizadas; así como de "mujeres en bikini, atadas y amordazadas, con moratones, cubiertas en sangre y mucho más".

"Hay vidas que pueden ser y han sido devastadas por este contenido, que está diseñado para acosar, atormentar y violar la dignidad de la gente", continuó.

Multas de hasta 18 millones de libras

Este mismo lunes, Ofcom abrió una investigación formal contra la red social X para determinar si ha cumplido con las obligaciones legales en el Reino Unido tras la circulación de imágenes sexualizadas, incluso de menores.

En caso de incumplimiento, el regulador puede exigir medidas correctivas o imponer multas de hasta 18 millones de libras (casi 21 millones de euros) o el 10 % de los ingresos mundiales -la cifra que sea mayor-, y en situaciones graves solicitar a un tribunal bloqueos de acceso o restricciones a anunciantes y proveedores de pago.

Grok, bloqueado en Malasia e Indonesia y denunciado en Francia

También Malasia informó que emprenderá acciones legales contra la red social X por falta de seguridad del chatbot integrado en la plataforma, Grok, tras la circulación de "imágenes obscenas" y "sexualmente explícitas" creadas con esta herramienta de inteligencia artificial (IA), bloqueada en el país.

"Se han designado abogados y los procedimientos legales se iniciarán en breve", afirmó en un comunicado la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), que anunció los pasados días el bloqueo del acceso a Grok en la nación por el mismo motivo.

Según el organismo, el proceso legal incluye también acciones contra xAI ('start-up' de IA de Elon Musk detrás de Grok) y se inicia después de que las autoridades malasias pidieran a X y xAI "la eliminación del contenido ofensivo", sin que estas tomaran "ninguna medida correctiva".

La MCMC ha identificado el "uso indebido de Grok para generar y difundir contenido dañino", incluidas "imágenes obscenas, sexualmente explícitas, indecentes, extremadamente ofensivas y manipuladas sin consentimiento".

Malasia se suma así a varios países que revisan el funcionamiento de la herramienta de IA, entre ellos, se cuentan Francia e Indonesia, además del Reino Unido.

Francia ha presentado una denuncia contra Grok por crear y divulgar "contenidos de carácter sexista y sexual". Mientras Indonesia anunció el sábado una restricción de acceso al chatbot por la creación de imágenes "indecentes, groseramente ofensivas y no consensuadas, incluyendo contenido que involucra a mujeres y menores".

X limitó el viernes a usuarios de pago el uso de Grok para edición de imágenes, tras una oleada de denuncias y quejas motivada por la manipulación de fotografías de personas, desnudándolas sin consentimiento, a petición de usuarios.