Reino Unido prohíbe crear imágenes íntimas con Grok: "Hay vidas devastadas"
En un capítulo más de la polémica surgida tras las quejas sobre Grok, la inteligencia artificial de la red social X, que se ha utilizado para crear y difundir imágenes de personas desnudas y contenido sexualizado, sobre todo de mujeres y menores, el Gobierno de Reino Unido ha anunciado este martes que va a ilegalizar desde este misma semana la generación de imágenes íntimas sin consentimiento.
En una comparecencia ante la Cámara de los Comunes, la ministra de Tecnología británica, Liz Kendall, ha asegurado que se ha comunicado la existencia de imágenes «criminales» de niños de unos 11 años y de niñas y adolescentes sexualizadas, así como de «mujeres en biquini, atadas y amordazadas, con moratones, cubiertas de sangre y mucho más», informa Efe. Y continuó señalando el peligro de esta situación, ya que «hay vidas que pueden y han sido devastadas por este contenido, que está diseñado para acosar, atormentar y violar la dignidad de la gente», ha indicado Kendall.
Este lunes, el regulador británico de seguridad en línea, Ofcom, anunció la apertura de una investigación formal contra X con el objeto de determinar si ha cumplido con sus obligaciones legales en Reino Unido. El pasado día 5, Ofcom contactó a X y fijó de plazo hasta el pasado viernes para que explicara sus medidas para proteger a los usuarios en el país, informó en un comunicado. Tras recibir una respuesta, el regulador decidió abrir la investigación para determinar si X ha evaluado los riesgos de exposición a contenido ilegal, tomando medidas para prevenirlos y protegiendo la privacidad de los usuarios.
En caso de no hacerlo, Ofcom puede exigir medidas correctivas o imponer multas de hasta 18 millones de libras (casi 21 millones de euros) o el 10% de los ingresos mundiales (la cifra que sea mayor) y en situaciones graves solicitar a un tribunal bloqueos de acceso o restricciones a anunciantes y proveedores de pago.
La alarma creada por las «falsificaciones sexuales» de Grok ha llevado a varios países a bloquear la IA de la red social X en los últimos días, entre los que figuran Indonesia o Malasia.
En la UE, la Comisión Europea indicó el viernes que la decisión de restringir el acceso a esta herramienta a los miembros de pago «no cambia nuestra cuestión fundamental», que es la condena a las imágenes sexuales de mujeres y menores desnudas. En este sentido, Thomas Regnier, portavoz de la Comisión, aseguró que este contenido es «ilegal, espantoso y asqueroso», y que Bruselas mantiene abierta una investigación a X sobre el funcionamiento de sus algoritmos, lo que podría llevar a la Comisión a prohibir Grok.
Reacción de la AEPD
Por su parte, la Agencia Española de Protección de Datos (AEPD) ha aseverado que generar una imagen en la que una persona es identificable supone un dato personal, por lo que reenviarla, transformarla o generar contenidos a partir de ella supone un tratamiento de los datos personales. La AEPD ha alertado además de que para las personas afectadas el daño visible de esas manipulaciones puede ser incluso mayor que el de las fotografías reales.
Muchos de los contenidos que se generan con IA son triviales pero la agencia advierte del riesgo "cuando los contenidos atribuyen a una persona hechos, conductas o escenas que en realidad no ocurrieron y que pueden resultar verosímiles, lo que puede afectar de una manera significativa a la reputación, a las relaciones personales o la posición social o profesional de una persona".
La nota destaca que al subir las imágenes a una IA el contenido deja de estar bajo el control del usuario y de la persona que aparece en ella, y es entonces cuando un tercero decide cómo se procesa el archivo, lo que supone la pérdida de control sobre esa imagen.