Reino Unido urge a Musk a tomar acciones para frenar imágenes sexuales falsas de niños en X
La ministra de Tecnología del Reino Unido, Liz Kendall, ha pedido este martes al magnate tecnológico Elon Musk y su red social X tomar acciones urgentes para frenar el uso de Grok, la inteligencia artificial de la plataforma, que en los últimos días ha sido utilizada para crear imágenes "deepfake" sexualizadas de menores.
Kendall se suma así al llamamiento del regulador de comunicación británico (Ofcom), que expresó este lunes "serias preocupaciones" sobre una de las funciones de Grok que generaba "imágenes de personas con poca ropa e imágenes sexualizadas de niños".
Hace solo unos días estallaba la polémica por un tweet viral publicado en la red social X en la que un usuario pedía a Grok una imagen de Holly Wheeler en bikini, la pequeña que es uno de los personajes protagonistas de la última temporada de la serie Stranger Things. Nell Fisher, la actriz que interpreta el personaje, tiene solo 14 años de edad. Tras este suceso, el propio Elon Musk tuvo que advertir que cualquier usuario que use Grok para crear contenido ilegal o X para publicar contenido ilegal "tendrá las mismas consecuencias que si hubiera subido contenido ilegal".
"Lo que hemos visto en línea en los últimos días ha sido absolutamente espantoso e inaceptable en una sociedad decente. Nadie debería pasar la experiencia de ver 'deepfakes' íntimos suyos en internet", dijo Kendall en un comunicado difundido por medios británicos.
"No permitiremos la proliferación de estas imágenes humillantes y degradantes que se dirigen de manera desproporcionada a las mujeres y las niñas. X debe abordar esta cuestión con urgencia", añadió la ministra, que reiteró su apoyo a Ofcom ante posibles medidas coercitivas que pueda considerar necesarias contra la red social.
Una publicación en la cuenta de Grok en X admitió que existían casos "aislados" en los que los usuarios generaron imágenes de inteligencia artificial en las que aparecían "menores con escasa ropa" y agregó que estaba trabajando para bloquear este tipo de peticiones por completo.
En este sentido, Kendall reiteró la obligación de los operadores de actuar adecuadamente y recordó que, bajo la reciente Ley de Seguridad en Internet ("Online Safety Act") británica, los delitos como el abuso de imágenes íntimas y el ciberexhibicionismo están tipificados, aunque estén hechos con IA, y las plataformas deben evitar su publicación o eliminarlas con rapidez si aparecen.