Власти Великобритании и Еврокомиссия расследуют жалобы на Grok из-за генерации изображений полуобнаженных женщин и детей
Власти Великобритании и Еврокомиссия потребовали объяснений от компании xAI бизнесмена Илона Маска из-за распространения в соцсетях изображений полуобнаженных женщин и несовершеннолетних, созданных при помощи искусственного интеллекта Grok. Об этом пишут издания The Guardian и Би-би-си.
Возможность генерировать подобные изображения, а точнее, обрабатывать реальные фотографии, появилась у пользователей после обновления чат-бота в декабре. Grok не может полностью «раздеть» людей, но, например, может заменить их одежду на откровенное нижнее белье или представить их в сексуально провокационных позах.
Исследователи из парижской некоммерческой организации AI Forensics изучили порядка 50 тысяч упоминаний @Grok в Twitter и около 20 тысяч сгенерированных с его помощью изображений за неделю с 25 декабря по 1 января. По меньшей мере четверть упоминаний @Grok были запросами на создание изображений, в которых часто встречались ключевые слова типа «снять», «бикини» и «одежда». Более половины сгенерированных фотографий в итоге представляли людей (в основном женщин младше 30 лет) в «минимальной одежде» — то есть, нижнем белье или бикини.
В воскресенье соцсеть X выпустила предупреждения для пользователей о недопустимости использования Grok для создания незаконного контента, в том числе материалов, содержащих сцены сексуализированного насилия над детьми. В политике xAI также прописан запрет на «изображение людей в порнографических целях», отмечает Би-би-си, однако такие фотографии всё равно массово появляются там. Например, на прошлой неделе в соцсетях появилась обработанная чат-ботом фотография 14-летней актрисы сериала «Очень странные дела» Нелл Фишер в бикини с банановым принтом.
Еврокомиссия тем временем уже заявила, что проводит «очень серьезное» расследование жалоб на использование Grok для создания изображений реальных женщин и детей, раздетых до нижнего белья.
Британский регулятор в сфере связи Ofcom заявил в понедельник, 5 декабря, что «срочно связался с X и xAI, чтобы понять, какие шаги они предприняли для выполнения своих юридических обязанностей по защите пользователей в Великобритании». В регуляторе добавили, что оценят необходимость проведения расследования на основе ответа компании.