Чат-бот Grok больше не сможет «раздевать» людей после давления регуляторов. Компания обновила правила генерации изображений

Чат-бот Grok больше не сможет «раздевать» изображения реальных людей после многочисленных жалоб пользователей и начатых расследований в Великобритании и Евросоюзе на массово сгенерированные полуобнаженные фото женщин и детей. Об этом говорится в заявлении xAI.

В сообщении, опубликованном в среду вечером, говорится, что создатели чат-бота «приняли меры, чтобы Grok не позволял редактировать изображения реальных людей и изображать их в откровенной одежде, такой как бикини». Эти ограничения будут распространяться на всех пользователей, включая платных подписчиков:

«Мы принимаем меры по удалению контента, представляющего высокую опасность, включая материалы с сексуализированным насилием над детьми и несогласованную наготу, и принимаем соответствующие меры в отношении учетных записей, которые нарушают наши правила», — заверили в компании.

Возможность генерации и редактирования изображений также оставили только по подписке.

Возможность обрабатывать реальные фотографии и «раздевать» изображенных людей до нижнего белья появилась у пользователей после обновления чат-бота в декабре. После критики со стороны Еврокомиссии и британского регулятора Ofcom для создания и редактирования изображений в Grok начали требовать платную подписку — изначально эти функции были бесплатными с дневным лимитом.

На этом фоне Илон Маск пообещал открыть код алгоритма рекомендаций Twitter (X) и обновлять его каждый месяц.

В начале этой недели, 12 января, британский медиарегулятор Ofcom начал расследование в отношении социальной сети Twitter (X). Там допустили, что сгенерированные Grok фото полуобнаженных реальных людей могут быть квалифицированы как злоупотребление интимными изображениями или порнография, а в случае с несовершеннолетними — сексуализированное насилие над детьми.