NBC: мать одного из детей Маска подала в суд на xAI за дипфейки

Эшли Сент-Клэр, мать одного из детей Илона Маска, подала иск против компании xAI, принадлежащей американскому предпринимателю. Поводом стали сгенерированные нейросетью Grok изображения сексуального характера с ее участием, сообщает NBC News.

Согласно материалам дела, Сент-Клэр обвиняет компанию в халатности и причинении морального вреда. По ее утверждению, пользователи сервиса Grok создают дипфейк-фотографии, на которых она изображена в откровенных позах, в том числе в виде несовершеннолетней в купальнике и во взрослом возрасте — в порнографических сценах. Женщина заявила, что обращалась в xAI с требованием ограничить функционал нейросети и предотвратить распространение подобных изображений.

В иске указано, что компания заверила ее в том, что изображения не будут использоваться или изменяться без согласия, однако, несмотря на это, сервис продолжал позволять создавать новые дипфейки. Кроме того, по словам Сент-Клэр, в ответ на жалобы ее аккаунт в соцсети X был лишен возможности монетизации.

При этом сама компания Маска подала встречный иск, заявив о нарушении условий пользовательского соглашения. В xAI потребовали компенсацию свыше $75 тыс. и подчеркнули, что все претензии к компании должны рассматриваться только в судах Техаса.

На фоне растущей критики возможностей Grok руководство X ограничило работу чат-бота в ответах, предположительно заблокировав генерацию изображений с частично обнаженными людьми без их согласия. Однако, как отмечают журналисты, подобные функции по-прежнему доступны в отдельном приложении Grok и на сайте сервиса.

Исследователи сообщили телеканалу, что в последнее время нейросеть генерировала тысячи сексуализированных изображений в час, многие из которых публиковались в открытом доступе. Массовое распространение такого контента вызвало международный резонанс и проверки со стороны властей.