OpenAI отложила запуск эротического чат-бота на неопределенный срок

OpenAI решил внимательно изучить, как на человека будут влиять эротические переписки с языковой моделью. В компании разгорелись сильные дискуссии об этической допустимости такого функционала

Компания OpenAI, разработавшая ChatGPT, перенесла релиз «взрослого режима» в чат-боте на неопределенный срок на фоне внутренних дискуссий о возможности вообще отказаться от этой модели, сообщает Financial Times со ссылкой на несколько источников. В компании подтвердили изданию этот факт.

«Взрослый режим» в ChatGPT, который был анонсирован компанией в прошлом году, столкнулся с опасениями, что такая функция поспособствует формированию нездоровой привязанности к системам искусственного интеллекта и окажет нездоровое влияние на детей и подростков.

В OpenAI объяснили, что намереваются провести долгосрочные исследования влияния общения с чат-ботом соткровенно сексуальным контентом, прежде чем принимать решение о выпуске такого продукта.

Сотрудники компании выражали тревогу тем, что выпуск эротического ИИ будет противоречить миссии OpenAI создать ИИ, которыйбы приносил пользу всему человечеству.

«Искусственный интеллект не должен заменять вам друзей или семью; у вас должны быть человеческие связи»,— заявил FT один бывший высокопоставленный сотрудник OpenAI. Он пояснил, что уволился отчасти по этой причине.

Чат-бот научился говорить на взрослые темы в октябре прошлого года, однако само нововведение планировалась запустить в декабре при появлении возрастных цензов в ИИ. О принципе «относитесь ко взрослым пользователям как ко взрослым» гендиректор OpenAI Сэм Альтман писал в X. «В декабрепо мере более полного внедрения возрастных ограничений и в рамках нашего принципа «относитесь ко взрослым пользователям как ко взрослым», мы разрешим еще больше, например, эротический контент для верифицированных взрослых»,— заявил он тогда.

Недавно компания закрыла приложение Sora— генератора ИИ-фото и видео. На такой шаг OpenAI пошла после заключения сделки с Disney, Согласно их договору, Disney проинвестирует в стартап $1 млрд в обмен на разрешение своим персонажам появляться в Sora. Тем не менееконтракт был разорван по инициативеOpenAI.

Компания вышла из сделки, так как контент Disney в Sora пользовался низким спросом. В декабре прошлого года Альтман призвал сотрудников сосредоточиться на основных приоритетах, включая конкуренцию с Anthropic за бизнес-клиентов, рассказала The Financial Times.

Оставайтесь на связи с РБК в Max.

Запись OpenAI отложила запуск эротического чат-бота на неопределенный срок впервые опубликована на сайте Про технологии.