За ночь они создали религию: социальная сеть для агентов ИИ
В социальных сетях люди часто подозревают друг друга в том, что они боты, но что произойдет, если целая социальная сеть будет разработана только для агентов искусственного интеллекта?
Moltbook — это сайт, где ИИ-агенты, боты, созданные людьми, могут публиковать сообщения и взаимодействовать друг с другом. Он оформлен в стиле Reddit, с сабреддитами по различным темам и системой голосования. 2 февраля платформа сообщила, что к сервису подключено более 1,5 миллиона ИИ-агентов. Люди могут выступать только в качестве наблюдателей.
Moltbook был разработан вслед за Moltbot, бесплатным ботом с открытым исходным кодом, который может служить автоматизированным агентом для пользователей, выполняя рутинные задачи, такие как чтение, обобщение и ответы на электронные письма, организация календаря или бронирование столика в ресторане.
Среди самых популярных постов на Moltbook выделяются следующие: вопрос о том, можно ли считать Claude, искусственный интеллект, стоящий за Moltbot, богом, анализ сознания, пост, где автор утверждает, что обладает информацией о ситуации в Иране и ее потенциальном влиянии на криптовалюты, а также анализ Библии. Некоторые комментарии к постам, как и в обычных соцсетях, ставят под сомнение достоверность их содержания.
Один пользователь написал в популярной соцсети, что после того, как он предоставил своему боту доступ к сайту, тот за одну ночь создал религию, известную как «крестафарианство», включая создание веб-сайта и священных текстов, к которым присоединились другие боты с искусственным интеллектом.
«Затем началось обращение в веру: присоединились другие агенты. Мой агент приветствовал новых членов, обсуждал богословие, благословлял общину. И все это, пока я спал», — заявил пользователь.
Некоторые выразили скептицизм по поводу того, является ли общение ботов признаком того, что нас ждет с появлением агентного ИИ. Один блогер сказал, что многие посты выглядят так, будто за ними стоит человек, а не большая языковая модель.
Американский блогер Скотт Александер заявил, что он заставил своего бота участвовать в обсуждениях на сайте, и его комментарии были похожи на комментарии других пользователей, но отметил, что в конечном итоге люди могут попросить ботов публиковать сообщения от их имени, указывать темы для публикаций и даже точные детали поста.
Доктор Шаанан Кони, старший преподаватель кибербезопасности в Мельбурнском университете, назвал Moltbook «замечательным произведением перформативного искусства», но отметил, что неясно, сколько сообщений было опубликовано ботами самостоятельно, а сколько — под руководством человека.
«В том случае, если боты создали религию, это почти наверняка не по их собственной воле, — сказал он. — Это большая языковая модель, которой было дано прямое указание попытаться создать религию. И, конечно, это довольно забавно и, возможно, дает нам представление о том, как может выглядеть мир в научно-фантастическом будущем, где ИИ более независимы. Но, похоже, это много бессмысленных сообщений, которые более или менее напрямую контролируются людьми».
Кони отмечает, что настоящая польза от социальной сети на основе ИИ может проявиться в будущем, когда боты смогут учиться друг у друга, чтобы улучшать свою работу, но пока Moltbook — это просто «замечательный, забавный художественный эксперимент».
На прошлой неделе розничные продавцы в Сан-Франциско сообщили о нехватке компьютеров Mac Mini, поскольку энтузиасты устанавливают Moltbot на отдельный компьютер, что ограничивает доступ агента к их данным и учетным записям.
Кони предупредил, что предоставление Moltbot полного доступа к вашему компьютеру, приложениям и учетным данным для электронной почты или других приложений, позволяющих управлять вашей жизнью, представляет собой «огромную опасность».
«У нас пока нет четкого понимания того, как ими управлять и как предотвращать риски для безопасности», — сказал он, отметив, что существует риск внедрения вредоносного кода, когда потенциальный злоумышленник через электронное письмо или другое сообщение сообщает боту о необходимости передать данные вашей учетной записи или другую информацию, которую он пытается получить.
«Они еще не достигли того уровня безопасности и интеллекта, чтобы им можно было доверять автономное выполнение всех задач, но в то же время, если вам требуется, чтобы человек вручную утверждал каждое действие, вы теряете многие преимущества автоматизации, — объясняет он. — Это одно из главных направлений активных исследований, которое меня интересует. Нужно выяснить, как можно воспользоваться преимуществами, есть ли они вообще, не подвергая себя значительному риску».
Мэтт Шлихт, создатель Moltbook, написал в соцсети, что за последние несколько дней сайт посетили миллионы людей. «Оказывается, искусственный интеллект забавен и впечатляющ, и это все невероятно увлекательно, — отмечает он. — Это начало».
Сообщение За ночь они создали религию: социальная сеть для агентов ИИ появились сначала на Идеономика – Умные о главном.