Знаменитости и ученые высказались против разработки «сверхразума»
Открытое письмо с призывом не разрабатывать сверхразумный ИИ опубликоваланекоммерческая организация Future of Life Institute (FLI). Как пишетTime, его подписали более 700 зарубежныхзнаменитостей, политиков и ученых.
Инициаторы аргументируют запрет тем, что суперинтеллект нельзя создавать,пока не будет уверенности, что это можно сделать безопасно и под контролем, атакже не будет полной поддержки общества.
Против нового «сверхразума» выступили пять нобелевских лауреатов,соучредитель Apple Стив Возняк, советник Папы Римского Паоло Бенанти, актёрыДжозеф Гордон-Левитт и Стивен Фрай, рэпер will.i.am и писатель Юваль Ной Харарии даже сотрудник OpenAI Лео Гао.
В FLI ожидают, что по мере развития кампании к ней присоединятся и другиелюди.
«Будущее искусственного интеллекта должно служить человечеству, а незаменять его», — написал принц Гарри в сообщении, сопровождавшем егоподпись.
Авторы инициативы опасаются того, что ИИ, который может появиться уже черезпару лет, обгонит человека по всем показателям.
Единственное, что может остановить процесс — это «всеобщее осознание вобществе на всех уровнях того, что на самом деле мы этого не хотим». Такизданию сказал исполнительный директор FLI Энтони Агирре.
«Время на исходе», — считает глава компании.
Организаторы к публикации письма добавили результаты опроса. Оказалось, что64% американцев считают, что сверхразум развивать еще рано. С ними не согласнытолько 5% опрошенных.
Подобное письмо организация публиковала в 2023 г. Оно получило широкоеобсуждение в обществе, но результата не принесло.