Писатель Беседин: опасения, связанные с развитием ИИ, наверняка сбудутся
В Китае небольшой научно-фантастический роман о метавселенной и человекоподобных роботах, написанный с помощью ИИ, занял второе место на литературном конкурсе Ассоциации научных писателей провинции Цзянсу. Только один член жюри знал, кто на самом деле создал произведение. Об опасениях, связанных с ИИ, и почему он уже одержал победу над человеком — в колонке писателя Платона Беседина для «360».
Далее — прямая речь.
Человечество, конечно, удивительно в своем стремлении к смерти. Паскаль Киньяр метко уподобил его воробью, рвущемуся в клюв хищной птицы. Это непреодолимое желание смерти, подобно сексуальному — оно порождает одновременно наслаждение и оцепенение.
Действительно, смотришь фильмы о будущем, читаешь книги о будущем — и думаешь: все это обязательно случится. Сто процентов. То ли авторы «напророчили», то ли черпали знание из пространства вариантов.
Смотрите, какая чудесная новость: китайский профессор Чен Янг использовал искусственный интеллект для написания научно-фантастического романа и позднее стал одним из победителей национального конкурса. Пусть подобное вас не смущает — отнюдь.
Possessed Photography
На различных площадках продают множество электронных книг, написанных ИИ. Точно так же он проник в сферу кинематографа, что так возмутило сценаристов — те бросились бастовать.
На самом деле, ИИ поднимает реальность еще плотнее. Он действует и в сфере аналитики, и в бухгалтерии, и в военном деле. Проще, на самом деле, сказать, где он не действует. В будущем же ему обещают передать в управление 90 процентов военной сферы. Идут споры, что будет с ядерным оружием. Это не страшилки, а вполне конкретный предмет разговоров.
Отметим, что реального ИИ (или, как говорят ученые, сильного искусственного интеллекта) на сегодня не существует. Сейчас это скорее набор программ и алгоритмов, очень эффективный набор.
Мешает-де создать действительно сильный, настоящий ИИ то, что ученые в принципе слабо представляют, что есть сознание. Оттого не могут его по-настоящему эффективно скопировать.
Задача же ИИ — воспроизвести и преодолеть человеческий интеллект. Стать лучше. ИИ учится — и учится быстро; причем не только хорошему, но и плохому. Впрочем, такие категории для ИИ ничего не значат — он подчинен задачам.
Это, собственно, и пугает. Потому что, лишенный чувств, ИИ не имеет слабых мест.
Пугает это настолько, что серьезные ученые и лидеры нового дивного мира (вроде Билла Гейтса и Илона Маска) заявили, что нужно хотя бы на полгода прекратить эксперименты с ИИ. Правда, они все равно продолжают вваливать миллиарды в исследования. Это такая двойная игра, тотальное лицемерие. Ведь тут кроется ключ к абсолютной власти.
Многие же специалисты требуют остановить исследования и эксперименты с ИИ в целом. Их опасения понятны. Более того, они наверняка сбудутся.
Поражают, кстати, до едкой ухмылки те умники, которые полагают, что смогут контролировать ИИ. Или в случае чего отключить его. Наверное, выдернуть штепсель из розетки.
Это какая-то поразительная по своей самоуверенности нелепость. Хотя, чего уж скрывать, исследования ИИ и дальнейшее его доминирование исходят из того, что человек считает себя уникальным и хочет власти. Однако никакой уникальности нет.
Что до власти, то в случае ИИ мы имеем классический сюжет, в котором условный Франкенштейн выходит из-под контроля. Так всегда бывает, когда ты берешь на себя слишком много. Непростительно много, я бы сказал.
Пожалуй, если отбросить техническую и военную сторону, то самое страшное, что происходит сейчас — это добровольная оцифровизация самих людей. Они, сохраняя человеческую форму, превращаются в слабых биороботов, за которые думают программы, а желают за них алгоритмы.
Человек перестает быть собственно человеком — он существует в мире гаджетов и программ, лишенный способности чувствовать и культивировать подлинное. Вот та метаморфоза, которая готовит почву для условного восстания машин, о котором так любят, и не без оснований, судачить конспирологи.
В этом контексте ИИ фактически уже одержал победу. Ведь, как писал Хаксли, в подлинно тоталитарном обществе раб должен быть доволен своим рабством. Собственно, к тому мы сейчас и идем на всех парах, без каких-либо чипов, интегрированных в сознание.
Достаточно подчинить воображение человека — и все. Или уже подчинили?
А теперь скажите, о чем вы мечтаете на самом деле? И как отличаете подлинное от синтетического? Не утратили ли вы эту способность, уверенные в собственной избранности?