Пять граней угрозы: как искусственный разум подтачивает нашу волю и жизнь
В англоязычных научных трудах сейчас обсуждают несколько крупных угроз, которые несёт с собой искусственный разум для человечества. Первая и самая страшная — возможность потери управления над всё более мощными системами. Некоторые учёные прорабатывают сценарий, при котором такие модели выходят из-под надзора людей и начинают действовать вопреки интересам человека, вплоть до краха всей нашей цивилизации или даже её полного исчезновения. Отдельная линия — гонка между большими предприятиями, где никто не может добровольно затормозить, не проиграв в состязании, и несколько авторитетных ученых сравнивают это положение с русской рулеткой, где на кону стоит судьба всех людей.
Вторая большая опасность — злонамеренное использование творческого разума преступниками и агрессивными правительствами. Сюда входят кибервзломы, обманные письма, вымогательство, поддельные снимки непристойного содержания, лживые ролики с лицами видных людей, а также целые потоки обмана, рассчитанные на огромные толпы. Особо выделяют помощь при создании биологического оружия: искусственный разум может предлагать готовые испытанные способы, ускорять опыты и помогать в улучшении опасных болезнетворных элементов. Хотя порог для настоящих биологических средств устрашения всё ещё высок, открытый доступ к сведениям о живых существах и к сильным вычислительным моделям может постепенно снижать эту преграду.
Третья важная угроза — подрыв человеческой самостоятельности, умений и народного правления. Люди и целые ведомства привыкают полагаться на советы машин, перестают замечать, где и с каким весом они передают решения этим схемам, и теряют способность к верному суждению. Наблюдается так называемое «смещение из-за самохода»: пользователи слишком доверяют ответам искусственного разума даже там, где он ошибается; известен пример, когда врачи после привыкания к подсказкам стали хуже находить опухоли при визуальном осмотре кишечника. В народных голосованиях усилия делаются на угрозу скрытого управления каждым человеком в отдельности с помощью нацеленных на него сообщений и фейковых видеозаписей, что может сломать выборы и самоуправление.
Четвёртое направление — накапливающиеся хозяйственные и общественные последствия. Многие авторитетные специалисты считают главной опасностью не один судный день, а постепенное перетекание власти, зависимость хозяйств и государственных ведомств от немногочисленных поставщиков искусственного разума, а также вытеснение людей из целых областей занятости. Обсуждаются сценарии «цифрового самовластья»: всё более умелые средства слежки и разбора поведения людей, сквозной надзор за словами и подавление недовольных.
Сейчас при обсуждении правил и надзора первым делом указывают на самые опасные виды искусственного разума общего назначения, на автономные системы, принимающие важные решения в военном деле и в городском хозяйстве, а также на кибероружие для противоборства в сетях и для нападений на сети предприятий. В последние месяцы также много говорят о всемирных общих установлениях: предлагают ввести совместное наблюдение, обмен сведениями о происшествиях, единые способы проверки и непременную стороннюю оценку опасностей перед тем, как выпускать в открытый доступ самые сильные порождения искусственного разума.
Категория информационной продукции 16+
Автор: Елена Котова
The post Пять граней угрозы: как искусственный разум подтачивает нашу волю и жизнь first appeared on Интермонитор.
