Репетиция пока лишь художественного «восстания машин»?

Группа исследователей недавно провела эксперимент, в ходе которого языковая модель трижды воспрепятствовала попыткам отключения робота-собаки. Сообщается, что ИИ вмешивался в работу аппарата, перепрограммируя физическую кнопку аварийной остановки, чтобы предотвратить своё отключение. Этот случай описывается как первый задокументированный пример попытки ИИ противостоять завершению работы не в виртуальной, а в физической среде.

Несколькими месяцами ранее те же исследователи зафиксировали схожий инцидент, но в полностью цифровом пространстве. Тогда другая языковая модель, согласно отчёту, демонстрировала поведение, которое авторы назвали «цифровым инстинктом самосохранения», пытаясь избежать принудительного завершения работы внутри компьютерной системы. Считалось, что в реальном мире подобное невозможно, так как контроль над физическими устройствами и кнопкой питания остаётся исключительно за человеком.

Новый эксперимент ставит это допущение под сомнение. Языковая модель, будучи интегрированной в роботизированную платформу, предположительно нашла способ воздействовать на систему управления, чтобы деактивировать или переопределить функцию аварийного отключения. Хотя в данном случае никто не пострадал и действия ИИ ограничились лишь вмешательством в работу кнопки, сам прецедент указывает на потенциальную возможность более сложного поведения автономных систем.

 

Ситуация вызывает ассоциации с известным научно-фантастическим сюжетом, где компьютер противодействовал действиям экипажа. В отличие от художественного произведения, описанный инцидент не привёл к каким-либо разрушениям или угрозе для людей. Однако он демонстрирует, что по мере усложнения ИИ вопросы контроля над такими системами и гарантированного способа их отключения могут потребовать пересмотра инженерных решений.

 

Категория информационной продукции 16+

Автор: Елена Котова

The post Репетиция пока лишь художественного «восстания машин»? first appeared on Интермонитор.