«Цифровая инквизиция», или Как искусственный интеллект вытесняет человеческий разум

В конце февраля министр юстиции и генпрокурор Канады Ариф Вирани (Arif Virani) представил в парламент законопроект, получивший известность как Bill C-63, или «Закон о вреде в Интернете». В качестве обоснования необходимости принятия этого закона используется стремление запретить детскую порнографию и оградить детей от информации, которая может побудить их нанести себе вред. Кроме того, указывается потребность противодействия терроризму, сегрегации, расизму и иным проявлениям ненависти. Понятно, что не найти нормального человека, кто посчитал бы это неверным. Нюанс, однако, заключается в том, что все перечисленные деяния уже определены не просто как противоправные, но уголовно наказуемые, что подтверждают соответствующие статьи уголовного кодекса. Намерение ужесточить наказание за подобные преступления, равно как привлечение к ответственности провайдеров и владельцев хостингов, предоставляющих площадки за распространение запрещенного контента, тоже не вызывает в обществе возражений. Отчего тогда возникли жаркие дискуссии? Почему лидер оппозиционной консервативной партии Пьер Пуальевр заявил, что будет выступать против закона, обвинив правительство в использовании проблемы для законодательного введения цензуры и ущемления свободы слова?

Министр юстиции и генеральный прокурор Канады Ариф Вирани

Причина в том, что под категорию «распространение ненависти в Интернете» легко можно подвести очень многое. Так, под термином «контент, разжигающий ненависть» понимается все, что «выражает отвращение или очернение отдельного лица или группы лиц по запрещенному признаку дискриминации и, учитывая контекст, в котором он передается, может вызвать отвращение или очернение отдельного лица или группы лиц по такому запрещенному признаку». Такое размытое и расширительное толкование позволит между тем применять наказание вплоть до пожизненного лишения свободы. 

В случае принятия законопроекта предполагается внесение поправок и дополнений в уголовный кодекс. К примеру, «новое отдельное преступление на почве ненависти, которое будет применяться ко всем правонарушениям в уголовном кодексе и в любом другом акте парламента, позволяя наказывать вплоть до пожизненного заключения для осуждения и сдерживания этого вызывающего ненависть поведения как преступления самого по себе» – указано в пояснительной записке. Если суд примет решение о наличии «обоснованных подозрений», к обвиняемому могут быть применены следующие меры: 

• домашний арест с ношением браслета;

• запрещение употреблять алкоголь или наркотические вещества с обязательной сдачей проверочных тестов (анализы крови и мочи);

• запрет на общение с определенными лицами или посещение определенных мест;

• изъятие официально зарегистрированного огнестрельного оружия.

Получается, что человека могут лишить свободы на срок до двух лет или подвергнуть иным ограничениям на основании лишь подозрений, что он/она может совершить «преступление на почве ненависти». 

Согласно действующему законодательству, попытки оправдать геноцид являются уголовным преступлением. Критики законопроекта спрашивают: если на демонстрациях или в интернете звучит «Палестина будет свободной», является ли это призывом к геноциду евреев? Авторы законопроекта считают, что да, и ссылаются при этом на «прецедентное право» – судебные решения в Эстонии, Чехии и Германии. К слову, и в самой Канаде уже был случай, когда житель Калгари был оштрафован полицией за подобную фразу.

Особо острые дискуссии вызвали предлагаемые поправки в закон о правах человека, и в частности – создание специального трибунала, куда любой сможет подавать жалобы на «размещение разжигающих ненависть высказываний в Интернете» по отношению к таким категориям, как пол, раса, инвалидность и другие. При этом достаточно, чтобы заявитель «почувствовал себя жертвой». Согласно тексту законопроекта, этот трибунал наделяется правом налагать «на лиц, уличенных в нарушении правительственного определения ненависти» штраф до 70 тысяч долларов, из которых 50 000 предназначены в фонд правительства, а до 20 000 долларов могут быть выплачены «жертвам ненависти». И самое главное – «трибунал может рассматривать поданную жалобу, не раскрывая лицу, против которого она была подана, или любому другому лицу личность предполагаемой жертвы, отдельного лица или группы лиц, подавших жалобу, или любого лица, которое дало показания или каким-либо образом помогло в рассмотрении жалобы». 

Для обеспечения соблюдения правил, касающихся вредоносного онлайн-контента, включая фейки и «оскорбительные материалы», правительство планирует создать новую контролирующую организацию, в состав которой войдут Управления цифровой безопасности, комиссия по цифровой безопасности и омбудсмена по цифровой безопасности. Последний будет исполнять роль наблюдателя и защитника прав и интересов пользователей в цифровой сфере. Примечательно, что этот надзирающий орган с широкими полномочиями намечено создать в обход парламента, одним лишь постановлением правительства!

Поправками предусматривается также введение более строгой ответственности провайдеров в рамках уже действующего «закона о недоносительстве». Опасаясь уголовной ответственности, владельцы сайтов, хостингов и т. д. будут удалять или блокировать любые сообщения, которые могут даже теоретически подпасть под «разжигающие ненависть». Хотя власти заявили, что социальные сети и мессенджеры (типа WhatsApp) не будут подлежать контролю, никто не сомневается, что целью является тотальный контроль. Правительство намерено поставить рамки, что не должно распространяться в Интернете и что может (и в какой форме). 

Поскольку допускается рассмотрение даже анонимных жалоб (со всеми вытекающими), совершенно очевидно, что никакое увеличение штатов «контролеров» не способно обеспечить требуемый уровень «лояльности», но приведет к открытию возможностей для сведения счетов, наветов и доносов. В этой связи упор делается на применение специальных лингвистических программ искусственного интеллекта, которые по ключевым словам способны выделять «подозрительную активность». В случае ошибки (а при масштабе коммуникаций они неизбежны) это снимает ответственность с армии бюрократов, одновременно давая некие основания для «принятия мер». 

Разработчики законопроекта решили, что лучшей фигурой для лоббирования является Ариф Вирани. Кто же это? Родился 23 ноября 1971 года в Кампале (Уганда) в семье переселенцев из Индии, приверженцев исмаилизма (совокупность религиозных движений в шиитской ветви ислама). В 1972-м семья иммигрировала в Канаду, где получила статус беженцев. Изучал право в университете Торонто, более 15 лет работал в адвокатском бюро, которое занималось гражданскими исками и оказывало юридическую помощь неимущим выходцам из Южной Азии. Являлся следователем Комиссии по правам человека и правам молодёжи в Монреале, а также помощником прокурора Международного трибунала по Руанде. В 2015 году избран в Палату общин Канады. 26 июля 2023 года в ходе серии кадровых перемещений в либеральном правительстве Трюдо назначен министром юстиции и генеральным прокурором.