Фото и голоса москвичей могут подлежать обработке без их согласия
Как пишут СМИ, поправки об этом были включены законопроект об изменениях экспериментального правового режима для развития ИИ в столице, который во вторник был принят Госдумой. Сообщается, что данные должны обрабатываться в обезличенном виде
Подробности о нововведениях регулирования проводимого в Москве правового эксперимента в сфере ИИ сообщает ТАСС. По данным агентства, ко второму чтению соответствующего законопроекта в документ была внесена поправка о порядке обработки фото- и аудио-информации жителей столицы. Сообщается, что персональные данные будут вноситься операторами в некую региональную инфосистему, а самих москвичей будут уведомлять об этом за 30 дней до передачи. Если человек не хочет делиться своими данными, он сможет отказаться, а если промолчит — значит не против. Каким образом жители столицы будут получать такие уведомления и отвечать на них, в публикации не указано.
О том, как фото и записи голосов москвичей связаны с правовым режимом для развития ИИ, рассуждает гендиректор агентства разведывательных технологий «Р-Техно» Роман Ромачев:
Роман Ромачёв генеральный директор агентства разведывательных технологий «Р-Техно» «Поскольку у людей разные голоса, разный тембр, дикция, поэтому ИИ необходимо обучить, и это очень длительный и дорогостоящий процесс. Для того чтобы уменьшить расходы на процессе обучения, очень часто многие разработчики, подчеркну многие, практически все используют добровольцев, то есть дают какую-то бесплатную возможность использовать ИИ, и в процессе взаимодействия человека с этим ИИ сам искусственный интеллект обучается. Я так полагаю, что желание передавать подобного рода голоса и есть не что иное, как попытка обучить ИИ каким-то действиям. Каким, нам не сообщают, не говорят. То есть, скорее всего, людей будут использовать втемную для того, чтобы обучить какую-то машинку для определенных действий. Я бы оградил многих желающих участвовать в этом эксперименте, потому что это на самом деле достаточно рискованно, поскольку, если вы не знаете, кому вы передаете свой голос, если эта организация не подконтрольна государственным структурам, это может быть какой-то подрядчик даже, то здесь с большей вероятностью будут утечки. Рано или поздно эти данные могут утечь в интернет, и тогда цифровой отпечаток вашего голоса может оказаться в руках у злоумышленника, и злоумышленники могут синтезировать ваш голос и работать с вашими близкими для того, чтобы их обманывать и совершать те самые телефонные мошенничества».
Истории о персональных данных, а тем более сопряженные с использованием ИИ, нередко вызывают тревоги из разряда «Нас посчитали!» по мотивам сказки про козленка — никто ничего толком не понимает, но мало ли что там задумали.
С одной стороны, массовый сбор фото и аудио москвичей действительно может упростить задачу мошенникам. Понятно, что лица и голоса публичных персон и так на виду, но гипотетическая утечка крупной базы данных может позволить поставить фрод на поток. Голос залил в генератор аудио, пробил телефоны родственников, и на пару тысяч автоматических звонков наверняка найдешь дедулю, который вышлет денег фиктивному внучку. С другой стороны, подобных данных — как теневых в даркнете, так и публичных в том же «ВКонтакте» — и так предостаточно, даже воровать госархив не понадобится.
Не советует тревожиться эксперт по информационной безопасности, гендиректор Phishman Алексей Горелкин:
Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Главное направление данного законодательства в том, чтобы появилась возможность нормально, легально обучать свои искусственные интеллекты, потому что там не искусственный интеллект, там, скорее всего, имитатор разумности. И вот главная проблема, которая сейчас складывается в большинстве IT-компаний — государственных ли, негосударственных ли, — с тем, где легально взять этот первичный датасет. И вот даже в среде тех, кто занимается разработкой в области AI, говорят, что отчитаются за каждый мегабайт информации, которую получили, кроме первичного датасета, потому что первичный датасет обычно получается всерую. И как раз чтобы этого избежать, появляется законопроект, который может предоставить обезличенные — это очень важно — данные для обучения нейронки. В данном проекте не будет такого, что ваши фотографии куда-то там раздаются, нет. Там будет такая история, что будут обезличенные данные предоставляться различным компаниям для их нейронок и обучения этих нейронок, при этом за 30 дней до того, как ваши данные могут быть, а могут не быть предоставлены для обучения нейронки, вас предупредят. Если вы против, вы можете эти данные отозвать. Да, эти данные могут быть лакомым куском для мошенников, хотя сейчас уже достаточное количество датасетов обезличенных, и с этим ничего не сделаешь. А вот как раз чтобы этого не было, в этом законопроекте предусматривается, что будет некая государственная система действовать, в которой и будут все эти данные храниться. Кому нужно будет получить какой-либо датасет, они будут обращаться и получать какие-то кусочки».
Во вторник, 30 июля, РИА Новости сообщило об утверждении законопроекта Госдумой во втором и третьем чтениях. В публикации не указано, вошли ли в окончательный текст документа поправки о презумпции согласия москвичей на обработку их данных, которые описывает ТАСС. Агентство особо отметило, что передача любых данных на обработку должна будет проводиться в обезличенном виде, а «методы и порядок обезличивания данных» установит правительство Москвы по согласованию с ФСБ.
Правда не совсем ясно, как вообще можно обезличить фотографию человека или аудиозапись его голоса. Особенно если в начале записи полностью обезличенный голос говорит «Здравствуйте, это Иван Иванов».