Искусственный интеллект обяжут раскрыть своё лицо в Казахстане

Баланс между технологиями и правами граждан призван найти закон об искусственном интеллекте.

Одним из ключевых инструментов станет обязательная маркировка контента, созданного с помощью ИИ, будь то видео, изображение или аудио. Такая маркировка прежде всего необходима для обеспечения прозрачности и повышения информированности пользователей.

Серик Бимендеев, главный эксперт управления государственной политики комитета искусственного интеллекта и развития инноваций МЦРИАП РК: «Это требование распространяется на все типы ИИ контента и так называемые синтетические медиа например дипфейки, как сейчас их называют. В таких случаях, кроме текстового предупреждения, должна быть визуальная или звуковая маркировка. Речь идет не о введение каких то ограничений, а о формировании единой системы цифровой ответственности».

Закон позволить выстроить чёткие рамки использования технологий, обеспечить прозрачность, понятность и доверие граждан, а также обозначить ответственность всех участников цифрового пространства. Как отмечают эксперты, в других странах уже давно действуют аналогичные законы, и Казахстан может применить лучшие международные практики. Главное — соблюдение правовых и этических норм, а также внимание к вопросам кибербезопасности и защиты персональных данных.

Евгений Питолин, управляющий директор DATASTAR, сопредседатель комитета по информационной безопасности альянса QAZTECH: «Вопросы предвзятости и вопросы потенциальных ошибок, принципы принятия тех или иных решений, вещи, которые нужно прописывать в любой информационной системе. Люди должны знать с чем они сталкиваются и кто несет ответственность, чего можно ожидать, где границы работы с искусственным интеллектом».

Искусственный интеллект, при неправильном применении, может нести серьёзные риски: от распространения дезинформации до нарушений прав человека. Особенно опасны дипфейки, которые способны ввести общество в заблуждение.

Евгений Яворский, адвокат: «Использование даже лица нашего президента, когда он рекламировал какие-то акции, такого не должно быть! Люди верят, верят каким-то известным людям. Наказание должно быть соразмерно тому, какой ущерб несут, например, если бабушка продала свою квартиру под таким действием… много людей, которые не разбираются в таких технологиях».

Новый закон также призван бороться с мошенниками. Так, при оформлении абонентского номера будет использоваться биометрия. Будет введено понятие несанкционированного трафика, а операторы связи будут обязаны иметь внутренние антифрод-системы и блокировать его. Также планируется ограничить ввоз и регистрацию SIM-боксов, которые активно используют мошенники.

Законопроект об использовании ИИ находится на рассмотрении в мажилисе.