Благодаря системе можно выявить экстремистскую тематику, призывы к массовым незаконным мероприятиям или суициду, пронаркотический контент, пропаганду ЛГБТ

Благодаря системе можно выявить экстремистскую тематику, призывы к массовым незаконным мероприятиям или суициду, пронаркотический контент, пропаганду ЛГБТ

Роскомнадзор и Главный радиочастотный центр совместно с аналитическим центром MINDSMITH и компанией «Ростелеком» определили ключевые технологии с использованием искусственного интеллекта, необходимые для мониторинга интернета и обеспечения безопасности его пользователей. Эксперты предполагают, что уже в ближайшие несколько лет системы на базе искусственного интеллекта будут интегрированы в социальные сети для отслеживания деструктивного контента в режиме реального времени. Но пока полностью доверять нейросетям проверку фактов не стоит.

Эксперты Роскомнадзора, Главного радиочастотного центра (ГРЧЦ), аналитического центра MINDSMITH и компании «Ростелеком» представили обзор трендов и передовых решений в области искусственного интеллекта в России в исследовании «Инструменты ИИ в руках злоумышленников — классификация угроз и способы противодействия». В частности, они выделили 12 групп технологий, соответствующих интересам профильных организаций по мониторингу и обеспечению безопасности интернет-среды. В их число вошли обнаружение дипфейков, определение контекста происходящего на видео, автоматизация мониторинга и модерации контента, распознавание лиц, извлечение смысла из текста, поддержка проверки фактов, распознавание символики, извлечение и анализ метаданных, распознавание эмоций, поддержка решений при информационных атаках, генерация и рекомендация контента.

Одной из важнейших задач государства в последнее время стала борьба с дезинформацией. По мнению аналитиков, информационные системы уже приближаются к проверке фактов в реальном времени и будут впоследствии интегрированы в социальные сети. Например, в будущем они смогут анализировать речь и потоковое видео, проверять их и, при обнаружении ложных новостей, оповещать пользователей о недостоверном контенте. Такие системы будут включать в себя комплекс нейросетей, а внедрить их в соцсети получится в течение 3–5 лет. «Внедрение автоматизированной проверки фактов приведет к тому, что каждая новость будет размечена специальными тегами на крупных платформах. Государства смогут напрямую влиять на фактчекинг, сформировав систему тегов и отслеживая корректность разметки новостей техногигантами», - отмечается в исследовании.

Сегодня нельзя полностью положиться на искусственный интеллект в проверке фактов. Пока наиболее релевантный вариант - автоматизировать часть процессов, отмечает член комитета Госдумы по информационной политике о информационной политике, информационным технологиям и связи Антон Немкин.

«Проверка фактов приобрела особую актуальность еще во время пандемии коронавирусной инфекции и остается важной и сейчас, когда мы боремся с потоками фейков и дезинформации, которые обрушиваются на наших пользователей. Это направление уже активно развивается: например, во второй половине 2023 года Роскомнадзор должен запустить систему «Вепрь», которая сможет выявлять потенциальные угрозы в интернете. Эксперты будут анализировать поступающую информацию и прогнозировать последующее распространение деструктивных материалов. Кроме того, еще одна автоматизированная система – «Окулус» - уже работает. Она распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. Благодаря системе можно выявить экстремистскую тематику, призывы к массовым незаконным мероприятиям или суициду, пронаркотический контент, пропаганду ЛГБТ, при этом на одно изображение система тратит всего три секунды, что в значительной степени ускоряет выявление угроз в сети. Создание таких систем – это полноценный ответ на провокации и антироссийские действия со стороны иностранных ресурсов, которые ежедневно множат в сети фейки и материалы по всем разновидностям запрещенной информации. Перспектива развития таких технологий и внедрения в эту работу возможностей искусственного интеллекта дает надежду на то, что в будущем проблему с фейками и противоправным контентом получится решить окончательно», - считает депутат.

На фоне глобальной автоматизации информационных войн и развития генеративных моделей будет крайне проблематично обеспечить когнитивную безопасность населения без внедрения искусственного интеллекта, считают аналитики. При этом государству необходимо решить важную инфраструктурную задачу и разработать процедуры тестирования и оценки моделей ИИ - это позволит держать руку на пульсе развития технологий, отслеживать перспективных разработчиков и проекты. «Сегодня у нашей страны есть все для создания отечественных моделей ИИ, самый ценный наш ресурсы - это специалисты. Уже сегодня они предлагают очень качественные решения, особенно в области распознавания лиц и работы с информационными атаками, число которых в 2023 году продолжает расти, - добавил Немкин. – При этом сама по себе область ИИ должна четко регулироваться, и “Единая Россия” уже работает над законопроектом, который поможет разобраться в этом вопросе и дать людям уверенность в том, что искусственный интеллект станет им помощником, а не врагом».

Генеральный директор исследовательской компании TelecomDaily Денис Кусков также подчеркнул важность разработки законодательных норм для систем на основе ИИ, которые будут фильтровать контент в сети. Он, кроме того, отметил, что нынешний уровень развития ИИ в России позволит начать полноценное использование таких систем в перспективе пяти лет. «У нас уже есть множество подобных систем – например, в Сбере, Яндексе, Роскомнадзоре. Однако и количество аудиовизуального контента в интернете растет очень быстро. Там уже очень много ложной информации, а учитывая существующие технологические возможности по замене голоса или изображения, это создаст еще больше проблем с точки зрения законодательства. Считаю, что нужно обязательно в этом направлении работать, и интеграция технологий ИИ в соцсети должна стать одним из шагов в заданном направлении. К коллапсу это точно не приведет, потому что будут выработаны подходы, которые позволят осуществлять модерацию контента за считанные минуты. В любом случае на начальном этапе – год и более – нельзя допускать применение исключительно автоматической системы к работе. Обязательно будет необходима и работа аналитиков», - заключил он.

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Санкт-Петербурге, в Ленинградской области и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Санкт-Петербурге

Ria.city

ВТБ: треть россиян оценили затраты на свадьбу в 2024 году в 500 тыс. рублей

РИА «Новости»: в Москве начали рассматривать дело петербургских генералов МВД

Новый распределительный газопровод подаст газ в Дом-музей Бориса Владимировича Вильде

Прокуратура требует от "Мегафона" похищенные мошенниками деньги

Музыкальные новости

Сергей Собянин: Активно укрепляем отношения с Китаем

В Пулково задерживаются шесть рейсов

Московский аэропорт Домодедово и Всероссийское общество инвалидов заключили соглашение о сотрудничестве

Бизнес-омбудсмен Москвы оказывает поддержку НМСП

Новости Санкт-Петербурга

РИА «Новости»: в Москве начали рассматривать дело петербургских генералов МВД

Новый распределительный газопровод подаст газ в Дом-музей Бориса Владимировича Вильде

ВТБ: треть россиян оценили затраты на свадьбу в 2024 году в 500 тыс. рублей

В Кирово-Чепецке в четвертый раз пройдет всероссийский фестиваль лозоплетения

Экология в Санкт-Петербурге

Лучшим наставником АО «Желдорреммаш» 2024 года стал работник Ярославского ЭРЗ

Культурное лето с Dhawa Ihuru

Tod's, коллекция menswear весна-лето 2025

PREMIER проведет фестиваль «Лето PREMIER» по всей России

Спорт в Санкт-Петербурге

Экс-теннисист Ольховский: россияне могут хорошо выступить на Уимблдоне

Самсонова поддержала Андрееску после победы над ней в финале турнира в Хертогенбосхе

Самсонова выиграла турнир WTA в Хертогенбосхе

«Ну и где здесь «группа смерти?» ATP показала, каким был бы Евро-2024 с теннисистами

Moscow.media

Ирина Ортман оставляет в прошлом «Всё, что было вчера».

В Екатеринбурге начался второй этап опрессовок

Комфорт, безопасность и время для себя: что предоставляет клиентам «Таксовичкоф»

ТСМ реконструирует участок трассы М-1 «Беларусь»







Топ новостей на этот час в Санкт-Петербурге и Ленинградской области

Rss.plus





СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *