Владелец ИИ Kandinsky запретил генерировать государственные символы

Глава Сбера рассказал о запрете генерации картинок с использованием государственной символики в нейросети Kandinsky

«Сбербанк» внёс изменения в работу нейросети Kandinsky 2.1 после того, как сотрудников банка вызвали в прокуратуру из-за изображения на флаге России. Герман Греф, председатель правления банка, рассказал о вызове после того, как нейросеть создала изображение куполов собора Василия Блаженного на государственном флаге. После обращения депутатов Госдумы и разбирательства в прокуратуре, «Сбер» откорректировал настройки безопасности сети, уменьшив её креативность и точность на 12%. Теперь нейросеть выдаёт заранее заданные изображения по запросу пользователя, избегая генерации своих собственных.

Греф подчеркнул необходимость понимания со стороны властей того, что нейросети все ещё находятся в стадии обучения, и сравнил их с «детьми малыми». Он подчеркнул, что разбирательство в прокуратуре не привело к последствиям для банка, благодаря современному и юморному прокурору.

Лидер фракции «Справедливая Россия — За правду» Сергей Миронов ранее обратился к генеральному прокурору РФ Игорю Краснову, выражая сомнения в соответствии деятельности «Сбера» российскому законодательству. Миронов считал, что нейросеть создавала контент, способствующий формированию негативного образа России. Он указывал на отсутствие соответствия цветам российского флага при генерации изображений.

Эксперты отмечают, что ограничения в генерации контента нейросетями не уникальны для «Сбера» и присутствуют и в других моделях, таких как ChatGPT. Эти ограничения иногда вводятся для избежания конфликтов и скандалов, связанных с контентом, и могут варьироваться в разных странах. Вице-президент ВТБ Денис Суржко отмечает, что ИИ в будущем может заменить определённые функции человека, но не сможет полностью заменить его деятельность.