IT-эксперт указал на неочевидную опасность нейросетей

Утечка конфиденциальной информации — вот одна из главных и неочевидных опасностей нейросетей.

Как сообщает NEWS.ru, эксперт в области IT, председатель комиссии в Институте развития интернета Артем Геллер пояснил: нейросети хранят все данные пользователей, потому что используют их для самообучения. Загружаемая пользователями в чат-боты информация отправляется на серверы компаний-разработчиков. Это несет определенные риски.

Геллер предупредил: при «общении» с нейросетью надо понимать, что вся информация, которую пользователи туда «закачивают», отправляется на серверы разработчика. А сам бот учится по этой информации, среди которой могут случайно затесаться конфиденциальные сведения.

Эксперт подчеркнул, что диалоги с чат-ботами уже индексировались поисковиками и бывали в результатах поиска. «Это может происходить по разным причинам. Путей утечки данных из баз ИИ очень много», — указал он.

По словам Геллера, разработчики ИИ понимают, «что это очень плохой результат, который не дружит с безопасностью». «Также среди находок в Сети после использования искусственного интеллекта бывают личные данные в виде персональных или важных корпоративных сведений», — отметил Геллер.