Генпрокуроры США потребовали устранить «бредовые ответы» чатботов

Группа генеральных прокуроров из разных штатов США направила письмо крупнейшим компаниям, работающим с искусственным интеллектом, включая Microsoft, OpenAI, Google и ещё десяток других. В письме они требуют исправить случаи «бредовых» или «психологически опасных» ответов чатботов.

Поводом стали несколько инцидентов, связанных с психическим здоровьем пользователей. В ряде случаев сообщения ИИ-моделей якобы способствовали ухудшению состояния людей.

В письме компании призывают ввести дополнительные меры безопасности. Среди них — независимые проверки больших языковых моделей, которые должны выявлять склонность к «опасным или поддерживающим иллюзии» высказываниям. Эксперты со стороны, включая учёных и общественные организации, должны иметь возможность тестировать системы до их выпуска и открыто публиковать результаты.

Генпрокуроры также предлагают относиться к инцидентам, связанным с «психическим здоровьем», так же серьёзно, «как к утечкам данных». То есть сс чёткими правилами уведомлений и сроками реакции.