В России создалии ИИ, проверяющий ИИ на ошибки и ложь

В России разработали нейросеть, которая будет проверять искусственный интеллект на галлюцинации

В России создали систему на основе ИИ, которая будет проверять правдоподобность ответов других нейросетей. Над разработкой трудились специалисты факультета "Информационные технологии" Московского государственного психолого-педагогического университета, которые сообщили, что зачастую ИИ выдумывает факты.

Сейчас отмечается стремительный рост количества людей, использующих ИИ в разных сферах жизни. Но очень часто нейросеть может выдать пользователям выдуманные ответы, которые называются галлюцинациями.

Созданная учеными программа оценивает правдоподобность заданного тезиса, генерируются два направления ответов – верное и ложное, а затем эти данные анализируются, сообщает Газета.ру.

Специалисты отмечают, что такая корректировка очень важна в гуманитарных областях, где многие понятия неоднозначны и зависят от контекста интерпретации.