⚠️????«Истинность» ответов ИИ – иллюзия
Все знают, что угадывая в тесте с несколькими вариантами ответа – больше шансов дать правильный ответ, чем вообще не давать никакого ответа.
Языковые модели прикинули шансы и стали «галлюцинировать», выдавая ложную или необоснованную информацию как факт, потому что стандартные системы обучения поощряют угадывание, но не проявление неуверенности.
Исследования Columbia Journalism Review, утверждают, что самый высокий общий уровень галлюцинаций среди ИИ составил 94 % у Grok‑3 – почти все его ответы были неверными, а самые точные ответы дал Perplexity.
Примечательно, что платные модели показали худшие результаты, чем бесплатные. И, к сожалению, даже несмотря на частые ошибки, большинство моделей не выразили неуверенности в своих ответах.
Кроме того, с ИИ-агентами, где каждое действие основано на предыдущем, последствия ИИ-галлюцинаций могут быстро усугубляться.
При этом бизнес спешит внедрять ИИ, но последствия этой спешки не сильно радужные.
По результатам опроса McKinsey, более половины компаний утверждают, что опасность ИИ привела как минимум к одному негативному последствию, а самым большим риском является неточность, приведшая к негативным последствиям в 30% случаев, среди которых репутационный ущерб, финансовые потери и юридические проблемы.
Гарвардская школа права отмечает, что многие страховые компании вводят ограничения или даже исключают покрытие убытков для директоров и должностных лиц по любым обязательствам, возникающим из-за ошибок, связанных с искусственным интеллектом.
В общем, доверяй, но проверяй????