Расистские ошибки. Google Photo перестало показывать снимки по запросу "горилла"

Площадка Google Photo перестала показывать результаты по запросу "горилла", "шимпанзе" и "обезьяна". Эксперимент провёл журнал Wired.

Исследователи прогнали через сервис порядка сорока тысяч фото с изображениями животных. Система при этом находила ошибочно панд или пуделей.

В представительстве компании отметили, что эти слова стали запретными после того, как в 2015 году система перепутала чернокожих людей с гориллами.

— Технология, указывающая, что изображено на снимке, ещё на ранней стадии разработки и, к сожалению, не всегда работает идеально, — отметили в компании.

При попытке загрузить в сервис фото шимпанзе или горилл результаты показывались по запросам "лес", "джунгли", "зоопарк".

Для другого исследования загрузили 10 000 изображений, которые используют в программах распознавания лиц. По слову "афроамериканец" поисковый сервис выдал изображение антилопы. По запросам "темнокожий мужчина", "темнокожая женщина" и "темнокожий человек" — чёрно-белые фото. Там он не ошибся с полом, но с расой.