Прошло исследование: ИИ проявляет предвзятость в изображении женщин
Генеративный искусственный интеллект (ИИ) демонстрирует значительные перспективы в области рекламного контента, существенно ускоряя процесс его создания. Тем не менее, недавнее исследование, проведенное Европейским университетом, выявило тревожную тенденцию: несмотря на потенциал к инновациям, такие инструменты продолжают увековечивать устоявшиеся стереотипы. В частности, издание ElPublista обращает внимание на систематическую предвзятость в изображениях женщин, генерируемых ИИ.
Детальный анализ более 350 портретов, созданных с использованием Copilot, Leonardo и Midjourney, показал, что преобладающая часть изображений представляет собой идеализированные образы молодых женщин европеоидной расы с каноническими чертами внешности. Эта тенденция наблюдается даже при попытках программирования системы на создание более разнообразного и инклюзивного контента.
Исследователи подчеркивают, что алгоритмы ИИ в значительной степени воспроизводят предвзятости, заложенные в изначальных обучающих данных. Формулировки, такие как "истинная красота", способствуют укреплению традиционных стандартов, которые могут быть не только эстетически ограниченными, но и социально дискриминационными. Этические фильтры, применяемые на платформах, могут ограничивать возможности пользователей, отсекая запросы, которые не соответствуют заданным критериям, что приводит к снижению креативной свободы и ограничивает разнообразие визуального контента.
Исследование также затрагивает лингвистический аспект: изображения, созданные на основе англоязычных запросов, демонстрируют значительно большее разнообразие по сравнению с теми, которые генерируются на основе испанских запросов. Это различие объясняется преобладанием англоязычных данных в обучающих наборах, что подчеркивает необходимость глобального подхода к созданию более репрезентативных и инклюзивных моделей ИИ.
В заключение аналитики призывают к пересмотру методологических подходов к разработке ИИ-моделей, акцентируя внимание на необходимости расширения разнообразия обучающих данных, усиления этического контроля и вовлечения междисциплинарных команд для создания более инклюзивных и репрезентативных визуальных образов. Это позволит минимизировать негативные социальные последствия и обеспечить более справедливое и равноправное использование технологий.
Следует отметить, что, несмотря на значительные технологические достижения, ИИ пока не обеспечивает ожидаемого прироста эффективности. Хотя эти инструменты способствуют экономии времени сотрудников, они также требуют значительных ресурсов для исправления ошибок и проверки результатов работы алгоритмов, что подчеркивает необходимость комплексного подхода к их интеграции в рабочие процессы.