Сотрудники Nvidia предупреждали Дженсена Хуанга о предвзятости ИИ - он их проигнорировал

Два сотрудника Nvidia забили тревогу о потенциальном вреде искусственного интеллекта для разнообразных групп меньшинств во время встречи с генеральным директором Дженсеном Хуангом в 2020 году, пишет Insider. Машейка Оллгуд и Александр Цадо выразили обеспокоенность тем, что искусственный интеллект может представлять опасность, особенно в системах распознавания лиц.

Однако их «мольбы» остались без внимания, поскольку Хуанг, как сообщается, проигнорировал риски. Удрученные отсутствием действий со стороны Nvidia, оба сотрудника покинули компанию вскоре после встречи. Оллгуд описала эту встречу как «самые разрушительные 45 минут» в своей профессиональной жизни.

Сотрудники рассказали о непропорциональном влиянии ИИ на расовые меньшинства, подчеркнув потенциальные предубеждения и опасности, связанные с технологией распознавания лиц. При этом Оллгуд высказала конкретные опасения по поводу технологии самоуправляемых автомобилей, но Хуанг преуменьшил риски, предложив проводить испытания на автомагистралях, где вероятность появления пешеходов меньше.

Это откровение добавляет внимание к растущей тенденции дискриминационного характера ИИ, поскольку ранее уже были случаи расовой предвзятости в системах распознавания образов.