Крупнейшие разработчики ИИ сравнили опасность их технологий с пандемией и ядерной войной

Снижение рисков, связанных с внедрением ИИ, должно стать глобальным приоритетом наряду с другими рисками социального характера, такими, как пандемия и ядерная война, говорится в заявлении некоммерческой организации Center for AI Safety (Центр безопасности ИИ).

Открытое письмо подписали свыше 350 руководителей, исследователей, инженеров и других специалистов, занятых в сфере ИИ. Среди них — топ-менеджеры крупнейших компаний: генеральный директор OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис, а также генеральный директор Anthropic Дарио Амодеи. В начале мая они встретились встретились с Джо Байденом и вице-президентом США Камалой Харрис, чтобы обсудить регулирование ИИ.

Разработка систем искусственного интеллекта несет определенные социальные риски — прежде всего, прогнозируемое исчезновение ряда профессий. Есть также опасения, что их могут использовать для распространения дезинформации и пропаганды. Как пояснил директор Центра безопасности ИИ Дэн Хендрикс, открытое письмо представляет собой «публичное признание» для некоторых лидеров отрасли, которые осознают риски, связанные с их технологиями, но до сих пор говорили об этом в частном порядке.

OpenAI известна как разработчик чат-бота на основе искусственного интеллекта ChatGPT. Подробнее о нем мы рассказали здесь. Google DeepMind — подразделение Alphabet Inc, которое занимается развитием искусственного интеллекта. Оно сформировалось на базе команды Brain из Google Research и команды DeepMind, ставшей частью Google после покупки одноименного стартапа. Anthropic основал в 2021 году бывший директор по исследованиям в OpenAI Дарио Амодей вместе с другими ушедшими из компании сотрудниками. Стартап разработал чат-бота Claude, который с января этого года находится в закрытом тестировании.

Власти Евросоюза в середние мая опубликовали законопроект о регулировании искусственного интеллекта (AI Act). Это первый в мире всеобъемлющий документ такого рода, вызвавший настоящий вал критики. The Bell разобрался, насколько она обоснована.