Ведущие технологические компании обещают устранить избирательные риски, связанные с ИИ

Более десятка технологических фирм, занимающихся созданием или использованием технологий искусственного интеллекта, обещали в пятницу работать вместе для выявления и противодействия вредному контенту, созданному с помощью ИИ, на выборах, включая deepfakes политических кандидатов. Среди подписантов - OpenAI, Google, Meta, Microsoft, TikTok, Adobe и другие.

Соглашение, названное "Технологический договор для борьбы с обманчивым использованием ИИ на выборах 2024 года", включает обязательства сотрудничать по технологиям для выявления вводящего в заблуждение контента, созданного с помощью ИИ, и быть прозрачными с обществом в отношении усилий по борьбе с потенциально вредным контентом, созданным с использованием ИИ.

"Искусственный интеллект не создал обман на выборах, но мы должны обеспечить, чтобы он не способствовал распространению обмана," - заявил президент Microsoft Брэд Смит в своем заявлении на Мюнхенской конференции по безопасности в пятницу.

В целом, технологические компании имеют не самую лучшую историю саморегулирования и обеспечения собственной политики. Но соглашение приходит в то время, когда регуляторы продолжают отставать в создании регулирующих мер для быстроразвивающихся технологий искусственного интеллекта.

Новое и растущее поколение инструментов ИИ предлагает возможность быстро и легко создавать убедительный текст и реалистичные изображения - и, все чаще, видео и аудио, которые эксперты считают возможным использовать для распространения ложной информации, чтобы ввести избирателей в заблуждение.

Объявление о соглашении пришло после того, как OpenAI в четверг представила потрясающе реалистичный новый инструмент генерации текста в видео под названием Sora.

"Мои худшие опасения заключаются в том, что мы причиняем значительный - мы, отрасль, технология, индустрия - вред миру," - заявил генеральный директор OpenAI Сэм Альтман перед Конгрессом на слушаниях в мае, во время которых он призвал законодателей регулировать ИИ.

Некоторые компании уже сотрудничали для разработки отраслевых стандартов добавления метаданных к созданным с помощью ИИ изображениям, которые позволили бы системам других компаний автоматически

 определить, что изображения были созданы на компьютере.

Соглашение, подписанное в пятницу, идет еще дальше в таких межотраслевых усилиях - подписанты обещают работать вместе над такими усилиями, как поиск способов прикрепить машинно-читаемые сигналы к частям контента, созданного с помощью ИИ, указывающие на их происхождение, и оценка своих моделей ИИ на риски создания обманчивого контента, связанного с выборами.

Компании также заявили, что будут сотрудничать в проведении образовательных кампаний для обучения общественности, как "защищаться от манипуляций или обмана этим контентом".

Однако некоторые гражданские общественные группы беспокоятся, что обещание идет недостаточно далеко.

"Добровольные обещания, подобные сегодняшнему, просто недостаточны для решения мировых проблем, стоящих перед демократией," - заявила старший юрист и директор по цифровому правосудию и гражданским правам в организации Free Press Нора Бенавидес в заявлении. "На каждом избирательном цикле технологические компании обещают выполнить неопределенный набор демократических стандартов, а затем не выполняют эти обещания полностью.

Чтобы решить реальные вреды, которые ИИ наносит в год выборов... Нам нужно качественное модерирование контента, включающее человеческое рассмотрение, маркировку и выполнение".