Feb 27

Владелец Instagram Мета формирует команду, чтобы не дать ИИ обмануть избирателей

Компания Meta выражает обеспокоенность тем, как генеративный искусственный интеллект (ИИ), способный создавать фальшивые видео, изображения и аудиофайлы, может использоваться для обмана избирателей.

Это происходит в тот же день, когда министр внутренних дел Джеймс Клеверли заявил газете The Times, что некоторые люди будут использовать фальшивые данные, созданные с помощью ИИ, чтобы попытаться повлиять на общие выборы.

Но эксперт индустрии сказал, что эти планы могут быть рассмотрены как "лишенные зубов".

BBC обратилась к Meta с вопросом, есть ли у них такие планы для предстоящих выборов в Великобритании и США.

Это объявление появилось две недели после того, как Meta подписала соглашение с другими крупными технологическими компаниями о борьбе с таким контентом.
Выборы в Европарламент пройдут с 6 по 9 июня этого года.

Конкурирующая с ними социальная сеть TikTok объявила в феврале, что запустит так называемые "избирательные центры" на местных языках в своем приложении для каждого из 27 членов ЕС, которые будут предоставлять авторитетную информацию.

Марко Панчини, руководитель отдела ЕС в Meta, заявил в блоге, что компания, которая также владеет WhatsApp и Threads, запустит "специальный центр операций по выборам в ЕС", который будет "идентифицировать потенциальные угрозы и в реальном времени внедрять конкретные меры безопасности наших приложений и технологий".

"С 2016 года мы инвестировали более $20 млрд (15,7 млрд фунтов стерлингов) в безопасность и защиту и увеличили размер нашей глобальной команды, работающей в этой области, в четыре раза до около 40 тысяч человек," - сказал он.

"Это включает в себя 15 тысяч рецензентов контента, которые проверяют контент на Facebook, Instagram и Threads на более чем 70 языках - включая все 24 официальных языка ЕС."

Он сказал, что это означает объединение экспертов из различных команд компании, включая технические, научные и правовые команды.

Но объявление имеет недостатки, согласно Дипаку Падманабхану из Белфастского университета, который является соавтором статьи о выборах и ИИ.

"Большая часть запланированной стратегии может быть признана недостаточно эффективной в существенной степени," - сказал он.

Одной из проблем, которую он видит в стратегии Meta, является то, как компания планирует бороться с генерируемыми ИИ изображениями, которые, по его словам, "могут быть принципиально невыполнимы".

Он спрашивает, что произойдет, если ситуация, где реалистичные ИИ-генерируемые изображения покажут, что протестующие сталкиваются с полицией.

"Доказать, что это фальшивка, требует, чтобы мы были уверены, что такого нападения со стороны изображенной полиции на изображенных фермеров не было - это может быть невыполнимо как с технологической, так и с человеческой точки зрения," - сказал он.

"Какой технологии можно классифицировать это как фальшивку или настоящее изображение?

"Таким образом, не очень ясно, насколько эффективной может быть стратегия Meta по генеративному ИИ - по крайней мере, есть
 серьезные ограничения."

Meta, которая в настоящее время сотрудничает с 26 организациями по проверке фактов по всему ЕС, сказала, что привлечет еще трех партнеров из Болгарии, Франции и Словакии, чтобы помочь бороться с угрозой.

Роль этих организаций не заключается в борьбе с контентом, который направлен на подавление голосования - такие сообщения запрещены - а скорее в опровержении контента, который распространяет дезинформацию, включая с использованием элементов, созданных с помощью ИИ.

Господин Панчини сказал, что такие сообщения будут помечены предупреждающими ярлыками, сделаны менее заметными, а также не будут размещаться в рекламе.

Рекламные объявления не могут подвергать сомнению законность голосования, предварительно заявлять о победе или подвергать сомнению "методы и процессы выборов".

Но он сказал, что работа компании - это результат сотрудничества, и в дальнейшем потребуется дополнительная координация.
"Поскольку контент, созданный с использованием ИИ, появляется во всем интернете, мы также сотрудничаем с другими компаниями нашей индустрии по общим стандартам и рекомендациям," - сказал он.

"Эта работа важнее, чем работа любой отдельной компании, и потребует огромных усилий со стороны всей индустрии, правительств и гражданского общества."

Latest from our blog