Популярное приложение запретили для использования подростками в возрасте до 13 лет в рамках исторического урегулирования.

Целевой запрет является последним шагом Федеральной торговой комиссии (FTC) в более широком подавлении компаний, занимающихся социальными сетями, брокеров данных и других предприятий, которые якобы неправильно обрабатывают данные потребителей или делают чрезмерные заявления об искусственном интеллекте.

В рамках иска и урегулирования, объявленного во вторник, приложение, подвергшееся наказанию — известное как NGL, — также выплатит 5 миллионов долларов для урегулирования того, что председатель FTC Лина Хан назвала "безрассудным пренебрежением безопасностью детей". Приложение также должно будет внедрить возрастной барьер, чтобы заблокировать свои услуги для текущих и новых пользователей младше 18 лет. Регуляторы написали, что приложение позиционировало себя как "безопасное пространство" для подростков, но на самом деле эксплуатировало их.

Кроме того, что подчеркивает выполнение обещаний FTC по контролю за раздуванием тем об ИИ, иск прямо называет соучредителей компании, что отражает недавние обязательства агентства привлекать индивидуальных руководителей к ответственности за корпоративные правонарушения.

Приложение, известное как NGL, было загружено миллионы раз, согласно жалобе. NGL — это интернет-аббревиатура, означающая "not gonna lie" (не собираюсь лгать).

NGL активно рекламировалось среди молодых пользователей и нарушало федеральные законы, направленные на защиту данных детей, утверждается в иске, в то время как его сотрудники якобы насмехались над платными пользователями, называя их "дураками", зарабатывая на их невежестве.

В заявлении соучредитель NGL Жоао Фигейредо сказал, что компания почти два года сотрудничала с расследованием FTC, но оспаривает выводы агентства, которые были одобрены единогласно пятичленным комиссией.

NGL отвечает

"Мы рассматриваем это урегулирование как возможность сделать NGL лучше, чем когда-либо для наших пользователей, и считаем, что соглашение в наших лучших интересах", сказал Фигейредо. "Хотя мы считаем, что многие утверждения относительно возраста нашей пользовательской базы фактически неверны, мы ожидаем, что согласованные возрастные ограничения и другие процедуры теперь предоставят направление для других в нашей области и, надеемся, улучшат политику в целом".

Урегулирование должно быть одобрено Окружным судом США по Центральному округу Калифорнии, прежде чем оно вступит в силу.

Согласно жалобе, NGL обманом привлекало подростков к подписке на свою премиум-услугу, отправляя им поддельные анонимные сообщения и обещая раскрыть отправителя после оплаты.

Компьютерные сообщения были специально написаны, чтобы эксплуатировать социальные тревоги или устремления подростков, говорится в иске, приводя в пример такие сообщения, как "Я знаю, что ты сделал" и "Я был влюблен в тебя много лет".

NGL создало более 1 000 таких сообщений, выдавая их за настоящих пользователей, и отправляло их миллионы раз, чтобы убедить подростков заплатить за то, чтобы узнать, кто их отправил, говорится в жалобе. Но когда пользователи платили за информацию о поддельных и реальных сообщениях, иногда до 9,99 долларов в неделю, приложение не показывало имя отправителя, а вместо этого предоставляло "подсказки", такие как приблизительное местоположение пользователя или тип используемого устройства, согласно иску.

Сообщения начали отправляться в 2022 году, через год после неудачного запуска приложения, говорится в жалобе. Когда пользователи начали подозревать поддельные сообщения, многие оставляли негативные отзывы о приложении, а некоторые даже называли его мошенничеством, согласно иску.

NGL якобы хвалилось в своей рекламе, что приложение является "безопасным пространством для подростков" и что оно использует модерацию контента на основе ИИ для защиты пользователей. За кулисами, однако, соучредители приложения якобы игнорировали или унижали пользователей, которые жаловались, причем Фигейредо ответил "лол" в внутреннем сообщении на отчет о недовольном клиенте, согласно иску.

Иск и урегулирование являются еще одним примером того, как Хан, активный критик технологической индустрии, сделала регулирование цифровых данных одним из главных направлений своей деятельности.

Кроме предупреждений, что генеративный искусственный интеллект может "усилить" мошенничество и аферы, Хан предложила несколько правил, которые ограничат, как компании могут собирать, использовать и делиться данными потребителей. Одно из них ограничит то, что она называет "индустрией коммерческого наблюдения", в то время как другое стремится расширить применение FTC закона о детской приватности.

FTC также в настоящее время пытается запретить Meta монетизировать данные детей, что компания оспаривает в суде. В 2022 году FTC заставила Epic Games, создателя популярной видеоигры "Fortnite", выплатить 520 миллионов долларов для урегулирования обвинений в использовании обманчивых пользовательских интерфейсов, известных как "темные паттерны", чтобы обмануть пользователей на покупки в игре.

Растущий гнев регуляторов

Действия FTC происходят на фоне волны законодательства штатов, направленного на ограничение доступа молодых людей к социальным сетям. Впервые в этом году Нью-Йорк утвердил закон, регулирующий алгоритмы, питающие социальные сети на Facebook, Instagram, TikTok и других приложениях. Такие штаты, как Арканзас, Флорида, Луизиана и многие другие также приняли законы, ограничивающие подход социальных сетей к подросткам. Противники, однако, говорят, что эти законы нарушают Первую поправку к Конституции США, и Верховный суд согласился рассмотреть конституционность возрастных ограничений на веб-сайтах в следующем сроке.

Подчеркивая новаторский характер урегулирования с NGL, комиссар FTC Эндрю Фергюсон описал действия во вторник как "новый" способ использования правовых полномочий агентства. Впервые, сказал он в заявлении, FTC утверждала, что NGL нарушил закон, "рекламируя анонимное приложение для обмена сообщениями детям и подросткам, зная, что анонимные приложения для обмена сообщениями вредны для этих групп".

"Это предполагаемое поведение, специально разработанное для манипулирования уязвимой подростковой психикой, было предосудительным и несправедливым", сказал Фергюсон. Однако он отметил, что общественность не должна интерпретировать иск как означающий, что в целом незаконно рекламировать любое анонимное приложение для обмена сообщениями подросткам.

Во вторник FTC поблагодарила потребительскую адвокатскую группу Fairplay и критика социальных сетей Кристин Брайд за "неоценимую помощь" в расследовании NGL. В прошлом году Брайд давала показания перед Конгрессом на громком слушании о рисках социальных сетей для подростков, рассказывая, как ее сын-подросток Карсон покончил с собой в 2020 году после получения лавины анонимных сообщений с киберзапугиванием. В октябре Брайд и Fairplay написали в FTC с призывом к агентству провести расследование в отношении NGL, обвиняя его в несправедливых и обманчивых деловых практиках, нарушающих федеральный закон.

Во вторник Брайд приветствовала иск и урегулирование.

"Эта опасная бизнес-модель удерживает детей, вынуждая их пытаться определить своих неизвестных преследователей, чтобы эти компании могли извлечь выгоду из большего сбора данных", сказала Брайд. "Недопустимо, что NGL не только взимало с уязвимых подростков плату за бесполезные подсказки относительно того, кто им пишет, но и разработчики сами отправляли угрожающие сообщения подросткам и шутили об этом, пока родители выражали обеспокоенность по поводу киберзапугивания".