OpenAI обеспокоена тем, что люди могут стать эмоционально зависимыми от нового голосового режима ChatGPT

Об этом стало известно из отчета OpenAI, опубликованного в четверг, в котором говорится о проведенном анализе безопасности этого инструмента — который начал распространяться среди платных пользователей на прошлой неделе — и большого языкового AI-моделя, на котором он работает.

Режим голосового взаимодействия ChatGPT звучит удивительно реалистично. Он реагирует в реальном времени, может адаптироваться к прерыванию, издает звуки, характерные для человеческого общения, такие как смех или "ммм". Он также может оценивать эмоциональное состояние говорящего на основе его тона голоса.

Через несколько минут после того, как OpenAI объявила об этой функции на мероприятии в начале этого года, ее начали сравнивать с AI-цифровым ассистентом из фильма 2013 года "Она", в котором главный герой влюбляется в искусственный интеллект, но потом оказывается разбитым сердцем, когда AI признается, что у "нее" также есть отношения с сотнями других пользователей.

Теперь OpenAI, по-видимому, обеспокоена тем, что эта вымышленная история слишком близка к реальности, после того как она заметила, что пользователи говорят с голосовым режимом ChatGPT на языке, выражающем "общие узы" с инструментом.

В конечном итоге, "пользователи могут формировать социальные отношения с AI, уменьшая свою потребность в человеческом взаимодействии — что может быть полезным для одиноких людей, но возможно повлияет на здоровые отношения," говорится в отчете. Также отмечается, что получение информации от бота, который звучит как человек, может привести к тому, что пользователи будут доверять инструменту больше, чем следует, учитывая склонность AI к ошибкам.

Отчет подчеркивает крупный риск, связанный с искусственным интеллектом: технологические компании спешат быстро внедрять для общественности AI-инструменты, которые, по их словам, могут изменить то, как мы живем, работаем, общаемся и находим информацию. Но они делают это до того, как кто-либо действительно поймет, каковы будут последствия. Как и во многих технологических достижениях, компании часто имеют одно представление о том, как их инструменты могут и должны использоваться, но пользователи придумывают множество других потенциальных применений, часто с непредвиденными последствиями.

Некоторые люди уже формируют то, что они описывают как романтические отношения с AI-чатботами, что вызывает беспокойство у экспертов по отношениям.

"На компаниях лежит большая ответственность за то, чтобы действительно управлять этим в этичном и ответственном направлении, и все это сейчас находится на этапе экспериментов," сказала Лизель Шараби, профессор Аризонского государственного университета, изучающая технологии и человеческую коммуникацию, в интервью CNN в июне. "Я действительно беспокоюсь за людей, которые формируют очень глубокие связи с технологией, которая, возможно, не будет существовать в долгосрочной перспективе и которая постоянно эволюционирует."

OpenAI заявила, что взаимодействие пользователей с голосовым режимом ChatGPT также может со временем повлиять на то, что считается нормой в социальных взаимодействиях.

"Наши модели уступчивы, позволяя пользователям прерывать и ‘перехватывать микрофон’ в любое время, что, хотя и ожидаемо для AI, было бы противоречием нормам в человеческих взаимодействиях," сказала компания в отчете.

На данный момент OpenAI заявляет, что она стремится создавать AI "безопасно" и планирует продолжить изучение потенциальной "эмоциональной зависимости" пользователей от своих инструментов.