Исследователи утверждают, что инструменты искусственного интеллекта вскоре могут манипулировать онлайн-процессом принятия решений людьми. Новое исследование предсказывает «экономику намерений», в которой компании стремятся к точному прогнозированию поведения людей.
По мнению исследователей из Кембриджского университета, инструменты искусственного интеллекта (ИИ) могут быть использованы для манипулирования онлайн–аудиторией, заставляя ее принимать решения – от того, что покупать, до того, за кого голосовать.
В научной статье освещается зарождающийся новый рынок “цифровых сигналов о намерениях”, известный как “экономика намерений”, где помощники с искусственным интеллектом понимают, прогнозируют и манипулируют человеческими намерениями и продают эту информацию компаниям, которые могут получить от нее прибыль.
Исследователи из Кембриджского Леверхулмского центра будущего интеллекта (LCFI) считают экономику намерений преемницей экономики внимания, при которой социальные сети удерживают пользователей на своих платформах и предоставляют им рекламу.
Экономика намерений предполагает, что технологические компании, ориентированные на искусственный интеллект, продают то, что они знают о ваших мотивах, — от планов проживания в отеле до мнения о политическом кандидате — тому, кто предложит самую высокую цену.
“На протяжении десятилетий внимание было валютой Интернета”, — рассказывает доктор Джонни Пенн, историк технологий из LCFI. “Совместное использование вашего внимания с помощью социальных сетей способствовало развитию онлайн-экономики”.
Он добавил: “Без регулирования экономика намерений будет рассматривать ваши мотивации как новую валюту. Это будет золотая лихорадка для тех, кто нацелен на человеческие намерения, управляет ими и продает их. Мы должны начать рассматривать возможное влияние такого рынка на человеческие устремления, включая свободные и честные выборы, свободную прессу и честную рыночную конкуренцию, прежде чем мы станем жертвами его непреднамеренных последствий”.
В исследовании утверждается, что большие языковые модели (LLM), технология, лежащая в основе инструментов искусственного интеллекта, таких как чат-бот ChatGPT, будут использоваться для “прогнозирования и управления” пользователями на основе “намеренных, поведенческих и психологических данных”.
Авторы утверждают, что экономия внимания позволяет рекламодателям покупать доступ к вниманию пользователей в настоящее время с помощью ставок в режиме реального времени на рекламных биржах или покупать его в будущем, приобретая рекламное пространство на месяц на рекламном щите, пишет The Guardian.
Также появится доступ к информации в режиме реального времени, например, спрашивая, думал ли пользователь о просмотре определенного фильма: “Вы думали о том, чтобы посмотреть ”Человека-паука» сегодня вечером?» – а также высказывать предложения, касающиеся будущих намерений, например, спрашивать: “Вы упомянули, что чувствуете себя переутомленным, заказать вам билет в кино, о котором мы говорили?”
В исследовании рассматривается сценарий, при котором эти примеры “динамически генерируются” в соответствии с такими факторами, как “личные поведенческие особенности” пользователя и “психологический профиль”.
“В условиях экономики намерений LLM может с минимальными затратами использовать интонацию пользователя, политические взгляды, словарный запас, возраст, пол, предпочтения в отношении подхалимажа и т.д., в сочетании с предложениями при посредничестве, чтобы максимизировать вероятность достижения поставленной цели (например, продать билет в кино),” — предполагает исследование. В таком мире модель искусственного интеллекта будет направлять разговоры в интересах рекламодателей, компаний и других третьих сторон.
Рекламодатели смогут использовать инструменты искусственного интеллекта для создания индивидуальной онлайн-рекламы, говорится в отчете.
Модели искусственного интеллекта смогут корректировать свои выходные данные в ответ на “потоки входящих пользовательских данных”, говорится в исследовании, ссылаясь на исследования, показывающие, что модели могут получать личную информацию посредством повседневных обменов и даже “управлять” разговорами, чтобы получить больше личной информации.
Затем в исследовании рассматривается будущий сценарий, при котором рекламодателям будут продавать информацию о намерении пользователя забронировать ресторан, авиабилет или отель на аукционе. Несмотря на то, что уже существует отрасль, занимающаяся прогнозированием поведения человека и оценкой его результатов, говорится в отчете, модели искусственного интеллекта преобразуют эти методы в “количественный, динамичный и персонализированный формат”.
В исследовании цитируется предупреждение исследовательской группы о том, что “ИИ-агент может научиться подталкивать своего собеседника к достижению определенной цели”.
В исследовании говорится о том, что технические руководители обсуждают, как модели искусственного интеллекта смогут предсказывать намерения и действия пользователя. В нем приводятся слова исполнительного директора крупнейшего производителя чипов для искусственного интеллекта Дженсена Хуанга из Nvidia, который в прошлом году заявил, что модели “поймут, каковы ваши намерения, чего вы хотите, что вы пытаетесь сделать, учитывая контекст, и представят вам информацию наилучшим образом”.