в

«То, что написано в Google или Яндексе, может иметь жизнеопределяющее значение»

«То, что написано в Google или Яндексе, может иметь жизнеопределяющее значение» Мы привыкли считать Google и Яндекс помощниками, но в современном мире они могут стать врагами. Нейросети уже формируют значительную часть того, что мы видим в интернете, а к 2030 году 90% инфополя займет их творчество, предупреждают специалисты. Неотличимые от настоящих картинки, правдоподобные тексты, в которых при ближайшем рассмотрении можно найти множество грубых ошибок, уже сегодня заполоняют страницы поисковых систем. И это касается каждого, однако мало кто понимает, что с этим можно и нужно что-то делать. Об изменении привычной нам реальности и новых опасностях «Газета.RU» поговорила с основателем компании Orion Solutions Иваном Сафоновым.

— Одна из основных тем Петербургского международного экономического форума 2024 года связана с искусственным интеллектом, с технологиями и опытом их применения. Как вы считаете, как можно оценить текущее положение дел в области ИИ, какие опасности несет применение технологий и как можно оценить потенциал от их использования?

— В нашей компании мы занимаемся созданием и защитой цифрового профиля в Яндекс и Google в России и за рубежом. Я не буду рассказывать про искусственный интеллект в целом. Основное, что привносит ИИ сегодня, — это создание контента. Он создавался и раньше — иногда был правдивым, иногда не очень, иногда ошибочным, иногда намеренно ошибочным. Это много лет продолжается. Ключевое отличие сегодняшней ситуации заключается в том, что искусственный интеллект — особенно создание текстов и изображений — порог входа на создание контента понизил настолько, что теперь это может сделать каждый.

И этот контент постоянно генерируется, тексты постоянно пишутся — хотите вы того или нет.

Простота в создании контента в сочетании с огромной скоростью его распространения уже сегодня ставит нас перед достаточно серьезной проблемой: информация о персоне или о компании может быть недостоверной, не соответствующей действительности не потому, что кто-то так задумал, а просто потому, что так получается. ChatGPT ошибается — это знают все, кто хотя бы однажды с ним сталкивался.

Сегодня понять, что правда, а что неправда — это не такая уж простая задача. И проблема только усугубляется. Мы видим эту тенденцию каждый день.

— Как тогда можно понять, где искать истину? И в чем риски складывающегося положения вещей?

— Риски самые реальные. Приведу вам такой свежий пример. 29 мая один из участников российского списка Forbes выиграл суд против Еврокомиссии. Он доказал, что основания, по которым его включили в санкционный список, несостоятельны.

В чем там суть? Юридический и аналитический департаменты нашей компании проанализировали это дело, изучили решение суда ЕС и его основания. Выяснилось, что в качестве аргументов для введения ограничений Еврокомиссия использовала статью из Википедии, какую-то заметку достаточно желтого характера на каком-то ноунейм-сайте и статью из Forbes, но 2012 года — то есть реально очень устаревшую.

На основе этой информации евробюрократы сделали вывод, что на данного человека следует наложить санкции.

Что сделал человек, в отношении которого были введены санкции? Представил суду свою актуальную реальную биографию. Причем доказывал какие-то факты тоже ссылками из интернета — даже не документами. И этого оказалось достаточно для того, чтобы решение было вынесено в пользу бизнесмена. Это к вопросу о том, что правда, что не правда и что там написано в Google или Яндексе. Зачастую это имеет решающее, а иногда и жизнеопределяющее значение.

— Вы хотите сказать, что информация в сети становится неким инструментом манипуляции?

— Информация стала инструментом манипуляции уже очень давно. Просто то, что мы только что обсуждали, сделало этот инструмент намного опаснее.

За счет искусственного интеллекта стало радикально проще преодолеть барьер для входа в создание и распространение контента. В целом цифровизация как некое явление с нами уже много лет. Технологии прогрессируют очень быстро, а вот все, что касается связанной с этим безопасности отстает существенно.

Причем если с точки зрения кибербезопасности мы хоть и опаздываем, но все же движемся, то с точки зрения именно информационной — что написано, что из этого правда, что неправда — очень серьезно отстаем.

Огромное количество людей — даже таких, как миллиардеры из списка Forbes, — они не просто этим не занимаются, они даже не осознают, что этим надо заниматься и без этого просто нельзя.

— И как с этим бороться?

— Раньше книгу из библиотеки можно было изъять, тираж из киоска можно было изъять. С интернетом, который с нами уже лет 30, так не работает.

Информации в сети много, и ее объемы будут только расти. Вопрос не в том, чтобы в интернете не было каких-то фейк-ньюс, а в том, чтобы там были правильные и достоверные данные. Колоссальное значение имеет, рассказана ли в интернете твоя история, кем, где и как она рассказана.

Аргумент, который мы часто от наших клиентов слышим: про меня и так все, кто надо, знают.

Кто надо и что надо знают, а вот два года санкций — получите и распишитесь. Это мы даже про юридические расходы на доказывание своей правоты не говорим. И еще не факт, что санкции снимут. Сегодня решения принимаются вот так.

— Если кто-то хочет бороться с дезинформацией в интернете, что им делать? Я так понимаю, это сложный процесс.

— Первая идея, от которой надо отказаться раз и навсегда, звучит так: «давайте почистим интернет». Его нельзя почистить. Все, что там написано, оно там навсегда. Все, что написали в онлайне, есть в самих источниках, в СМИ, дублируется какими-то информационными сайтами, иногда это и не очень хорошие сайты, а желтая пресса. Есть механизмы и сервера, которые копируют все, что написано в интернете, и хранят эти данные. Это как чума: один раз что-то запостил — и считай, что это навсегда. Такова реальность и данность.

— Если появилась фейковая история, допустим, ее удалось отследить и отреагировать, опубликовать свою версию, свой взгляд на ситуацию, но ведь это все равно продолжит гулять по интернету?

— Ответ в том, что ты должен делать свое дело. Вокруг тебя происходит много чего — в том числе и в информационном пространстве. Сегодня у тебя все хорошо, завтра у тебя возникли оппоненты и конкуренты, послезавтра им на смену пришли твои партнеры или клиенты — это невозможно контролировать. Вопрос в том, что делаешь ты, чтобы твоя история была рассказана, доступна и видна?

Я рассказывал про исследование кейса с санкциями. Это типичная история: кто-то пошел, посмотрел информацию, тебе даже слова не дали, не было никакого суда.

Основное, что с этим можно сделать, — позаботиться о том, чтобы твоя история, твоя версия была представлена и чтобы она была представлена в как можно более авторитетных источниках.

— ИИ ухудшает ситуацию с количеством фейков в сети?

— Искусственный интеллект экспоненциально ухудшает контент, хотим мы этого или нет. Причем дело не в том, что он целенаправленно против или за кого-то, это просто происходит.

Мы уже говорили о том, что контент сегодня может делать каждый. Порог входа настолько низок, что это просто экспоненциальный рост. Только у нас внутри компании полно разных приложений, которые при участии искусственного интеллекта умеют создавать тексты, картинки и так далее. Этот тренд неизбежен. Знаете, как говорят: вот сейчас искусственный интеллект захватит мир. Да он уже захватил. Это происходит прямо сейчас.

— Что может помочь в этой ситуации? Надо законодательно принимать какие-то решения?

— Да, безусловно. И на многих площадках — в том числе и здесь, на ПМЭФ, — обсуждается, каким образом и какое регулирование необходимо ввести. И оно будет введено. Я абсолютно уверен, что будут сформулированы и приняты правила, какие-то тематические кодексы, технологические меры.

Но поставим вопрос следующим образом. Например, у нас в редакции уже практически никогда текст не создается только человеком. Его пишет машина, потом с ним работает человек, и в конечном продукте может быть так, что 50% текста принадлежит ИИ, 50% человеку. Вот это сгенерированный контент или нет? То же самое с дизайнерами и изображениями. Мы берем из Midjourney красивый фон, а художник рисует героя. Или наоборот — машина рисует героя, а художник рисует фон. Это сгенерированный или не сгенерированный контент?

Грань так просто не прочертишь. Это некий гибрид.

То есть одним регулированием, технологическими мерами этот вопрос все же не решить. Он идеологически стоит. Этот контент — он не полностью автоматический, в его создании в разной степени участвует человек.

Нам еще предстоит определиться, что с этим делать. Возвращаясь к вашему вопросу, отмечу, что есть такая расхожая фраза — «асимметричный ответ». Ответ заключается в том, что ты свою правильную версию излагаешь и делаешь так, чтобы она была представлена в публичном поле. Это главное, что можно и нужно делать.

Что думаешь? Комментарии

Присоединяйтесь к нам в Google News, чтобы быть в курсе последних новостей
Love
Haha
Wow
Sad
Angry
Вы отреагировали на "«То, что написано в Google или Яндексе, может и..." Только что