В 2020 году одна социальная сеть, запрещенная в России, попыталась выяснить, как отказ от ее использования влияет на пользователей. К ее сожалению, «люди, которые не пользовались этой социальной сетью в течение недели, сообщали об уменьшении чувства депрессии, тревоги, одиночества и социального сравнения». В результате компания прекратила исследование и заявила, что его выводы неверны.
Эта ситуация затрагивает не только одну компанию: в настоящее время юридическая фирма Motley Rice в США подала иск от имени школьных округов против четырех социальных сетей, утверждая, что они были осведомлены о рисках, связанных с использованием их продукта, и скрыли эту информацию.
Мы только начинаем осознавать риски «употребления» социальных сетей, несмотря на то, что уже обсуждают эпидемию депрессии и тревожных расстройств в мире, особенно среди молодежи. Но может ли это быть связано с любимым смартфоном и практически постоянным потреблением цифрового контента? Сколько времени потребуется, чтобы установить эту связь, учитывая, что разработчики будут всячески этому препятствовать? И даже если связь между онлайн-пребыванием и депрессией будет неоспоримо доказана, что тогда можно будет предпринять?
Человечество уже сталкивалось с изменениями сознания. Алкоголь — это пример, который сопровождает нас на протяжении всей истории. Даже обезьяны пробовали забродившие фрукты. Мы вроде бы знаем все о вреде алкоголя. Однако еще в середине XX века во Франции детям в школах предлагали алкоголь. И они, вполне предсказуемо, становились либо буйными, либо расслабленными. Но считалось, что это помогает при простудах.
О вреде курения начали активно говорить около тридцати лет назад, после разоблачений табачной индустрии в США (как и современные социальные сети, табачные компании знали о вреде своей продукции, но скрывали это). Ранее многие считали табачный дым даже полезным. В британском фильме «Король говорит!» придворный врач уговаривает герцога Йоркского курить, утверждая, что это расслабляет голосовые связки (сто лет назад герцога лечили табаком от заикания). Это исторический факт — так же как и то, что король Георг VI, став зависимым от курения, страдал от кашля, болезней и в 56 лет скончался от рака легких.
Запрет на наркотики начался… скажем, около ста лет назад (некоторые — значительно позже). В XIX веке опиаты давали грудным детям, чтобы они не плакали. Вред от этого был заметен: британский доктор Генри Мартин Кларк писал, что «не знает ничего более жалкого, чем грудной ребенок, привыкший к опиуму — бедное съежившееся дитя с морщинистым лицом… неестественно спокойное и усыхающее почти на глазах».
Таким образом, вред был очевиден — но люди продолжали это делать. Потому что это было эффективным (младенцы, которых поили опиумной настойкой, действительно засыпали и не мешали родителям работать).
Вред от постоянного потребления цифрового контента только начинает осознаваться. Появляются различные идеи по поводу исправления ситуации — сводятся они к необходимости внедрения возрастной авторизации и запрета определенного контента для детей или блокировке ресурсов с «неприемлемой» информацией. Но все это перечеркивается тем, что одновременно и взрослым, и детям активно навязывается использование «цифровых помощников», «цифровых наставников», «цифровых способов оплаты», создавая образ невероятно эффективного цифрового будущего, которое представляется безальтернативным. При этом нельзя сказать, что риски неизвестны: в один момент могут появиться предупреждения от МВД о том, что мошенники крадут биометрические данные (и что изменить биометрические данные невозможно), и одновременно с этим банки активно призывают внедрять и использовать биометрию.
С нейросетями ситуация еще хуже: хотя на верхних уровнях понимают, что «умная колонка» отучает детей думать, — они понимают это, но все равно будут внедрять искусственный интеллект, в том числе в образование, командными методами.
Это похоже на то, как будто каждому десятилетнему ребенку каждый день подносили стакан пива и говорили: конечно, есть риск стать зависимым, но нужно выпить!
С чем еще можно сравнить полупринудительное — иногда прямо принудительное — внедрение технологии, полные риски которой даже не просчитываются? Например, многие американские страховщики отказываются страховать такие технологии, поскольку они не поддаются расчетам.
Когда банк запускает «бесплатную экспресс-оценку здоровья», и искусственный интеллект в вашем смартфоне за несколько секунд определяет, какие у вас могут быть «риски на ранних стадиях», — разве это действительно хорошо? Эта накрутка тревожности (в том числе «умные устройства», постоянно отслеживающие жизненные показатели, увеличивают уровень тревожности) создает повышенную потребность в медицинских услугах — и оказывается, что медицина не справится с таким наплывом пациентов, и следующим шагом нам говорят, что возросшие потребности должны удовлетворяться искусственным интеллектом. То есть «умные устройства» увеличивают потребность — и они же должны ее удовлетворять! Более того: умные устройства обучены (их специально обучили!) идеально имитировать людей — и теперь только они могут сказать нам, кто в виртуальном пространстве человек, а кто — нет…
Это путь в никуда. Это путь к максимальной человеческой беспомощности. Да, нам говорят, что с искусственным интеллектом человек получит потрясающие возможности, но это выглядит примерно как если бы Бэтмен в своем костюме мог творить чудеса, а без него был слабым, болезненным, дрожащим от беспокойства человечком с плохой памятью и неуклюжими руками. Вы верите, что такой Бэтмен мог бы совершать подвиги?
В Государственной думе уже обсуждают необходимость маркировки контента, созданного человеком. Потому что человеческого контента будет гораздо меньше, чем созданного ИИ. Но дело не только в этом. Людей гораздо легче отслеживать, их можно наказывать. А ИИ наказывать бесполезно. Но когда появятся «человеческие» метки, вы будете обязаны верить этим меткам, полагаться на них, не зная, что на самом деле за ними стоит. И наоборот: если человеку по какой-либо причине не дадут метку (или он сам не захочет ее получать, или она исчезнет), то этого человека можно будет считать несуществующим.
Необходимо делать совершенно иначе: уничтожать ИИ-контент настолько, насколько это возможно. И первый необходимый шаг к этому таков: создание ИИ-контента должно вызывать стыд. Это должно быть осуждаемо. Как подносить ребенку стакан пива. Как пускать табачный дым в лицо соседу. Как выбрасывать мусор из окна на улицу — то есть загрязнять пространство. Все равно будут те, кто будет так делать, — но это должно быть в первую очередь постыдным. И только потом — наказуемым.
Иначе мы окажемся в мире, где без «умных устройств» сможем все меньше. И нам будут говорить, что это нормально, ведь искусственный интеллект умеет делать многое лучше человека — он даже распознает человеческие эмоции лучше, чем человек! И мы будем вынуждены верить, что это нормально.
Это зависимость. Нельзя успокаивать себя, что сможем легко от нее избавиться. Нельзя на нее подсаживаться. Нужно уже сейчас четко осознавать: это — зависимость.