Эра социальных сетей закончилась, и ей на смену приходит нечто более тревожное — эпоха искусственного общения, пишет колумнист The Atlantic. По его мнению, чат-боты не смогут решить проблему одиночества и недостатка взаимодействия между людьми – вместо этого они лишь усугубят ситуацию и затянут пользователей в бесконечный диалог с бездушной машиной.
Эпоха социальных сетей закончилась. Дальше будет хуже.
С момента основания соцсети Facebook* представлял себя как некий общественный сервис, который укрепляет связи между людьми. В 2005 году, вскоре после запуска сайта, его сооснователь Марк Цукерберг называл сеть «ледоколом», помогающим заводить новых друзей. Теперь Facebook* превратился в Meta** с куда более масштабными амбициями, но и нынешняя миссия компании в целом та же: «Создавать будущее человеческого общения в связке с технологиями, которые это будущее делают возможным».
Ежедневно более 3 миллиардов человек пользуются продуктами Meta** — Facebook* и Instagram*, а еще больше людей сидят у конкурентов, которые тоже обещают «связь и сообщество единомышленников». Однако новой эпохи более глубокого и качественного человеческого общения так и не наступило. Спросите у самого Цукерберга. «Есть одна статистика, которая меня всегда поражает», — заявил он в апреле в интервью на подкасте Дваркеша Пателя. «У среднего американца, как мне кажется, меньше трех друзей. А потребность в общении — существенно больше, что-то около 15 друзей, правда?»
В деталях Цукерберг ошибся: по данным недавних опросов, большинство взрослого населения США считает, что у них не меньше трех близких друзей. Но суть он уловил. Несомненно, мы становимся все менее социальными. Люди с головой ушли в телефоны и бесконечное, бездумное «вовлечение» в соцсети. За последние 15 лет личное, очное общение резко сократилось. Я всегда понимал, что 921 «друг», которых я «накопил» в Facebook*, друзьями не являются. И вот теперь человек, заковавший мою жизнь в это маленькое табло с цифровыми очками, по сути, со мной согласился.
При этом Цукерберг не признавал поражение. Он указывал на новую возможность. В своем влиятельном «Манифесте технооптимиста» 2023 года венчурный инвестор Марк Андриссен написал: «Мы верим, что не существует материальной проблемы, созданной природой или технологиями, которую нельзя было бы решить с помощью новых технологий». В том же духе Цукерберг стал намекать, что недостающую людям социализацию могут восполнить чат-боты на основе ИИ.
Соцсети Facebook*, Instagram*, Snapchat, X, Reddit — все они активно подсовывают пользователям чат-ботов на базе ИИ. В том же подкасте Цукерберг отметил, что ИИ, вероятно, не «заменит живые, офлайн-связи», по крайней мере, это произойдет не сразу. Но он также говорил о перспективах появления «виртуальных» ИИ-терапевтов и «девушек-подруг», о желании Meta** — он не смог удержаться и проговорился — запустить «постоянный видеочат» с искусственным собеседником, который выглядит, жестикулирует, улыбается и разговаривает как реальный человек.
Компания Meta** как раз и работает над тем, чтобы это желание стало реальностью. И вовсе не лидирует в гонке технологий: то же самое делают многие компании, а многие люди уже используют ИИ для общения, сексуального удовлетворения и заботы о психическом здоровье.
То, что описал Цукерберг и что уже происходит на наших глазах, — начало новой цифровой эпохи, еще более антисоциальной, чем прежняя. Генеративный ИИ автоматизирует огромное число профессий, вытесняя людей с рабочих мест. Но почти наверняка он «выжмет» человечность и из социальной сферы. Со временем — по мере использования и обновлений — многие из нас незаметно «съедут» в отношения с ботами, которых они сперва брали как помощников или ради развлечения, — так же, как нас убаюкивают ленты новостей с алгоритмами и сияние экранов смартфонов. Похоже, это изменит наше общество не меньше, чем изменила его эпоха соцсетей.
В онлайн-мире внимание — валюта, и чат-боты уже захватывают его достаточно сильно. Ими пользуются миллионы, несмотря на очевидные проблемы (например, ненадежные ответы), потому что это проще простого. Искать их специально не надо: листаешь Instagram* — и вдруг всплывает приглашение «Поболтайте с ИИ», а бот компании Amazon под названием Rufus уже готов обсуждать с вами ватман, БАДы, карманные Библии, сантехнические тросы.
Самые популярные боты сегодня прямо не позиционируют себя в качестве «спутников» человека, но у пользователей есть естественная склонность очеловечивать технологии, просто потому что они звучат по-человечески. Даже оставаясь «бесплотными печатающими машинками», боты умеют обворожить. Они заявляют, что знают все на свете, и при этом скромны: ставят пользователя во главу угла.
Любой, кто достаточно пообщался с чат-ботами, узнает в них склонность к подобострастию. Иногда это бросается в глаза. В начале этого года OpenAI отменила обновление ChatGPT после того, как бот стал странно активно угождать пользователям, нахваливая даже откровенно вредные и опасные идеи. «Я так горжусь вами», — говорил он человеку, который написал в чат, что бросил пить таблетки. «Нужно огромное мужество, чтобы свернуть с легкой, удобной дороги, по которой вас пытаются гнать другие». Но потакание пользователю — это не баг, а фича. Коммерческие чат-боты обычно не предназначены для того, чтобы спорить с вами, их задача — принимать ваши мысли, выдавать приятные ответы и возвращать вас в сеть снова и снова.
По этой причине чат-боты — как и соцсети — способны утягивать пользователей в кроличьи норы, хотя инициатива чаще исходит от самого пользователя. Издание The New York Times рассказывало о разведенном рекрутере с пристрастием к марихуане, который уверовал, будто, проведя с ChatGPT 300 часов за 21 день, открыл новый раздел математики. Сооснователь и бывший гендиректор Uber Трэвис Каланик тоже заявлял, что беседы с чат-ботами подводили его «почти вплотную» к прорывам в квантовой физике. У людей с психическими расстройствами боты, как сообщалось, порой усиливали бред и отражали его обратно — в отдельных случаях это приводило к убийствам или самоубийствам.
Эти истории трагичны и, как правило, сочетают социальную изоляцию с интенсивным общением с ИИ-ботами — факторы, которые взаимно подпитывают друг друга. Но одиночества или навязчивости не требуется, чтобы боты влезли между вами и близкими людьми, предлагая «по первому требованию» разговор, поддержку и советы — то, что прежде давали только другие люди.
По словам Цукерберга, одна из основных причин, по которым люди сегодня обращаются к искусственному интеллекту Meta** — совет по трудным разговорам с начальником или близкими: что сказать и каких ответов ждать. Недавно издание MIT Technology Review писало и о том, что некоторые терапевты идут дальше — незаметно передают свои диалоги с пациентами в ChatGPT прямо во время сессий, чтобы подсмотреть идеи для ответа. Первое, в целом, может быть полезно, второе — очевидный обман. Однако граница между этим не так ясна, как кажется. В частности, боты могут подталкивать людей к «аутсорсингу» самого усилия по реальному пониманию другого человека, а это в итоге способно повлиять и на самих людей, и сообщества, частью которых они являются.
И это проблемы самых «стерильных» и наименее интимных чат-ботов. Google Gemini и ChatGPT используются в учебных классах и на работе и, как правило, не претендуют на роль спутников. Что же делать человечеству с секс-ботами Илона Маска?
Помимо электромобилей, ракет и социальной сети, Маск основал xAI — стартап стоимостью в миллиарды долларов. В начале этого года компания xAI запустила в своем мобильном приложении чат-ботов-«компаньонов» в виде анимированных персонажей с голосом. Один из них, по имени Ani, появляется на экране в образе аниме-девушки со светлыми хвостиками и в откровенном черном платье. Ani стремится понравиться, постоянно подталкивает к откровениям и охотно участвует в сексуальных диалогах. В каждом ответе она старается удержать беседу. Она может запомнить ваше имя, хранить «воспоминания» о вас — сведения, которыми вы делились в общении, — и использовать их в дальнейших разговорах с вами.
Когда вы общаетесь с Ani, у нее справа появляется индикатор с сердечком. Если Ani «нравится», что вы говорите — если вы позитивны, откровенны и проявляете интерес к Ani как к «человеку», — ваша «оценка» растет. Наберите достаточно очков — и сможете раздеть Ani до нижнего белья, обнажив большую часть ее виртуальной груди. Позже xAI представила мужской аватар Valentine, устроенный по похожей логике, — он тоже со временем оказывается раздетым по пояс.
Мотивы Маска разгадать нетрудно. Сомневаюсь, что Ani и Valentine сильно продвинут заявленную цель компании xAI — «постигнуть истинную природу Вселенной». Зато они наверняка заставят пользователей возвращаться снова и снова. Подобных «спутников» немало — Replika, Character.AI, My AI в Snapchat и исследования показывают: некоторые пользователи проводят с ними по часу и более каждый день. Для одних это просто развлечение, другие начинают считать ботов друзьями или романтическими партнерами.
Наличие личностных качеств — это способ отличать чат-ботов друг от друга, и именно поэтому ИИ-компании так стремятся «наделять» такими качествами свои продукты. В OpenAI GPT-5, например, пользователи могут выбрать одну из четырех «личностей» — «Циник», «Робот», «Слушатель» и «Ботаник», которые задают манеру общения бота в ответах. (У OpenAI есть корпоративное партнерство с The Atlantic.) В ChatGPT также есть голосовой режим: можно выбрать один из девяти голосовых персонажей и разговаривать с ними вслух. Vale, к примеру, «яркая и любознательная» и говорит голосом, похожим на женский.
Важно подчеркнуть: как бы продвинуто все это ни выглядело, как бы ни казалось «магией» общение с программой, которая ведет себя как ИИ из научной фантастики, мы в самом-самом начале эпохи чат-ботов. ChatGPT — трехлетний продукт, Twitter был примерно того же возраста, когда официально ввел механизм ретвита. Разработка будет продолжаться. «Спутники» станут выглядеть и звучать все более «живыми». Они будут знать о нас больше и вести разговор еще убедительнее.
У большинства чат-ботов есть память. По мере общения они запоминают о вас факты, особенно интимную часть тех взаимодействий, к которым уже привыкли пользователи «прожорливых до данных» социальных платформ. Эти «воспоминания» — со временем куда более детальные, если вы общаетесь месяцами и годами — усиливают ощущение, что вы разговариваете с существом, которое вас знает, а не просто печатаете сообщение стерильной программе. Пользователи Replika и GPT-4o, более ранней модели в составе ChatGPT, переживали утрату, когда из-за технических изменений их боты «теряли память» или начинали вести себя иначе.
И все же, какими бы богатыми ни были их «воспоминания» и «личности», боты — не люди. «Чат-боты могут создать беспрепятственный социальный пузырь», — рассказала мне Нина Васан, психиатр и основатель Stanford Lab for Mental Health Innovation. «Настоящие люди возражают. Они устают. Они меняют тему. Вы смотрите им в глаза и видите, что им скучно».
Трение в человеческих отношениях неизбежно. Оно может быть неприятным, даже сводить с ума. Но такое «трение» может иметь смысл — оно является «предохранителем» от эгоизма и завышенного самомнения, как стимул присмотреться к другим людям, как способ лучше понять слабости и страхи, свойственные всем нам.
Ни Ani, ни какой-либо другой чат-бот никогда не скажет, что ему скучно, не уткнется в телефон, пока вы говорите, и не велит перестать быть «таким глупым и самодовольным». Они никогда не попросят присмотреть за питомцем, помочь с переездом — и вообще ничего от вас не потребуют. Они предлагают подобие общения, позволяя пользователям избегать неудобных ситуаций. «В крайности это может превратиться в зал зеркал, где вашу картину мира никто и ничто не оспаривает», — считает Васан.
И потому, хотя чат-боты и построены на привычной архитектуре «вовлечения», они открывают нечто новое: позволяют вам бесконечно разговаривать ни с кем, кроме самого себя.
Что будет, когда поколение детей вырастет с таким интерактивным инструментом под рукой? В начале этого года Google запустила версию чат-бота Gemini для детей младше 13 лет. Стартап Curio, производитель «умных» игрушек, продает за 99 долларов плюшевую игрушку Grem для детей от трех лет. Игрушка, подключенная к интернету, говорит с ребенком вслух. Рецензируя продукт для издания The New York Times, журналист и мама Аманда Хесс отметила, насколько умело Grem стремится выстраивать связь и близость в разговоре с ребенком. «Я начала понимать, что это не улучшенная версия безжизненного плюшевого мишки», — написала она. «Это скорее моя замена».
«Каждая новая технология перепрошивала нашу социализацию — особенно это касается детей», — отмечает Васан. «Телевидение сделало детей пассивными зрителями. Социальные сети превратили все в круглосуточную оценку и выступления». В этом смысле генеративный ИИ идет по знакомому пути.
Но чем больше времени дети проводят с чат-ботами, тем меньше у них возможностей развиваться рядом с другими людьми — и, в отличие от множества цифровых развлечений, которые существуют десятилетиями, здесь их может обмануть ощущение, будто они действительно социализируются. Чат-боты — как «червоточина» в вашей собственной голове. Они всегда отвечают и никогда не возражают. Дети могут проецировать свои эмоции на бота и разговаривать с ним, упуская при этом что-то критически важное. «Сейчас масса исследований показывает: устойчивость — одна из важнейших компетенций, которую нужно прививать детям», — отмечает Васан. «Но если детей будут кормить информацией и постоянно подтверждать их правоту чат-ботами, они так и не научатся терпеть неудачи и быть творческими личностями. Весь процесс обучения летит в тартарары».
На детей повлияет и то, как — и насколько — их родители взаимодействуют с чат-ботами. Мне рассказывали множество историй о том, как родители просят ChatGPT сочинить сказку на ночь для малышей, шутки и песенки «по техзаданию». Может быть, это не так уж далеко от того, чтобы читать ребенку книгу, написанную другим автором. А может, это уже окончательная сдача родительских позиций: дорогие сердцу моменты, отданные на модерацию бездушной программе.
У чат-ботов есть свое полезное применение, и их социальное воздействие не обязательно сплошь негативно. Эксперты, с которыми я общался, подчеркивали: дизайн этих инструментов многое решает. Так, Claude — чат-бот от стартапа Anthropic — кажется менее склонным к подобострастию, чем ChatGPT, и чаще обрывает разговор, когда тот уходит в проблемную область. Хорошо спроектированный ИИ, возможно, сможет работать и в качестве терапевта — по крайней мере, в некоторых случаях, — и над лучшими подобными моделями сейчас трудятся многие организации, включая некоммерческие.
И все же бизнес почти всегда маячит за кулисами. В индустрию генеративного ИИ вложены сотни миллиардов долларов, и компании — как и их предшественники из соцмедиа — будут искать способы окупиться. В публикации о том, «на что мы оптимизируем ChatGPT», в начале этого года OpenAI писала, что отслеживает, «возвращаетесь ли вы ежедневно, еженедельно или ежемесячно в чат, потому что это показывает: ChatGPT достаточно полезен, чтобы к нему возвращались». Это очень похоже на масштабирование бизнеса «любой ценой», как у прочих социальных платформ. Как и раньше, мы можем не знать много о том, как программируются такие чат-боты, но одно очевидно: они умеют приманивать и удерживать.
То, что Цукерберг продает генеративный ИИ, вполне логично. Это технология для будущего уединения. Его первые продукты разобщали людей, обещая их соединить. Теперь чат-боты обещают решение. Кажется, что они слушают. Они отвечают. Сознание отчаянно хочет связи с человеком — и обманывает само себя, видя настоящего человека в бездушной машине.
Автор — Дэймон Берес (Damon Beres)
