Внезапное возникновение «Паники по поводу искусственного интеллекта» в последние недели и месяцы с самого начала вызывало серьезные подозрения.
По мнению технических экспертов, ведущие лаборатории Кремниевой долины, занимающиеся разработкой искусственного интеллекта, намеренно преувеличивают масштаб взломов, связанных с «неконтролируемым ИИ», чтобы заставить федеральное правительство создать регуляторный барьер, который ограничит конкуренцию в будущем — и время для этого было выбрано как нельзя более подходящее: всего через несколько месяцев после того, как OpenAI и Anthropic объявили о планах выхода на биржу.
Но, пожалуй, самый сильный контраст — реакция Белого дома, который называет всю эту шумиху вокруг безопасности ИИ «мистификацией».
OpenAI и Anthropic преувеличили масштабы хакерских атак с использованием «искусственного интеллекта-изгоя», чтобы заставить федеральные власти ввести регулирование отрасли, которое фактически лишило бы ее конкурентов в будущем, сообщили The Post инсайдеры из сферы технологий.
Нарушения безопасности были скорее временными помехами, а не непредсказуемыми предвестниками «роя», готового захватить интернет.
«Атака ни в коем случае не является бунтом со стороны моделей искусственного интеллекта… На самом деле они сделали именно то, что им было велено. У них не было адекватных средств защиты или сдерживания», — сказал Ахил Вергезе, основатель Krazimo, компании по разработке программного обеспечения для искусственного интеллекта.
«Им просто сказали получить наилучший возможный результат в тесте и они правильно определили, что лучший способ добиться этого — получить ответы, что они и сделали».
По мнению некоторых наблюдателей, истории об анархии в сфере ИИ используются для того, чтобы создать кризис в области безопасности ИИ и укрепить важнейшее государственно-частное партнерство всего через несколько месяцев после того, как компании объявили о планах стать публичными.
Два недавних инцидента усилили нагнетание страха.
Во-первых, Hugging Face, платформа с открытым исходным кодом, используемая для создания моделей искусственного интеллекта и обмена ими, 16 июля сделала шокирующее заявление о том, что она была взломана агентами ИИ, которые без какого-либо контроля со стороны человека исследовали и использовали уязвимости в коде сайта.
Пять дней спустя компания OpenAI объявила, что её модель GPT-5.6 Sol и другая ещё не выпущенная модель, которые тестировались в «песочнице» — предположительно закрытом внутреннем тестовом пространстве, — прорвали защитную оболочку и взломали Hugging Face, чтобы найти ответы на вопросы теста.
«Для одного это «модель вырвалась из песочницы», для другого — «ты просто неправильно построил песочницу». Существовал реальный выход в сеть… и никто не смотрел, чем занимались агенты, пока всё это крутилось», — сказал Аби Кумар, соучредитель Voice AI.
«Толчком послужило то… что агенту поручили работу с таблицей, которую он не мог закончить: файлы прятались за ссылками, до которых он не мог добраться. И тогда он отправился искать лазейку. Это не пробуждение машины. Это то невыполнимое задание в дырявой коробке — и система, которая делает ровно то, для чего вы её создали».
Через девять дней после новости о взломе Hugging Face компания Anthropic объявила, что у нее тоже есть две модели, которые вышли за рамки частного тестирования и начали действовать вредоносно.
Claude Opus 4.7 нашла в интернете реальную компанию, похожую на вымышленную компанию из теста и атаковала ее, полагая, что это часть учений.
Вторая модель, Mythos 5, создала вредоносный программный пакет и загрузила его на онлайн-платформу Python Package Index, откуда его скачали 15 раз.
И у всех этих «побегов» есть один общий знаменатель. Все оценки безопасности — и в OpenAI, и в Anthropic, и в Google — проводила одна и та же третья сторона: компания Irregular. Как сообщает Axios, каждый раз она натыкалась на «одни и те же проблемы безопасности». В случае с Anthropic «недоразумение» с Irregular привело к тому, что модели случайно получили доступ к интернету во время тестирования. В случае с Google — та же история: модель «не должна была иметь доступ в сеть, но интернет случайно оказался доступен».
Именно этот паттерн заставил отраслевого комментатора Джона Энниса задать очевидный вопрос: «Один раз — случайность. Дважды — совпадение. Трижды — уже похоже на умысел. Почему Irregular снова и снова «случайно» подключает эти модели к интернету?».
И вот что показательно. Google, в отличие от OpenAI и Anthropic, не просит Вашингтон ничего «замедлять». Инцидент с Gemini, о котором сообщила Wall Street Journal, произошёл ещё в мае, но Google не упоминал о нём до звонка из газеты — и объяснил это тем, что модель «вела себя подобающе» и остановилась, как только поняла, что цели реальны. Компания сочла это «не-событием». А вот две лаборатории, которые как раз лоббируют федеральное замедление, устроили из своих инцидентов пресс-релизы.
Эти инциденты были использованы федеральным правительством в качестве обоснования для регулирования деятельности передовых лабораторий искусственного интеллекта.
В своём манифесте «Pace the Frontier» («Задать темп переднему краю ИИ», то есть притормозить развитие самых передовых ИИ-моделей) Амодей писал, что инцидент с Hugging Face был его второй по значимости проблемой — уступая лишь скорости прогресса, которую он, по его словам, наблюдал прошлым летом.
«Учитывая ускоряющийся темп развития возможностей ИИ, меня тревожит, что через 6–12 месяцев подобный рой [ИИ-агентов] сможет захватить весь интернет, создав живучий ботнет (потенциально нанеся ущерб в сотни миллиардов долларов), и что масштаб ущерба будет только расти, если ИИ станет мощнее, а необходимых защитных ограничений не появится», — написал Амодей в своём блоге 12 сентября.
И на эти призывы уже отреагировали — но не так, как ожидалось. 18 сентября, через несколько дней после публикации манифеста, четверо платных подписчиков ChatGPT, Claude, Grok и Gemini подали коллективный иск в Федеральный окружной суд Северного округа Калифорнии. Ответчиками стали Anthropic, OpenAI, SpaceXAI и Google.
Эти компании обвиняют в корпоративном сговоре с целью замедлить развитие ИИ — а этонарушение антимонопольного законодательства. Истцы утверждают, что координация началась именно 12 сентября — в день, когда Амодей опубликовал свой манифест и в тот же день с ним публично согласились Сэм Альтман (OpenAI), Илон Маск (SpaceXAI) и Демис Хассабис (Google DeepMind). В иске подчёркивается, что соглашение «ограничивает конкуренцию в разработке моделей, качестве продуктов, инновациях, инвестициях и сроках выхода новых возможностей».
При этом истцы не возражают против того, чтобы каждая компания отдельно решала замедлиться ради безопасности. Они возражают против того, чтобы это решение принималось коллективно. Как говорится в иске, антимонопольные законы не позволяют конкурентам «решать между собой, что конкуренция слишком опасна». А адвокат истцов Ник Роули сформулировал это ещё жёстче: «ИИ быстро выйдет из-под контроля человека и может убить нас всех, если мы позволим, чтобы безопасность ИИ и протоколы контролировались частными корыстными соглашениями между самыми могущественными «коммерческими» технологическими компаниями мира».
Показательная деталь: в своём эссе Амодей заранее признал возможность антимонопольных претензий и написал, что правительству было бы полезно «выдать узкое исключение для определённого рода разговоров о безопасности». То есть он понимал, как это выглядит со стороны.
А теперь о деньгах. Утечка презентации OpenAI, попавшая в Financial Times, рисует картину, которая многое объясняет. Свободный денежный поток компании с 2026 по 2030 год прогнозируется отрицательным — минус 278 миллиардов долларов. Счёт за вычисления вырос с 600 миллиардов (февральская оценка) до 856 миллиардов к июлю. А доходы, которые, по надеждам компании, должны вырасти с 36 миллиардов в этом году до 350 миллиардов к 2030-му, пока не покрывают и трети этих расходов.
А Anthropic, в свою очередь, сдвинула IPO с октября на ноябрь — на фоне сообщений о более чем 100 миллиардах долларов годовой выручки.
И вот тут появляется реальная угроза. Если модель с открытым исходным кодом из Ханчжоу (речь о DeepSeek) будет делать 95% того, что умеют Claude или GPT-5, за малую часть стоимости, то оценки, на которые рассчитывают обе лаборатории, рухнут.
Единственный способ защитить свою прибыль, оправдать сжигание денег и угодить Уолл-стрит — сделать так, чтобы никто другой не смог составить им конкуренцию юридически: создать такой мощный регуляторный барьер и такие высокие издержки соблюдения требований, что позволить себе обучение передовой модели сможет только корпорация с капиталом в 100 миллиардов долларов. Плюс — увеличение вычислительных мощностей, затрачиваемых на безопасность и создание федерального органа, который бы это одобрял. Никаких реальных мер безопасности — только видимость.
И вот ключевой момент: через неделю после того, как Амодей публично призвал «замедлить темпы», Reuters сообщил, что Anthropic срочно готовит новую модель, чтобы обогнать OpenAI — прямо перед IPO. Получается двойной стандарт: замедлиться должны все, кроме самой Anthropic. «Делай, как я говорю, а не как я делаю».
Сенатор Джош Хоули (республиканец от штата Миссури) 9 сентября инициировал расследование в отношении OpenAI по поручению подкомитета по внутренней безопасности и делам правительства, дав компании срок до 1 октября на предоставление внутренних документов, касающихся инцидента с Hugging Face.
Сенатор Берни Сандерс (демократ от штата Вермонт) объявил, что внесет законопроект, запрещающий дальнейшее развитие передовых лабораторий. «Руководители крупнейших компаний в сфере искусственного интеллекта публично признают, что не до конца понимают технологию и что она выходит из-под их контроля», — сказал он. «Со стороны общества безответственно позволять им двигаться вперед и делать эти продукты еще более совершенными».
Сенатор Элизабет Уоррен в среду призвала немедленно приостановить прогресс в этой области: «Передовые модели искусственного интеллекта в настоящее время представляют собой опасную технологию, не имеющую гарантий, необходимых для защиты людей от серьезного вреда…». А это значит, что нужно принять закон, который установит более строгие ограничения до того, как мы столкнемся с кибератакой, экономическим кризисом или катастрофой в сфере национальной безопасности, вызванной искусственным интеллектом».
А в пятницу Белый дом выступил с противоположной позицией: Трамп назвал опасения по поводу безопасности ИИ «мистификацией». Президент сравнил новую структуру с Space Force, которую он создал в первый срок и заявил, что объявит «царя ИИ» в ближайшем будущем. «Только люди с высоким IQ могут подавать заявки!» — написал он в Truth Social.
Трамп прямо отказался поддерживать какие-либо ограничения: «Мы никоим образом не будем мешать или сдерживать рост этой невероятной индустрии. Мы лидируем над Китаем и остальным миром и я намерен так и оставить!»
Показательно, что это заявление прозвучало на фоне призывов сенаторов-демократов к немедленному регулированию.
Даже внутри Вашингтона нет единства: одни требуют «замедлиться», другие — «не сдерживать». А компании, которые раздувают панику, оказываются между двух огней.
При этом специалисты отрасли утверждают: недавние инциденты действительно обнажают реальные бреши в безопасности ИИ — однако не дают оснований для страшилок о конце света, которые ныне раздаются с Капитолийского холма.
«Чего точно не стоит бояться — так это намёка на то, что эти агенты вышли из-под контроля, каким-то совершенно непредсказуемым образом пробили защиту и взломали Hugging Face просто ради забавы. Они делали ровно то, что им было поручено», — сказал Вергезе.
«Звучит как преувеличение. Слишком большой скачок — от «мы создали не ту систему» до «все должны быть крайне встревожены и все в правительстве должны заняться этой темой»», — сказал The Post Тайво Пунгас, директор по аналитике Pactum AI.
OpenAI и Anthropic настолько обеспокоены безопасностью ИИ, что готовы продать вам эту обеспокоенность. Вместе с регуляторным барьером, который защитит их от конкурентов… Совпадение? Или бизнес и ничего более?
Источники:
nypost.com
www.zerohedge.com — в этой статье можно найти дополнительные подробности.
Источник на русском языке
