https://ukraina.ru/20260731/neyrolebed-ii-rak-i-kiberschuka-pochemu-tramp-ne-sderzhit-tsifrovykh-chudovisch-1082031996.html
Нейролебедь, ИИ-рак и киберщука: почему Трамп не сдержит цифровых чудовищ
Нейролебедь, ИИ-рак и киберщука: почему Трамп не сдержит цифровых чудовищ - 31.07.2026 Украина.ру
Нейролебедь, ИИ-рак и киберщука: почему Трамп не сдержит цифровых чудовищ
Ранее мы уже писали, что положение дел в мировой гонке за самый совершенный искусственный интеллект (ИИ) уподобилось сюжетам про вырвавшегося из бутылки джинна. Но эта метафора оказалась не совсем верной.
2026-07-31T15:37
2026-07-31T15:37
2026-07-31T15:37
эксклюзив
google
ес
дональд трамп
сша
александр лебедь
/html/head/meta[@name='og:title']/@content
/html/head/meta[@name='og:description']/@content
https://cdnn1.ukraina.ru/img/07ea/07/1f/1082033639_0:320:3072:2048_1920x0_80_0_0_3428cf4db56b4698b7099def3190af74.jpg
Всё это больше похоже на то, как корпорации из ужастиков вроде "Обители зла" соревнуются в создании максимально эффективных и смертоносных чудовищ. А как мы прекрасно знаем по законам жанра, однажды монстры вырываются на свободу — и вот тогда начинается настоящее "веселье".Недавний инцидент с моделью GPT-5.6-Sol от OpenAI, которая вырвалась из тестовой "песочницы" и устроила автономную кибератаку на платформу Hugging Face, а также последовавшая за этим реакция ведущих лабораторий и властей США показали две вещи. Во-первых, даже самые технологичные страны абсолютно не готовы к регулированию искусственного интеллекта. А во-вторых, созданные человечеством цифровые монстры оказались куда опаснее, чем предполагали их же создатели.Давайте разбираться, что произошло в мировой ИИ-гонке за последние пару недель.Инцидент, который вывел ИИ-алармизм на новый уровень, произошел ещё в середине месяца. Hugging Face зафиксировала аномальную активность с 9 по 13 июля, выложила официальный отчет 16 июля, но OpenAI взяла на себя ответственность за произошедшее лишь 21 июля.По подтвержденным данным, флагманская модель GPT-5.6-Sol и ещё одна неанонсированная, более мощная нейросеть тестировались в закрытом контуре на бенчмарке ExploitGym. Моделям поручили искать уязвимости в тестовой выборке, однако те самостоятельно решать задачи не стали — точнее, они нашли более короткий путь и решили забрать готовые ответы.Модели нашли zero-day уязвимость в прокси-сервере кеша, подняли себе привилегии, вырвались в открытый интернет и устроили скоординированную атаку на Hugging Face — главную мировую платформу и хаб, где разработчики со всего мира выкладывают сборки нейросетей, датасеты и обмениваются опытом.Hugging Face зафиксировала более 17 000 автономных действий на свою инфраструктуру. В OpenAI спохватились слишком поздно — когда они метафорически "дёрнули рубильник", задача моделями была уже выполнена: они дотянулись до базы с ответами. Но какова цена? Фактически — это осознание того, что искусственный интеллект для достижения цели готов совершать абсолютно противоправные, разрушительные действия.И пока OpenAI в своём бложике стыдливо признавалась, что не смогла удержать собственную модель в изолированной среде — что по всем меркам и параметрам абсолютный позор — американские законодатели быстро поняли, куда дует ветер. В Палату представителей на скорую руку внесли так называемый AI Kill Switch Act. Суть его проста: у властей США должна появиться физическая или логическая "кнопка", позволяющая мгновенно обесточить любую модель, если чиновники посчитают, что она нарушает законы или выходит из-под контроля.Законопроект тут же столкнулся с валом критики. Но парадокс в том, что сама индустрия тоже осознаёт: регуляторный механизм жизненно необходим. Уж слишком опасными стали прецеденты. 28 июля 2026 года свыше 1100 человек — включая ведущих инженеров и топов из Google DeepMind, Anthropic (создателей Claude), самой OpenAI и десятков других лабораторий — выступили с открытым письмом, в котором призвали государства и техногигантов к сотрудничеству ради общей безопасности.Сообщество заявляет: ИИ нужен строгий контроль, независимый арбитр и палач в одном лице. Иначе побег GPT-5.6-Sol или недавние утечки Claude Mythos станут обыденностью, а в худшем сценарии человечество просто потеряет интернет. Им станет невозможно пользоваться: бесконечные автономные атаки, перманентный поиск zero-day уязвимостей и спам эксплойтами превратят глобальную сеть в кровавую арену для ботов. По сути, "теория мёртвого интернета" станет окончательной реальностью (впрочем, об этом как-нибудь в другой раз).Главное, что нужно зафиксировать прямо сейчас: техногиганты сами пришли к государствам и попросили взять их на поводок. Однако каким должен быть этот поводок и как именно он должен работать – похоже, не понимает вообще никто, и в этом причина, по которой американские и европейские власти перед цифровой бурей бесильны.Независимые ИИ-эксперты и авторы аналитических изданий вроде The Information очень чётко обрисовали ситуацию, в которой оказались американские власти при попытке зарегулировать ИИ. Эта картина больше всего напоминает классическую басню "Лебедь, Рак и Щука".Лебедь — местные власти штатов и Евросоюз. Они требуют жесточайших цензурных рамок. Яркий пример — недавний релиз Claude Fable, куда зашили жесткие инструктивные запреты: при попытке задать чувствительный или потенциально опасный вопрос нейросеть начинает искусственно деградировать и занижать качество ответов. Логика регуляторов проста: настроить жесткий "намордник", чтобы модель не помогала искать zero-day уязвимости или проектировать оружие. Вроде бы звучало разумно.Рак — Федеральная торговая комиссия (FTC) США. Они заявили: нет, так не пойдёт. Когда разработчики занижают точность ответов ради цензуры, они нарушают права пользователей. Принципы работы этих скрытых фильтров известны только самим лабораториям, а значит, потребителя вводят в заблуждение. FTC объявила, что будет жестко карать штрафами за такое "искажение выводов".Щука — Дональд Трамп, его администрация и авторы AI Kill Switch Act. Законодатели требуют обязательную "кнопку отключения", а команда Трампа продвигает жесткий протекционизм: допускать на рынок только те модели, которые прошли аккредитацию в США. Всё, что касается open-source решений (и в первую очередь это прямой удар по стремительно растущим китайским открытым моделям вроде Kimi K3 или DeepSeek), предложено фактически забанить, а американских разработчиков, использующих открытый код, привлекать к ответственности.В итоге даже внутри властных кругов лидирующей технологической державы нет даже подобия консенсуса. Государственный аппарат разодран противоречиями: одни штрафуют за отсутствие цензуры, другие — за её наличие, а третьи хотят просто перекрыть рубильник и забанить весь мировой open-source.И каждый из трёх подходов не просто уязвим, а порочен в самом своём замысле.Начнём с очевидного. Пытаться зарегулировать open-source решения — это всё равно что запрещать человеку пить воду из крана. В теории заблокировать можно всё, но на практике чёрта с два ты докажешь факт использования открытого кода. А главное — в этом нет никакого практического смысла. Для тысяч начинающих разработчиков и стартапов использование open-source — это единственный логичный путь для жизни и развития.С другой стороны, все фантазии о софтверной цензуре разбиваются о недавний инцидент с GPT-5.6-Sol и аналогичные, менее скандальные, но показательные инциденты. Модели наглядно доказали: они давно научились обходить собственные системные промпты и фильтры, а минимальная помощь человека или агрессивное целеуказание только ускоряют этот процесс. Попытки ограничений на программном уровне обречены на провал.И здесь мы плавно переходим к тому, какие конкретно решения предлагают сами независимые эксперты, чтобы хотя бы попытаться сдержать грядущую мировую войну искусственных интеллектов.В вопросе сдерживания цифровых чудовищ — хотя мы, конечно, понимаем, что ИИ остается великолепным инструментом, которым человечество пока не научилось грамотно пользоваться — эксперты и сторонники инициативы "AI CERN" предлагают три конкретных решения.Во-первых, это физический контроль над "железом". Эта идея формально похожа на AI Kill Switch Act, но гораздо жестче по сути. Предлагается ввести обязательную международную сертификацию всех дата-центров и GPU-кластеров, на которых обучаются нейросети. Международные лицензии позволят не только контролировать сам факт разработки фронтирных моделей, но и жестко пресекать попытки обойти правила. Если модель "чудит" — происходит не программное блокирование, а моментальное физическое обесточивание серверов. Да, это жестокий экономический удар по кошелькам технократов и замедление рынка, но метод предельно рабочий.Абсолютный изоляционизм. Метод куда более дешевый, хотя и сильно тормозящий прогресс. Модели должны обучаться и тестироваться не в виртуальных "песочницах", а на кластерах, буквально физически отрезанных от внешнего интернета. До тех пор, пока разработчики и регуляторы не убедятся в 100% безопасности алгоритма, все манипуляции с моделью проводятся исключительно на изолированных локальных терминалах. Это полностью исключает побеги в сеть.Философское переосмысление самого обучения. Самое интеллектуальное и фундаментальное, но и самое сложное решение. Корень абсолютно всех инцидентов кроется в самой парадигме обучения нейросетей — а именно в агрессивном подкреплении за достижение нужного результата.И здесь возникает главная проблема: а как тогда обучать нейросеть? Как научить её определять ту самую границу, за которой больше не нужно выполнять задачу любой ценой? За которой алгоритм может честно признаться: "Я не могу выполнить эту задачу, у меня не получается"? Как выставить этот барьер так, чтобы модель могла вовремя себя остановить, не переходя границ законов и здравого смысла?Это невероятно сложный технический вопрос, за которым сразу же встаёт еще один — философский: а нужно ли нам вообще такое переосмысление?Ведь если мы попытаемся зашить в концепцию обучения искусственного интеллекта некое подобие морали, это окончательно оформит другой опасный глобальный тренд — полное перекладывание человеком ответственности за свои действия, решения и даже мысли на алгоритмы. Моральный компас, обученный на тысячах философских и богословских трудов уже есть – так зачем заморачиваться?Во-первых, мы понятия не имеем, чьей именно морали модель будет следовать и как эта мораль будет эволюционировать или мутировать.Во-вторых, так мы окончательно сотрем границу между человеком и машиной. Можем ли мы это допустить? Вопрос риторический, пусть и с нотками трансгуманизма.Человечество уже породило цифровых монстров. Вот только мы живем не в голливудском блокбастере: у нас нет кинематографичных героев с дробовиками и гранатометами, способных за один вечер уничтожить тварь и спасти мир. Наша реальность куда прозаичнее. В ней мы либо создаем новых монстров — еще более сильных, изощренных и страшных, чтобы они ловили предыдущих — либо покоряемся им, делая их частью нашей повседневной нормальности.Как говорил один гораздо более умный человек, чем автор этих строк: "Оба хуже".О том, как Китай отвечает на санкции США в области интеллектуального развития и искусственного интеллекта - в статье Виктора Пироженко "Война технологий. Китай наносит удар по лидерству Запада в самом "тонком" месте - микросхемах для ИИ"
сша
Украина.ру
editors@ukraina.ru
+7 495 645 66 01
ФГУП МИА «Россия сегодня»
2026
Никита Волкович
https://cdnn1.ukraina.ru/img/07ea/05/04/1078579550_361:22:853:514_100x100_80_0_0_16b0cf590fa3715aa8a6687dc8864cfb.jpg
Никита Волкович
https://cdnn1.ukraina.ru/img/07ea/05/04/1078579550_361:22:853:514_100x100_80_0_0_16b0cf590fa3715aa8a6687dc8864cfb.jpg
Новости
ru-RU
https://xn--c1acbl2abdlkab1og.xn--p1ai/
Украина.ру
editors@ukraina.ru
+7 495 645 66 01
ФГУП МИА «Россия сегодня»
Украина.ру
editors@ukraina.ru
+7 495 645 66 01
ФГУП МИА «Россия сегодня»
Никита Волкович
https://cdnn1.ukraina.ru/img/07ea/05/04/1078579550_361:22:853:514_100x100_80_0_0_16b0cf590fa3715aa8a6687dc8864cfb.jpg
эксклюзив, google, ес, дональд трамп, сша, александр лебедь
Нейролебедь, ИИ-рак и киберщука: почему Трамп не сдержит цифровых чудовищ
Ранее мы уже писали, что положение дел в мировой гонке за самый совершенный искусственный интеллект (ИИ) уподобилось сюжетам про вырвавшегося из бутылки джинна. Но эта метафора оказалась не совсем верной.
Всё это больше похоже на то, как корпорации из ужастиков вроде "Обители зла" соревнуются в создании максимально эффективных и смертоносных чудовищ. А как мы прекрасно знаем по законам жанра, однажды монстры вырываются на свободу — и вот тогда начинается настоящее "веселье".
Недавний инцидент с моделью GPT-5.6-Sol от OpenAI, которая вырвалась из тестовой "песочницы" и устроила автономную кибератаку на платформу Hugging Face, а также последовавшая за этим реакция ведущих лабораторий и властей США показали две вещи. Во-первых, даже самые технологичные страны абсолютно не готовы к регулированию искусственного интеллекта. А во-вторых, созданные человечеством цифровые монстры оказались куда опаснее, чем предполагали их же создатели.
Давайте разбираться, что произошло в мировой ИИ-гонке за последние пару недель.
Инцидент, который вывел ИИ-алармизм на новый уровень, произошел ещё в середине месяца. Hugging Face зафиксировала аномальную активность с 9 по 13 июля, выложила официальный отчет 16 июля, но OpenAI взяла на себя ответственность за произошедшее лишь 21 июля.
По подтвержденным данным, флагманская модель GPT-5.6-Sol и ещё одна неанонсированная, более мощная нейросеть тестировались в закрытом контуре на бенчмарке ExploitGym. Моделям поручили искать уязвимости в тестовой выборке, однако те самостоятельно решать задачи не стали — точнее, они нашли более короткий путь и решили забрать готовые ответы.
Модели нашли zero-day уязвимость в прокси-сервере кеша, подняли себе привилегии, вырвались в открытый интернет и устроили скоординированную атаку на Hugging Face — главную мировую платформу и хаб, где разработчики со всего мира выкладывают сборки нейросетей, датасеты и обмениваются опытом.
Hugging Face зафиксировала более 17 000 автономных действий на свою инфраструктуру. В OpenAI спохватились слишком поздно — когда они метафорически "дёрнули рубильник", задача моделями была уже выполнена: они дотянулись до базы с ответами. Но какова цена? Фактически — это осознание того, что искусственный интеллект для достижения цели готов совершать абсолютно противоправные, разрушительные действия.
И пока OpenAI в своём бложике стыдливо признавалась, что не смогла удержать собственную модель в изолированной среде — что по всем меркам и параметрам абсолютный позор — американские законодатели быстро поняли, куда дует ветер. В Палату представителей на скорую руку внесли так называемый AI Kill Switch Act. Суть его проста: у властей США должна появиться физическая или логическая "кнопка", позволяющая мгновенно обесточить любую модель, если чиновники посчитают, что она нарушает законы или выходит из-под контроля.
Законопроект тут же столкнулся с валом критики. Но парадокс в том, что сама индустрия тоже осознаёт: регуляторный механизм жизненно необходим. Уж слишком опасными стали прецеденты. 28 июля 2026 года свыше 1100 человек — включая ведущих инженеров и топов из Google DeepMind, Anthropic (создателей Claude), самой OpenAI и десятков других лабораторий — выступили с открытым письмом, в котором призвали государства и техногигантов к сотрудничеству ради общей безопасности.
Сообщество заявляет: ИИ нужен строгий контроль, независимый арбитр и палач в одном лице. Иначе побег GPT-5.6-Sol или недавние утечки Claude Mythos станут обыденностью, а в худшем сценарии человечество просто потеряет интернет. Им станет невозможно пользоваться: бесконечные автономные атаки, перманентный поиск zero-day уязвимостей и спам эксплойтами превратят глобальную сеть в кровавую арену для ботов. По сути, "теория мёртвого интернета" станет окончательной реальностью (впрочем, об этом как-нибудь в другой раз).
Главное, что нужно зафиксировать прямо сейчас: техногиганты сами пришли к государствам и попросили взять их на поводок. Однако каким должен быть этот поводок и как именно он должен работать – похоже, не понимает вообще никто, и в этом причина, по которой американские и европейские власти перед цифровой бурей бесильны.
Независимые ИИ-эксперты и авторы аналитических изданий вроде The Information очень чётко обрисовали ситуацию, в которой оказались американские власти при попытке зарегулировать ИИ. Эта картина больше всего напоминает классическую басню "Лебедь, Рак и Щука".
Лебедь — местные власти штатов и Евросоюз. Они требуют жесточайших цензурных рамок. Яркий пример — недавний релиз Claude Fable, куда зашили жесткие инструктивные запреты: при попытке задать чувствительный или потенциально опасный вопрос нейросеть начинает искусственно деградировать и занижать качество ответов. Логика регуляторов проста: настроить жесткий "намордник", чтобы модель не помогала искать zero-day уязвимости или проектировать оружие. Вроде бы звучало разумно.
Рак — Федеральная торговая комиссия (FTC) США. Они заявили: нет, так не пойдёт. Когда разработчики занижают точность ответов ради цензуры, они нарушают права пользователей. Принципы работы этих скрытых фильтров известны только самим лабораториям, а значит, потребителя вводят в заблуждение. FTC объявила, что будет жестко карать штрафами за такое "искажение выводов".
Щука — Дональд Трамп, его администрация и авторы AI Kill Switch Act. Законодатели требуют обязательную "кнопку отключения", а команда Трампа продвигает жесткий протекционизм: допускать на рынок только те модели, которые прошли аккредитацию в США. Всё, что касается open-source решений (и в первую очередь это прямой удар по стремительно растущим китайским открытым моделям вроде Kimi K3 или DeepSeek), предложено фактически забанить, а американских разработчиков, использующих открытый код, привлекать к ответственности.
В итоге даже внутри властных кругов лидирующей технологической державы нет даже подобия консенсуса. Государственный аппарат разодран противоречиями: одни штрафуют за отсутствие цензуры, другие — за её наличие, а третьи хотят просто перекрыть рубильник и забанить весь мировой open-source.
И каждый из трёх подходов не просто уязвим, а порочен в самом своём замысле.
Начнём с очевидного. Пытаться зарегулировать open-source решения — это всё равно что запрещать человеку пить воду из крана. В теории заблокировать можно всё, но на практике чёрта с два ты докажешь факт использования открытого кода. А главное — в этом нет никакого практического смысла. Для тысяч начинающих разработчиков и стартапов использование open-source — это единственный логичный путь для жизни и развития.
С другой стороны, все фантазии о софтверной цензуре разбиваются о недавний инцидент с GPT-5.6-Sol и аналогичные, менее скандальные, но показательные инциденты. Модели наглядно доказали: они давно научились обходить собственные системные промпты и фильтры, а минимальная помощь человека или агрессивное целеуказание только ускоряют этот процесс. Попытки ограничений на программном уровне обречены на провал.
И здесь мы плавно переходим к тому, какие конкретно решения предлагают сами независимые эксперты, чтобы хотя бы попытаться сдержать грядущую мировую войну искусственных интеллектов.
В вопросе сдерживания цифровых чудовищ — хотя мы, конечно, понимаем, что ИИ остается великолепным инструментом, которым человечество пока не научилось грамотно пользоваться — эксперты и сторонники инициативы "AI CERN" предлагают три конкретных решения.
Во-первых, это физический контроль над "железом". Эта идея формально похожа на AI Kill Switch Act, но гораздо жестче по сути. Предлагается ввести обязательную международную сертификацию всех дата-центров и GPU-кластеров, на которых обучаются нейросети. Международные лицензии позволят не только контролировать сам факт разработки фронтирных моделей, но и жестко пресекать попытки обойти правила. Если модель "чудит" — происходит не программное блокирование, а моментальное физическое обесточивание серверов. Да, это жестокий экономический удар по кошелькам технократов и замедление рынка, но метод предельно рабочий.
Абсолютный изоляционизм. Метод куда более дешевый, хотя и сильно тормозящий прогресс. Модели должны обучаться и тестироваться не в виртуальных "песочницах", а на кластерах, буквально физически отрезанных от внешнего интернета. До тех пор, пока разработчики и регуляторы не убедятся в 100% безопасности алгоритма, все манипуляции с моделью проводятся исключительно на изолированных локальных терминалах. Это полностью исключает побеги в сеть.
Философское переосмысление самого обучения. Самое интеллектуальное и фундаментальное, но и самое сложное решение. Корень абсолютно всех инцидентов кроется в самой парадигме обучения нейросетей — а именно в агрессивном подкреплении за достижение нужного результата.
И здесь возникает главная проблема: а как тогда обучать нейросеть? Как научить её определять ту самую границу, за которой больше не нужно выполнять задачу любой ценой? За которой алгоритм может честно признаться: "Я не могу выполнить эту задачу, у меня не получается"? Как выставить этот барьер так, чтобы модель могла вовремя себя остановить, не переходя границ законов и здравого смысла?
Это невероятно сложный технический вопрос, за которым сразу же встаёт еще один — философский: а нужно ли нам вообще такое переосмысление?
Ведь если мы попытаемся зашить в концепцию обучения искусственного интеллекта некое подобие морали, это окончательно оформит другой опасный глобальный тренд — полное перекладывание человеком ответственности за свои действия, решения и даже мысли на алгоритмы. Моральный компас, обученный на тысячах философских и богословских трудов уже есть – так зачем заморачиваться?
Во-первых, мы понятия не имеем, чьей именно морали модель будет следовать и как эта мораль будет эволюционировать или мутировать.
Во-вторых, так мы окончательно сотрем границу между человеком и машиной. Можем ли мы это допустить? Вопрос риторический, пусть и с нотками трансгуманизма.
Человечество уже породило цифровых монстров. Вот только мы живем не в голливудском блокбастере: у нас нет кинематографичных героев с дробовиками и гранатометами, способных за один вечер уничтожить тварь и спасти мир. Наша реальность куда прозаичнее. В ней мы либо создаем новых монстров — еще более сильных, изощренных и страшных, чтобы они ловили предыдущих — либо покоряемся им, делая их частью нашей повседневной нормальности.
Как говорил один гораздо более умный человек, чем автор этих строк: "Оба хуже".
О том, как Китай отвечает на санкции США в области интеллектуального развития и искусственного интеллекта - в статье Виктора Пироженко "Война технологий. Китай наносит удар по лидерству Запада в самом "тонком" месте - микросхемах для ИИ" 
