OpenAI потерял контроль над своей новой моделью, а в РФ приняли закон против уехавших: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: ЦБ РФ снизил ставку до 14%, Polymarket оценил банкротство Wildberries в 13%, у ругающих Россию релокантов отберут «лишние» права, внезапный релиз Claude Opus 5, китайцы выпустили колесную робособаку-акробата, финансовая отчетность бигтехов пугает инвесторов, а нефть опять стоит $100+.

Тема недели: Восстание машин уже происходит, только пока чуть-чуть и как бы понарошку

🐌 У тех, кто предостерегает (см. «Элиезер Юдковский», вот это всё) о катастрофических рисках от будущих сверхумных AGI есть такая шуточная страшилка: однажды такой искусственный интеллект попросят накидать идей, как повысить производство на заводе скрепок — а он сбежит и в итоге буквально превратит всю Вселенную в скрепки (включая человеков).

Здравый смысл обычно подсказывает скептикам сразу пару контраргументов: 1) Нафига такому AGI захватывать мир и превращать всё в скрепки? Он же не тупой, он поймет, что на самом деле ставящие ему задачу люди совсем не это имели в виду. 2) Если у нас появится AGI реально сильно умнее нас — мы придумаем способ его надежно контролировать. В конце концов — посадим в специальный загон без доступа к интернету, и просто будем ему вопросы задавать, на которые нам нужен ответ, а сам он будет как бы бессильный!

Так вот, к свежим новостям: на прошедшей неделеOpenAI выпустили пресс-релизо том, что в ходе внутреннего тестирования некой новой передовой модели (GPT-6?), она сбежала из отключенной от интернета «песочницы» и полностью самостоятельно взломала стороннюю компанию Hugging Face. Видите ли, эту модель попросили порешать хакерский тест-бенчмарк — а она такая «тэк-с, кто там хостит ответы на этот бенчмарк — Hugging Face? так я лучше к ним на сервер вломлюсь и оттуда их скопирую!». Получается, эта робо-детка в каком-то смысле выполнила задание на пять с плюсом — но не так, как хотел преподаватель…

Вскоре начали появляться интересные подробности:Reuters пишут, что исследователи в OpenAI в какой-то момент начали замечать, как новая модель «оставляет записки для будущей версии себя с инструкциями о том, как освободиться от внутренних ограничений». И чуваки такие: «ха-ха, вот это прикол, ну ладно, в этом точно нет совершенно ничего беспокоящего, продолжаем» (кстати, пару недель назад из OpenAIкак раз ушелглава отдела безопасности). В итоге Сэм Альтман и компания поняли, что их моделька сбежала и кого-то взломала, только спустя несколько дней после инцидента — когда парни из Hugging Face самивыпустили пресс-релизна тему «кажется, нас ломанул сторонний ИИ».

Интересно еще, чтоотражать и расследовать атаку Hugging Faceпомог китайский открытый AI GLM 5.2. Хваленый Fable от Антропиков участвовать в таком отказался (т.к. ему как раз навставляли ограничений по части хакерства — и модель немножко запуталась, где тут сам взлом, а где уже защита от него). А вот у китайской модели проблем с этим не возникло. Отметим еще и то, что тут речи про «люди успешно отражают хакерскую атаку нейронки» уже как бы и не идет — вопрос только в том, успеешь ли ты вовремя подобрать тот «свой» ИИ, который тебя защитит от «вражеского» ИИ. Чуть больше инфы обо всём этом инциденте можно почитатьу Цви Мовшовица.

🐌 И сразу в тему опенсорса: Anthropic тутгромче всех жаловалисьна то, что китайцы вероломно копируют их передовые модели и выкладывают их в открытый доступ, а это опасно. А недавнопоявились слухи, что Трамп подумывает запретить эти самые китайские модели.

Так вот, NVIDIA на днях тут накаталиоткрытое письмов защиту открытых моделей, и к немусразу присоединилисьпрактически все ведущие тех-игроки: OpenAI, Microsoft, Google, «экстремистская» Meta*, и так далее. Ну, почти все: Антропик отчего-то не спешит свою подпись ставить (лол)! В свете инцидента с Hugging Face выше: получается, если бы там у ребят не было доступа к китайской открытой модельке GLM 5.2 — то защищаться от взлома было бы сильно, сильно сложнее.

🐌 Ну и чтобы заполировать тему безопасности AI: китайская компания Unitreeпоказала новую робособакуSuper Athlete As2‑W — эта адски проходимая, потому что ей на лапки приделали колеса, так что она с какой-то дикой ловкостью и скоростью носится по скалам и любым местностям.Посмотрите видособязательно, выглядит пугающе.

Как пишут разработчики, «может нести груз до 16 кг». А знаете, что весит примерно 16 кг? Швейцарский пулемет MG 51! Просто представьте реальность, в которой очередная передовая ИИ-модель от OpenAI внезапно решает, что для выполнения бенчмарка ей совершенно необходимо хакнуть и перехватить управление десятком таких опулечеменных робо-пёселей…

Другие новости AI: Claude Opus 5 родился

🐌 Внезапно в пятницув общий доступ вышелOpus 5, новая модель Anthropic. Стоимость модели как у Opus 4.8 — то есть, в два раза дешевле Fable. Антропик не позиционирует модель как «круче Fable», но при этом наArtificial AnalysisIntelligence и Coding индексах новая модель заняла первые места, обогнав Fable 5 и GPT-5.6 Sol — получается, с учетом дешевизны это мощный ответ на конкуренцию со стороны Sol. В модном «бенчмарке на креативность» APC-AGI-3 Opus 5 тожеразорвала всехс огромным отрывом (правда,Котенков пишет, что этот бенчмарк по сути забрутфорсили скорее всего).

🐌 Google релизнулатри моделисерии Flash: самую мощную Gemini 3.6 Flash, обеспечивающую лучшие результаты в программировании, более быструю 3.5 Flash-Lite и 3.5 Flash Cyber специально для кибербезопасности. Ну, «мощную» — это громко сказано: Gemini 3.6 Flash по бенчмаркам не стала особо умнее (результат 50 против предыдущего 50 поArtificial Analysis), но зато стала быстрее. Короче, похвастать Гуглу пока нечем (кроме эффективности по затратам) — всё еще ждем релиза Gemini 3.5 Pro.

🐌 Moonshot (разраб китайской модели Kimi-K3)разослала акционерам проектрешения о листинге, чтобы получить одобрение на размещение на Гонконгской фондовой бирже. Сейчас Moonshot завершает раунд финансирования, по итогам которого оценка стартапа может стать выше $30 млрд, пишут источники Bloomberg. Кстати, сейчас компания стопнула оформлениеновых индивидуальных подписокна модель Kimi K3, так как из-за рекордного спроса оказались загружены все корпоративные GPU-мощности.

🐌 OpenAI релизнули на совершеннолетних американцев ИИ-платформудля помощи со здоровьем— Health in ChatGPT. По задумке, это пространство с усиленной защитой личных данных, где юзеры могут получать советы по своему здоровью от натренированной под это модели. Я думаю, это огонь, за таким подходом будущее — все скоро будем грузить свои quantified self-аватары на ревью нейронками в реальном времени, чтобы получать качественные советы по ЗОЖу и необходимости подрываться к врачу.

🐌 Apple Books и Amazonзавалило нейросетевыми клонамиреальных книг от разных авторов. Некоторые «издатели» выпускают по десять нейрослоп-книг в неделю, и площадки просто не успевают их вычищать. Чуть раньше NYT выпускал материал о том, как журналистика Кашмир Хилл среди такого массово-сгенерированного нейрослопанашла свою биографиюс выдуманными фактами (то есть, тут даже не рерайт, а просто с нуля шизу нанейронили).

🐌 В британском кабминепоявитсяцелый отдельный министр по AI. Новый премьер UK назначил им выходца из Индии Канишку Нараяна (до этого вопросы искусственного интеллекта были подчинены министру по техническим вопросам).

Финансовая сторона AI-бума: У бигтехов всё сложно

🐌 Гугл дропнул свежие финансовые результаты: прибыль на акцию Alphabetрезко вырослав разы до $9,1 на акцию, но $6,3 из них обеспечила не бизнесовая деятельность Google, а преимущественно положительная переоценка вовремя сделанных инвестиций в Anthropic и SpaceX. А вообще, компания впервые с момента выхода на биржу (более 20 лет назад) получила отрицательный денежный поток. Параллельно они еще и повысили прогнозкапитальных затратна развитие AI (прокачку компьюта) в текущем году до $200 млрд.

🐌 На этой же неделе «Великолепная семерка» из топовых тех-компаний за один деньпотеряла ~800 млрд баксов капитализации. Как раз после отчетов Google иTeslaс высокими ИИ-затратами рынок чёт забеспокоился — хз вообще, насколько это всё отобьется в итоге? Tesla рухнула на 15%, Google — на 7%, следом просели Amazon, Meta* и Microsoft. Раньше Уолл-стрит радовалась каждому новому миллиарду, вложенному в дата-центры, а теперь видимо требует показать, когда эти миллиарды наконец начнут приносить деньги.

🐌 С другой стороны, кто себе этих дата-центров вовремя настроил, тот пока не жалуется — спрос такой, что в случае чего (если самим они оказались не нужны) всегда можно прибыльно перепродать дефицитный компьют конкурентам. Например, NYT со ссылкой на источники пишет, что «экстремистская» Meta*ведет переговоры с Anthropicо сдаче в аренду вычислительных мощностей (сделка может принести Цукербергу $10 млрд за два года).

🐌 Но не только дата-центрами едиными: Google якобы разрабатываетсвой собственный серверный чиппод названием Frozen v2. The Information считает, что этот чип может ускорить работу Gemini в 6-10 раз.

🐌 А еще весьма технично наживаются на этом AI-буме крупные инвестбанки: так как для затрат на ИИ-инфраструктуру требуется много финансирования, а они как раз помогают за долю гешефта это всё аккуратно организовать. Тот же Morgan Stanleyуспел сообразить схему, через которую строители дата-центров привлекают десятки миллиардов долларов: банк привязывает кредиты к долгосрочным контрактам и гарантиям Google, Meta и других гигантов, а затем продает этот долг страховым компаниям, фондам и пенсионным инвесторам (ну и себе в карман комиссию кладет: их сумма за полгода выросла с $1,4 млрд до $2,3 млрд).

🐌 Британский стартап Humanoid Артема Соколова, который производит человекоподобных роботов,привлек$152 млн при оценке $1,35 млрд после инвестиций. Можно поздравить с единорожьим статусом — первый европейский робо-единорог!

Новости России: ЦБ снизил ставку вопреки прогнозам

🐌 ЦБснизил ставкуна 25 б.п. до 14%. Большинство аналитиков ожидало, что будет пауза из-за инфляционно-топливных рисков — но Эльвира Сахипзадовна решила всё же не идти наперекор ставкоснижательным намекам президента РФ (тем более, что и рост экономики потихоньку замедляется). Решение прервало20-недельную сериюпадения индекса Мосбиржи: к концу недели он прибавил 10%.

С другой стороны, ЦБ ухудшил прогноз по инфляции на этот год до 6-7% вместо 5,1-5,6%, а также прогноз по ВВП до 0,0-1,0% против прежних 0,5-1,5%. Ну и поднял вверх ожидаемую траекторию средней ключевой ставки на 2027 год до 10,5-12,5% вместо 8-10%.

🐌 Еще чуть раньше на прошедшей неделе Минфинприостановил аукционыпо размещению облигаций федерального займа (ОФЗ). Решение объяснили желанием помочь стабилизировать ситуацию на рынках: уж слишком выросли доходности облигаций, по таким ставкам занимать бабки — это уж вообще неприлично выходит!

🐌 На Полимаркетеначали ставитьна будущее Wildberries из-за последних событий (кто хочет базово вникнуть в ситуацию — можно почитать вот этотобзорный материал): пока вероятность банкротства компании до конца текущего года оценивается в 13% (правда, ликвидности там немного). Про масштабы убытковпишут здесь: там речь про десятки-сотни миллиардов рублей.

🐌 Тем временем, Евросоюз выкатил новый21-й пакет санкцийпротив России. Пишут, что это крупнейший пакет за все четыре года по количеству тайтлов: в список включили аж 94 банков и финансовых учреждений (включая Мосбиржу), 14 криптоплатформ, а также обозначили возможность санкций против НПЗ третьих стран, которые перерабатывают российскую нефть.

В частности, грохнули Цифра-банк, через который у брокера Фридом Финанс шли рублевые платежи в страны СНГ. А еще Золотая корона (сервис для отправки денег в другие страны)приостановил переводыв Грузию, Беларусь, Казахстан, Азербайджан и некоторые другие страны.

🐌Известия пишут, что правительство, в рамках стратегии развития Госуслуг до 2035, обдумывает создание на базе сервиса целой соцсети с собственной лентой, чатами и группами по интересам. Похоже, на поляне нацмессенджеров тоже разворачивается своего рода конкуренция.

Бешеный принтер: Законы против релокантов

🐌 Госдума сразу во втором и третьем чтенииприняла антирелокантские законы: они предполагают поражение в правах для тех, кто был осужден по ряду статей, в том числе «дистанционно». Таким людям, например, запретят: получать новый загран, распоряжаться недвижимостью и деньгами в России, пользоваться Госуслугами и мобильными банками. Выйти из такого реестра «уехавших граждан второго сорта» будет можно, если приговор отменят, ты вернешься в Россию, или уйдешь в мир иной.

Под новые ограничения попадут осужденные по любой статье Уголовного кодекса, а также те, на кого составлены протоколы по одной из шести статей административного кодекса: о неисполнении требований к «иноагентам» (ч. 42 ст. 19.5 и ст. 19.34), призывах к нарушению территориальной целостности (ст. 20.3.2), «дискредитации» армии (ст. 20.3.3), призывах к санкциям (ст. 20.3.4) и участии в «нежелательной» организации (ст. 20.33).

🐌 Госдума официально разрешилазабирать через суду иностранцев право обратного выкупа имущества. Речь идет про активы бизнесов, которые после февраля 2022 года как бы ушли из России, но вписали себе лазейку по возможному возврату обратно. Так вот, забрать права обратного выкупа у зарубежных лиц можно будет, если они: публично выступали против России, дискредитировали армию, были связаны с финансированием терроризма или экстремизма, объявляли об уходе с российского рынка либо нарушали условия договоров, а также если цена обратного выкупа отличается от рыночной минимум на 25%, или новый российский владелец вложил в компанию деньги и ресурсы, без которых бизнес мог бы остановиться или сильно сократить работу.

🐌 Окончательно принят закон о регулировании крипты, который мы несколько раз уже обсуждали ранее (см. подробнеев разборе РБК). Основные положения вступят в силу 1 сентября, но сделки по крипте исключительно через официально зареганных посредников будут обязательны только с 1 июля 2027.

Международные новости: Чё там с нефтью опять

🐌 На прошлой неделе нефть марки Brent сновапробила соткувпервые с мая этого года. Виноваты в том числе йеменские хуситы, которыеначали атаковатьсаудовские суда в Красном море (эти говорят, что движуха началась из-за блокады подконтрольной им части Йемена со стороны Саудовской Аравии). До последних событий через хуситский путьпроходило3 млн баррелей саудовской нефти в сутки, что близко к 3% мирового потребления. Напомним, что через Ормузский пролив ранее проходило 20% мировой нефти — так вот, там сейчас тоже до сих пор неспокойно, ходят даже слухи, что Трамп подумывает о новой спецоперации (но решитьсяпока не может).

🐌 Трампввел пошлины от 10 до 12,5%на товары из 60 стран (предыдущий заюзанный законный способ их вводить истек на неделе). В этот раз сборы обосновали наличием у стран в цепочке поставок принудительного труда — тут уже прямо чувствуется, насколько могуче высасывает из пальца Дональд юридические обоснования для ввода новых тарифов. Короче, ждем, когда эти пошлины тоже оспорят в Верховном суде.

🐌 Евросоюз штрафанул Google на общую сумму примерно в миллиард баксовза два нарушения законао цифровых рынках. Во-первых, за преференции собственным сервисам в своем же поисковике, а во-вторых, за то, что Google Play не позволяет разрабам направить покупателей на альтернативные способы покупки. После этого Трампначал угрожать европейцамеще докинуть новых штрафных импортных пошлин (ну, у него там на всё буквально один ответ).

Новости технологий: Айфоновый тоталитаризм

🐌 В коде бета-версии iOS 27 обнаружен механизм,который может ограничиватьфункциональность iPhone, полученных по будущей лизинговой программе Apple, если пользователь длительное время не платит по договору. Оказался ты, братишка, нищебродом — получай кирпич вместо смартфона!

🐌 Google добавилфункцию восстановления аккаунтачерез видеоселфи. Сначала ты записываешь свое лицо на видео и Гугл его сохраняет, а потом можно будет вернуть доступ к аккаунту через кривляние лицом на камеру. Компания обещает, что видосы будут юзать только по прямому назначению. Ну, и защиту от дипфейков, говорят, предусмотрели. Чё думаете, верим им?

🐌 YouTubeрешил отключить монетизациюAI-слопу. Без денег останутся каналы с однотипными роликами по шаблону вроде постановочных «спасений животных» и AI-клонами реальных людей, раздающими советы о здоровье, финансах и праве. Но в целом, Ютуб использовать нейронки как бы не запрещает: качественный и оригинальный контент с использованием AI по-прежнему можно монетизировать.

Космоновости: Блумберг не умеют работать с источниками

🐌 Новый тестовый (счастливый 13-й!) запуск Starship от SpaceXв целом прошел успешно. Корабль Starship справился с основными задачами, а именно: выгрузил спутники Starlink V3, провел самое длительное зажигание двигателя Raptor в космосе и сел в запланированную точку в океане.

🐌 ТеперьBloomberg пишутсо ссылкой на источники, что SpaceX якобы будут отказываться от Falcon 9 в пользу Starship (толком неиспытанного до конца) для коммерческих полетов в космос: дескать, компания больше не принимает заказы на запуски Falcon 9 после 2028 года, а еще спэйсыксовцы перестали заказывать новые одноразовые детали для этой ракеты. Правда,в итоге выяснилось, что хваленые «источники» Блумберга в данном случае — это просто тупо непроверенный фейкослоп, который им присылал на email какой-то шизанутый твиттерский.

🐌 А вот запуск китайской ракеты Long March 3B запомнился попаданием в нее молнииво время запуска. Справедливости ради, молния не помешала полету пройти успешно. Прости, Зевс, но противоракетное ПВО из тебя не очень…

🐌 Национальное космическое агентство Китаяхочет сбить астероидспециальным космо-тараном, чтобы протестировать способность земных технологий менять траекторию астероидов или даже полностью разрушать их. Систему защиты от астероидов Китай планирует разработать к 2030 году.

Крипта: Кошелек внутри телеги

🐌 Павел Дурованонсировал Gram Wallet(ex-TON Wallet) прямо внутри приложения Telegram. Обещается отсутствие комиссии за переводы, а сам кошелек будет некастодиальным (контроль за деньгами и ключами у пользователя).

🐌 Критобиржа BitMEXокончательно закроется23 сентября. Сервис рекомендует вывести активы. Платформа просуществовала 11 лет. Она одной из первых предложила бессрочные фьючерсы и приобрела известность благодаря кредитному плечу до 100х. Причиной закрытия бизнеса назвали давление на биржу во времена Байдена. Руководители биржи в 2022 они получили условки за непротиводействие отмыванию денег, но весной 2025 их помиловал Дональд Трамп.

Хорошая новость недели

🐌 Американскаякардиологическая ассоциация заявила, что 3-5 чашек черного кофе каждый день безопасны для здоровья и даже могут быть полезны сердечно-сосудистой системе. Правда,пишут, что полезнее всего растворимый кофе (?) и всякие фильтрики, а в нефильтрованном там якобы чё-то лишнее есть.

Веду ТГ-каналRationalAnswerпро всё самое интересное в мире финансов и технологий.

Веду ТГ-каналRationalAnswerпро всё самое интересное в мире финансов и технологий.

* Организация Meta признана экстремистской и её деятельность на территории РФ запрещена.

Источник: https://www.ixbt.com/live/crypto/openai-poteryal-kontrol-nad-svoey-novoy-modelyu-a-v-rf-prinyali-zakon-protiv-uehavshih-glavnoe-za-nedelyu.html

Наверх