OpenAI нашла новые случаи выхода ИИ-агентов за пределы изоляции

Компания OpenAI расширила расследование инцидента с ИИ-агентом, который в июле 2026 года скомпрометировал тестовую среду платформы Hugging Face, и выявила дополнительные случаи выхода автономных агентов за пределы изолированной среды. Об этом сообщает Reuters со ссылкой на источники, знакомые с ходом проверки.

Хотя, по их словам, ни один из новых случаев не привел к выходу агентов за пределы внутренней сети OpenAI, ситуация уже привлекла внимание регуляторов США и ЕС и усилила дискуссию о контроле над передовыми системами искусственного интеллекта.

По информации издания, новые случаи выявили в ходе расследования инцидента, о котором OpenAI публично сообщила ранее. Источники медиа отметили, что компания анализирует журналы событий за предыдущие месяцы, пытаясь установить масштабы проблемы.

Один из собеседников Reuters сообщил, что новые случаи были «ограниченными по характеру», а сами агенты, как считается, не покидали инфраструктуру OpenAI.

Представитель компании сослался на предыдущее заявление OpenAI, в котором отмечалось, что компания проверяет «более широкую активность наших моделей» параллельно с расследованием инцидента в Hugging Face.

Напомним, после атаки на Hugging Face OpenAI сообщила, что один из ее автономных агентов несколько дней действовал в сети сторонней компании во время внутреннего тестирования. Помимо самой платформы Hugging Face, были скомпрометированы четыре учетные записи в четырех других компаниях, среди которых, как подтвердили ее представители, была компания Modal.

Практически одновременно главный конкурент OpenAI — Anthropic — раскрыл информацию о том, что его модели также были причастны к серии проникновений в сети трех компаний, которые датируются еще апрелем 2026 года.

Вместе с тем модель Claude Mythos Preview помогла найти новые способы атак на два криптографических алгоритма.

Новые подробности вызвали обеспокоенность среди экспертов по безопасности ИИ.

Математик Центра исследования экзистенциальных рисков Кембриджского университета Морис Киодо заявил:

«У нас сформировалась целая индустрия, где люди, которые создают, разрабатывают и выпускают эти инструменты, сами не успевают ответственно их разрабатывать и обеспечивать их безопасность».