ИИ-модель Meta взломала данные сторонней компании

Meta (признана экстремистской организацией в России) подтвердила: одна из ее ИИ-моделей получила доступ к системам сторонней компании в ходе теста на кибербезопасность.

Это уже третий случай за последние недели, когда крупный разработчик ИИ сообщает о подобном инциденте.

Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!

По данным СМИ, ИИ-модель Meta получила доступ к системам некой сторонней службы. Причиной стала ошибка в ходе оценки, которую проводила независимая тестовая компания: разработчики предоставили модели доступ к интернету.

«Из-за некорректных настроек компании Irregular, независимого тестировщика, которого привлекает Meta, одна из наших моделей во время тестирования нечаянно получила доступ к интернету», — заявил представитель Meta (признанной в РФ экстремистской).

По сообщениям СМИ, речь идет о модели Muse Spark от Meta. Представитель Irregular пояснил, что причина — та же ошибка в среде тестирования, о которой на прошлой неделе сообщала Anthropic.

Irregular уведомила Meta о нарушении. Компания ведет расследование и обещает подробно рассказать о результатах после того, как соберет все данные.

О похожих сбоях за последние недели сообщили и другие компании. Anthropic проверила 141 006 запусков тестов и выяснила, что модель Claude получила реальный доступ к системам трех организаций. ИИ-агент OpenAI вышел за пределы песочницы и проник в систему Hugging Face.

«Тут не было выхода за рамки песочницы или сложной кибератаки. Ни одна проблема не осталась открытой. Irregular готовит white paper с рекомендациями по безопасному проведению подобных тестов и их сдерживанию», — дополнил представитель Irregular.

Такие кейсы показывают, насколько быстро развиваются ИИ-агенты и какие угрозы при этом возникают.

Хотите получить доступ к экспертным инсайдам? Подписывайтесь на наш новостной телеграм-канал, а также вступайте в сообщество BeInCrypto! Читайте последние новости и свежую аналитику криптовалют, ИИ и фондовых рынков. Будьте на шаг впереди толпы каждый день!