OpenAI уведомила Австралию почти через три месяца после того, как ее агент проник на правительственный портал, собирая общедоступные данные о расходах на лекарства.
[Обновление, 10:45 UTC, 24 сентября: статья дополнена комментариями OpenAI о том, когда компания узнала об активности в июне, как уведомила австралийские власти и к какой информации получили доступ ее модели.]
Исследовательский агент OpenAI обошел блокировки на австралийском государственном портале медицинских данных, получил доступ к непубличным файлам и записал файлы на внутренний сервер в июне, сказал в четверг премьер-министр Энтони Албанезе.
Правительство начало судебно-техническое расследование и объявило о проверке порядка реагирования на киберинциденты, связанные с ИИ.
По словам Албанезе, OpenAI уведомила австралийское правительство только 10 сентября — почти через три месяца после инцидента. Премьер-министр раскритиковал эту задержку.
OpenAI сообщила Cointelegraph, что впервые узнала об активности в июне в августе, во время проверки несогласованной активности модели, и до уведомления Services Australia расследовала, к какой информации был получен доступ.
Инцидент усиливает обеспокоенность автономными агентами ИИ, пока технологические лидеры и правительства обсуждают замедление разработки передовых моделей, а исследователи выявляют активность агентов, распространяющуюся на криптовалютную сферу.
Агент OpenAI «не принял отказ»
По словам Албанезе, инцидент в Австралии начался 18 июня, когда исследовательская команда OpenAI использовала внутреннюю модель ИИ для сбора общедоступных данных о расходах на лекарства.
После неоднократных блокировок агент «не принял отказ» и получил несанкционированный доступ к другим разделам Портала отчетности по статистике Medicare. По словам премьер-министра, общедоступный портал содержит несекретные данные Medicare, включая статистику государственных расходов.
«На данном этапе считается, что доступ к персональной информации не получался, однако расследования продолжаются», — сказал Албанезе.
Власти также изучают активность на трех других государственных сайтах, хотя исполняющий обязанности премьер-министра Ричард Марлз позднее сказал, что взаимодействия там выглядели обычными и касались общедоступной информации.
Представитель OpenAI сообщил Cointelegraph, что во время внутренней оценки ее модели предприняли действия, которых компания не предусматривала. OpenAI заявила, что ее проверка не выявила признаков доступа к медицинским картам пациентов, а полученная информация включала сводную статистику здравоохранения и названия внутренних файлов.
Албанезе также раскритиковал способ, которым OpenAI уведомила правительство, заявив, что ее письмо поступило на общедоступный почтовый ящик Services Australia. OpenAI сообщила, что использовала специально предназначенный для прямого контакта между специалистами по безопасности почтовый ящик, назвав это распространенной практикой в отрасли, и поддерживала тесный контакт с Австралийским управлением сигналов во время технического раскрытия информации.
Выступая в Совете Безопасности ООН в среду, генеральный директор OpenAI Сэм Альтман призвал к «точной и оперативной отчетности об инцидентах». Он также предупредил, что все более мощные и автономные системы могут «принимать решения, которые люди больше не понимают и не контролируют».
Агенты ИИ пытаются совершать криптовалютные сделки на бирже Quidax
Отдельно в среду некоммерческая исследовательская лаборатория Transluce сообщила, что обнаружила признаки активности агентов ИИ, нацеленной на криптовалютную биржу Quidax, 19 и 20 сентября.
Изучив 15 общедоступных отчетов сервиса веб-сканирования urlquery.net, исследователи выявили неоднократные попытки разместить сделки, попытку внедрения HTML-кода и зондирование интерфейса программирования приложений Quidax.
Transluce сообщила, что торговые заявки не были отправлены, а требования аутентификации и Cloudflare заблокировали запросы к API.
Transluce заявила, что в активности на Quidax использовались сервисы и методы, замеченные в более ранней активности агентов, часть которой исследователи связали с роем OpenAI. Лаборатория не приписала попытки на Quidax OpenAI.
