OpenAI представила режим Lockdown против атак через промпты

OpenAI-min

OpenAI анонсировала режим Lockdown, который защищает ИИ-агентов от атак «отравления промта» — одного из самых распространенных способов заставить модель раскрыть данные или выполнить нежелательные действия. Новый механизм ограничивает доступ к чувствительной информации и позволяет безопаснее использовать ИИ для работы с документами, почтой и корпоративными системами.

Источник: https://forklog.com/openai-predstavila-rezhim-lockdown-protiv-atak-cherez-prompty

Наверх