Nvidia представила систему мгновенной изоляции ИИ-агентов

Nvidia 28 сентября представила Open Agent Safety Platform — открытую платформу, которая задаёт границы работы ИИ-агентов и изолирует их при попытке выйти за эти границы. По данным компании, платформу уже используют или внедряют более 100 организаций.

Платформа состоит из двух частей. OpenShell — программный слой, который устанавливает разрешённые границы для агентов, работающих на процессорах Nvidia Vera; код открыт и, как указывает компания, может быть расширен на платформы Arm и Intel. Sentry — независимый контур наблюдения на уровне оборудования: он работает на сетевых процессорах BlueField-4 и способен отключить агента от системы за миллисекунды. Поскольку Sentry вынесен на отдельное устройство, он не виден ни самому агенту, ни атакующему.

Компоненты платформы компания выложила в открытый доступ на GitHub и в разделе для разработчиков. Среди более чем ста организаций, участвующих в проекте, Nvidia называет Anthropic, Cisco, CrowdStrike, Microsoft, Palantir, Salesforce, SAP и SpaceXAI.

«Исключительный потенциал ИИ для общества будет реализован только тогда, когда мы решим задачу его безопасности», — заявил глава Nvidia Дженсен Хуанг.

Речь идёт о так называемых агентных системах — программах на основе ИИ, которые не просто отвечают на запросы, а сами выполняют последовательности действий: обращаются к сервисам, запускают код, работают с файлами и корпоративными данными. Именно поэтому разработчики выстраивают контроль сразу на трёх уровнях — программном, аппаратном и вычислительном. Для Казахстана тема прикладная: Дженсен Хуанг приедет в Астану 23 октября, а в начале октября в столице пройдёт форум AI & Digital Bridge 2026.