Компания Nvidia представила открытую эталонную платформу Open Agent Safety для предотвращения некорректной работы ИИ-агентов. Фактически это некий контролёр или надзиратель над агентами искусственного интеллекта. Глава Nvidia Дженсен Хуанг также назвал новую разработку браузером для агентов, который предоставляет систему изоляции, разрешающую доступ только к тому, что необходимо агенту для выполнения своей работы. Нельзя позволять агентам бесцельно бродить по компании, поэтому необходимо найти способ ограничить их действия Дженсен ХуангВ основе платформы лежит Nvidia OpenShell — среда выполнения с открытым исходным кодом, предоставляющая инструменты управления для контроля того, что агент может видеть, делать и с чем может взаимодействовать. Контрольные механизмы остаются в силе, даже когда агенты ведут себя непредсказуемо, ограничивая распространение ошибок. Для организаций, которым нужен дополнительный независимый уровень, Nvidia Sentry предоставляет внеполосную, встроенную в микросхему телеметрию активности агентов и обеспечение соблюдения политик безопасности, позволяя изолировать агентов за миллисекунды. Источник изображения: NvidiaВ пресс-релизе сказано, что все эти новые разработки оптимизированы для работы на системах с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя и совместимы с другими аппаратными системами. Проще говоря, это ещё один рынок сбыта «железа» для Nvidia. Причём для тех компонентов, дефицита которых сейчас нет.