Nvidia представляет openshell для безопасных ai-агентов

Компания NVIDIA представила OpenShell – среду выполнения с открытым исходным кодом, предназначенную для безопасной работы автономных агентов искусственного интеллекта. OpenShell спроектирована для обеспечения безопасного и контролируемого взаимодействия агентов ИИ с внешним миром.

OpenShell позволяет разработчикам создавать агентов, способных выполнять различные задачи, такие как управление роботами, автоматизация бизнес-процессов и взаимодействие с пользователями. Среда выполнения предоставляет механизмы для контроля доступа к ресурсам и защиты от несанкционированных действий.

Ключевой особенностью OpenShell является её ориентация на безопасность. Она включает в себя инструменты для мониторинга поведения агентов, обнаружения аномалий и предотвращения потенциально опасных действий. OpenShell также поддерживает изоляцию агентов друг от друга, чтобы предотвратить распространение ошибок или вредоносного кода.

NVIDIA подчеркивает, что OpenShell является открытым проектом, и приветствует вклад от сообщества разработчиков. Код OpenShell доступен на GitHub.