Veeam Agent Commander: Контроль над ИИ и откат ошибок

Разумеется, никому, кто следит за стремительным распространением искусственного интеллекта в корпоративном секторе, не нужно, чтобы я объяснял, что это далеко не типичный анонс нового продукта.

Мы определенно находимся в неуклюжем промежуточном периоде, когда ИИ может показаться немного неуправляемым существом: очень мощным, несколько непредсказуемым и иногда немного опрометчивым.

На этом фоне и появилась платформа Agent Commander – платформа, которая обещает не только выявлять проблемы с ИИ, но и "откатывать" ошибки, вызванные ИИ.

Хотя в других областях ИТ мы к этому уже давно привыкли, когда речь идет об ИИ-безопасности, большинство из нас еще не видели этого в арсенале инструментов.

Учитывая это, неудивительно, что новая платформа Veeam вызывает большой интерес. Когда ИИ-агенты принимают собственные решения с молниеносной скоростью, очевидно, что ждать часы для обнаружения проблемы и дни для ее решения – непозволительная роскошь.

Это реальная проблема, с которой многие специалисты по безопасности сталкиваются на практике. То, что вызывает ажиотаж вокруг Agent Commander – и почему многие технические директора и другие лидеры в области корпоративных технологий проявляют интерес – заключается в том, что Veeam обещает обнаружить риски ИИ, защитить рабочие нагрузки ИИ и отменить действия ИИ.

В среде, где большинство наших инструментов разработаны для обнаружения и защиты, это интересная идея. Подход Veeam заключается в предоставлении командам безопасности единого представления о данных, идентификаторах и действиях ИИ в режиме реального времени.

Многие существующие инструменты выполняют некоторые из этих задач, но не все сразу или не в режиме реального времени. Можно представить себе дискуссии на совещаниях с участием технических директоров: "Да, да, обнаружение угроз ИИ – это замечательно.

Но что делать, когда ИИ-агент уже совершил то, что не должен был? Что делать, когда он уже использовал какие-то конфиденциальные данные?". Уверен, многие команды безопасности уже несколько месяцев бьются над этим вопросом.

Согласно опросам, значительный процент предприятий уже сталкивался с проблемами безопасности, связанными с ИИ. Существующих инструментов недостаточно. Поэтому ИТ-команды, с которыми я общался, говорят не только о безопасности, но и о доверии.

Они хотят доверять ИИ-агентам, чтобы продолжать внедрять ИИ для всех преимуществ, которые он может принести их организациям, не опасаясь, что следующий инцидент с утечкой данных произойдет из-за их ИИ-систем.

Хотя Agent Commander от Veeam – это не панацея, его обещание атрибутировать действия ИИ и выборочно отменять их может стать началом того, что эти команды так долго искали.

Но, хотя я считаю это важным, я также думаю, что важно помнить, что это еще один признак более широкой реальности об ИИ: мы официально вступили в эпоху "агентного" ИИ, где ИИ-агенты не просто отвечают на запросы и запросы, а активно предпринимают независимые действия, часто связанные в цепочки сервисов и данных.

Они принимают решения со скоростью и в масштабе, с которыми людям трудно справиться. Это создает совершенно новые риски и поэтому инструменты и фреймворки, разработанные для предыдущего поколения статических приложений, кажутся устаревшими сегодня.

Анонс Veeam сегодня – это скорее декларация о том, что ИИ отличается. Итак, где же мы находимся сегодня? Я думаю, что Agent Commander от Veeam – это важное напоминание о том, что ИИ – это не то, к чему нам просто нужно подготовиться, а то, что нам нужно контролировать.

И, хотя у нас, безусловно, возникнет еще много вопросов по мере развития этих автономных ИИ-агентов, я думаю, что это хорошее начало обсуждения. Кто знает? Может быть, однажды у нас действительно появится ИИ, который поможет нам контролировать себя.