IBM и Стэнфорд: Причины неудач корпоративных AI-агентов

Исследователи из IBM и Калифорнийского университета в Беркли провели анализ, чтобы понять, почему внедрение интеллектуальных агентов в компаниях часто оказывается неэффективным. Для этого они использовали разработанные ими инструменты IT-Bench и MAST.

IT-Bench позволяет оценить производительность и надёжность агентов в контролируемой среде, а MAST – выявлять и устранять ошибки в их работе. Анализ показал, что основные проблемы возникают из-за неспособности агентов адаптироваться к меняющимся условиям и решать сложные задачи, требующие понимания контекста.

Учёные выявили, что агенты часто "застревают" в циклах неверных действий, не могут эффективно использовать доступную информацию и совершают логические ошибки. Результаты исследования помогут разработчикам создавать более надёжных и полезных интеллектуальных помощников для бизнеса.