ИИ, управляющий неопределенностью: новый подход к обучению

Неопределенность в принятии решений часто игнорируется в системах искусственного интеллекта. Новая работа исследует, как ИИ может активно управлять своей неопределенностью, выбирая между действием, вопросом или обучением. Авторы представляют политику управления неопределенностью, которая динамически оценивает, когда лучше всего действовать, задавать вопросы для получения информации или учиться на опыте.

В основе подхода лежит понятие "неопределенности" – оценки уверенности ИИ в своем понимании мира. Когда неопределенность высока, ИИ может запросить дополнительную информацию, чтобы уменьшить ее. Если же неопределенность низкая, ИИ может действовать напрямую. Когда неопределенность умеренная, ИИ может учиться на своих действиях и корректировать свою политику.

Исследователи разработали алгоритм, который позволяет ИИ выбирать оптимальный способ управления неопределенностью в каждой конкретной ситуации. Алгоритм учитывает стоимость каждого действия – стоимость действия, стоимость вопроса и стоимость обучения. Оптимальная политика балансирует эти затраты для достижения наилучшего результата.

Эксперименты показали, что политика управления неопределенностью превосходит традиционные подходы в задачах, требующих активного исследования и обучения. В частности, подход показал хорошие результаты в задачах навигации и роботизированных манипуляциях. Данная методика позволяет ИИ не просто реагировать на окружающую среду, но и активно формировать свое понимание мира, задавая вопросы и экспериментируя.