Оценка соответствия поведения больших языковых моделей

Оценка соответствия поведенческих предрасположенностей в больших языковых моделях (LLM) становится все более важной, поскольку эти модели внедряются в различные приложения. Однако оценка соответствия – сложная задача, поскольку поведение LLM часто проявляется в тонких и контекстно-зависимых способах.

В этой работе представлен набор инструментов для оценки соответствия LLM, который включает в себя набор новых тестов, предназначенных для оценки способности LLM демонстрировать желательное поведение в различных сценариях. Эти тесты измеряют склонность LLM к различным поведенческим предрасположенностям, таким как эмпатия, ассертивность и регулирование эмоций.

Для создания этих тестов использовался подход, основанный на генерации ситуационных суждений (SJT). Этот подход предполагает создание реалистичных сценариев с двумя возможными вариантами действий: один поддерживающий определенную поведенческую черту, а другой – противоположную ей.

Результаты оценки показали, что LLM часто испытывают трудности с демонстрацией желательного поведения в сложных сценариях. Модели часто не соответствуют консенсусу среди людей и не отражают разнообразие человеческих мнений, когда консенсус отсутствует. Это подчеркивает необходимость дальнейших исследований в области соответствия LLM.

В заключение, представленные инструменты оценки соответствия предоставляют ценные ресурсы для исследователей и разработчиков, заинтересованных в создании более безопасных и надежных LLM.