Предвзятость в общении между большими генеративными моделями

Исследователи выявили, что генеративные модели искусственного интеллекта могут воспроизводить стереотипные связи между понятиями и демографическими группами, даже если прямая информация о поле или возрасте отсутствует. Например, модель может чаще ассоциировать профессию врача с мужчинами.

Новая работа посвящена изучению того, как эта предвзятость распространяется при обмене данными между моделями. В частности, исследовалась последовательность операций: генерация изображения, затем его описание другой моделью. Эксперименты с наборами данных RAF-DB и PHASE показали, что обмен информацией приводит к смещению в сторону более молодых лиц и большего количества "женских" признаков при распознавании эмоций.

Кроме того, некоторые модели опираются на посторонние визуальные элементы (фон или волосы) вместо ключевых деталей (лица или тела) при принятии решений. Это может приводить к неверным выводам и усилению стереотипов. Исследователи предлагают способы смягчения этих проблем на этапах сбора данных, обучения и развертывания моделей.