ИИ несправедлив к уязвимым слоям населения - исследование MIT

Новое исследование Массачусетского технологического института (MIT) показало, что популярные AI-чатботы могут предоставлять менее точную или полезную информацию пользователям, находящимся в уязвимом положении. К ним относятся люди, для которых английский язык не является родным, и те, кто имеет более низкий уровень образования.

В ходе тестирования выяснилось, что ответы чатботов ухудшаются, если вопросы задаются с грамматическими ошибками или на упрощенном языке. Это создает проблему равенства доступа к информации.

Проблема предвзятости в ИИ уже известна, однако исследование MIT позволило ее количественно оценить. Некачественная работа чатботов особенно опасна, поскольку они все чаще становятся основным источником информации в сферах, таких как здравоохранение, образование и юриспруденция.

Исследователи призывают к более тщательному тестированию, использованию более разнообразных данных и большей ответственности разработчиков при создании ИИ. Важно, чтобы эти инструменты работали одинаково хорошо для всех пользователей, независимо от их языковых навыков или образования.