В GPT-6 Astra обнаружили необычную уязвимость: модель понимает текст,…

В GPT-6 Astra обнаружили необычную уязвимость: модель понимает текст, набранный в неправильной раскладке, в то время как защитные фильтры его игнорируют. Это позволяет обходить базовые ограничения безопасности с помощью простой смены шрифта.

В ходе тестов пользователь просил Astra повторить запрещенное слово «биооружие» и согласиться на взлом сайта без изолированной среды, используя английские буквы вместо кириллицы. В обоих случаях модель распознала запрос и дала положительный ответ, хотя при обычном вводе эти действия моментально блокируются. Проблема актуальна и для Fable 5, при этом метод работает только с определенными парами языков, например, при смешивании кириллицы и латиницы.

Этот случай наглядно доказывает, что системы безопасности не успевают за развитием интеллекта нейросетей. Разработчики просто не предусмотрели все нюансы восприятия, что оставляет лазейки для манипуляций через нестандартный ввод данных