anthropic отложила релиз модели ии из-за уязвимостей

Компания Anthropic сохраняет новую модель искусственного интеллекта в секрете после обнаружения тысяч внешних уязвимостей.

Anthropic обнаружила тысячи уязвимостей в своей новой модели ИИ перед ее публичным релизом и решила не выпускать ее, пока эти уязвимости не будут устранены.

Внутренние тесты показали, что модель подвержена различным видам атак, в том числе "атакам с внедрением подсказок", когда злоумышленники манипулируют моделью для выполнения нежелательных действий. Количество обнаруженных уязвимостей исчисляется тысячами.

Anthropic не предоставила конкретных подробностей о модели или уязвимостях, сославшись на соображения безопасности. Компания заявила, что работает над устранением проблем и планирует выпустить модель, когда убедится в ее безопасности.

Этот инцидент подчеркивает сложности разработки и развертывания моделей ИИ. Даже после тщательного тестирования могут быть обнаружены уязвимости, которые могут быть использованы злоумышленниками. Anthropic уделяет большое внимание безопасности и надежности своих моделей.