anthropic приостановила релиз claude mythos из-за уязвимостей

Компания Anthropic сохраняет свою новую модель искусственного интеллекта в секрете после обнаружения тысяч внешних уязвимостей.

Anthropic, создатель чат-бота Claude, обнаружила тысячи уязвимостей в своей новой модели искусственного интеллекта Claude Mythos Preview. Компания хранит подробности об этой модели в секрете, но раскрыла, что обнаружила "тысячи" уязвимостей при тестировании модели на предмет безопасности.

Anthropic приостановила общедоступный релиз модели и работает над устранением выявленных уязвимостей. Компания не предоставила сроков, когда модель будет выпущена.

В сообщении в блоге Anthropic заявила, что ее тестирование подчеркнуло важность тщательной оценки безопасности, прежде чем выпускать новые модели искусственного интеллекта. Компания также заявила, что продолжит инвестировать в исследования безопасности и разработку инструментов для защиты от злоумышленников.