Anthropic отказалась от публикации Claude Mythos Preview из-за уязвимостей

Компания Anthropic решила не публиковать новую модель искусственного интеллекта после того, как она обнаружила тысячи внешних уязвимостей.

Внешние уязвимости были обнаружены во время внутреннего тестирования модели Claude Mythos Preview.

Внешние уязвимости были обнаружены во всех основных операционных системах и веб-браузерах.

Компания не выпустила модель в открытый доступ и вместо этого передала её организациям, ответственным за безопасность интернета.

Среди партнёров Project Glasswing — Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks, а также более 40 дополнительных организаций, участвующих в разработке или сопровождении критически важного программного обеспечения.

Anthropic выделила до 100 млн долларов США в виде кредитов на использование Mythos Preview и 4 млн долларов прямых пожертвований организациям, занимающимся безопасностью с открытым исходным кодом.