Anthropic держит claude mythos preview в тайне из-за уязвимостей

Компания Anthropic сохраняет свою новую модель искусственного интеллекта в тайне после обнаружения тысяч внешних уязвимостей.

Anthropic’s most capable AI model has already found thousands of AI cybersecurity vulnerabilities across every major operating system and web browser. Компания не планирует делать Claude Mythos Preview общедоступным из-за его возможностей в области кибербезопасности.

По словам представителей Anthropic, они намеренно искали уязвимости, чтобы убедиться, что модель безопасна и надежна. Обнаруженные уязвимости варьировались по степени серьезности.

Компания не предоставила подробной информации об уязвимостях или о том, как они были обнаружены.

Этот подход отражает растущую обеспокоенность по поводу безопасности и этики больших языковых моделей. Модели ИИ могут генерировать вводящий в заблуждение или вредоносный контент, и важно убедиться, что они не используются для недобросовестных целей.