Пентагон требует от Anthropic снятия ограничений для ИИ

Власти США потребовали от компании Anthropic убрать ограничения, не позволяющие использовать её ИИ-модель Claude в автономном оружии и системах массовой слежки, или же столкнутся с юридическими последствиями. Этот ультиматум может задать прецедент для использования мощных ИИ-систем правительствами, что вызывает опасения относительно возможных негативных последствий.

Anthropic пока отказывается снимать ограничения с Claude в отношении разработки автономного оружия и массовой слежки за гражданами. Пентагон дал компании три варианта: согласиться, разорвать контракт с пометкой о рисках для цепочки поставок, или быть вынужденным соблюдать требования посредством закона о военном производстве.

Claude был первым ИИ-моделью, получившей доступ к секретным сетям Пентагона. Сейчас аналогичный доступ получает xAI с Grok, при условии использования "во всех законных целях". Пентагон также ускоряет процесс получения доступа к OpenAI и Google, чтобы иметь альтернативные варианты.

В сложившейся ситуации важно учитывать, что ИИ становится ключевым элементом военной мощи, и принуждение компаний к отказу от мер безопасности создает опасный прецедент. Если для снятия ограничений достаточно "военных" угроз, вопрос о том, кто будет устанавливать границы для использования ИИ в таких сферах, как автономное оружие и слежка, останется без ответа.