Пентагон угрожает Anthropic из-за отказа использовать ИИ в оружии

Пентагон США угрожает прекратить партнерство с Anthropic из-за отказа компании разрешить использование своей модели Claude в автономном оружии, сообщает Axios.

Министерство обороны оказывает давление на компании, занимающиеся ИИ, с целью снятия правил безопасности с их моделей для использования в секретных целях, включая разработку оружия, сбор разведданных и военные операции.

Anthropic отказывается подчиняться, устанавливая красные линии в отношении разработки автономного оружия и слежки за американцами. Пентагон рассматривает возможность ограничения или прекращения партнерства.

Представитель Anthropic подтвердил обсуждения с правительством по поводу автономного оружия и внутреннего наблюдения.

Wall Street Journal сообщил, что модель Claude использовалась компанией Palantir в операции, которая привела к захвату бывшего президента Венесуэлы Николаса Мадуро. Anthropic отрицает это.

Одна компания, занимающаяся ИИ, уже приняла условия Пентагона, а другие проявляют гибкость.