Американская компания Anthropic, разработчик нейросети Claude, опубликовала отчёт о попытках использовать её ИИ для исследований, которые могли способствовать созданию биологического оружия. Документ охватывает период с декабря 2025 по август 2026 года и содержит пять кейсов, связанных с потенциально опасной работой над патогенами.
По данным Anthropic, исследователи из закрытых военных и государственных институтов маскировали запросы под научные проекты и заявки на гранты. Они пытались получить от Claude информацию о том, как усиливать патогены, повышать их способность обходить иммунитет человека и увеличивать заразность. Компания зафиксировала подозрительную активность при мониторинге чатов, заблокировала аккаунты и усилила системы защиты.
В переписках фигурировали птичий грипп (высокопатогенный птичий грипп с акцентом на адаптацию к млекопитающим), оспа и родственные ортопоксвирусы, вирус чикунгуньи, а также разработка новых токсинов и ядов на основе пептидов. В одном из описанных случаев исследователь через посредническую платформу просил Claude помочь составить грантовую заявку на gain-of-function исследования чикунгуньи. Работа предполагала поиск мутаций, повышающих заразность и способность вируса уклоняться от иммунного ответа, с последующим тестированием на животных. Исследования планировались в военном научно-исследовательском институте — именно это обстоятельство, по словам Anthropic, вызвало особую настороженность.
В другом кейсе учёный из региона, на который распространяются ограничения доступа, несколько недель планировал с помощью Claude эксперименты по адаптации высокопатогенного птичьего гриппа к млекопитающим. Система безопасности компании ограничила его более слабыми моделями, не дав получить полноценную помощь от самых мощных версий Claude. Ещё в одном случае через реселлерскую платформу была сгенерирована полная грантовая заявка, связанная с иммунным уклонением ортопоксвирусов (группы, включающей вирус натуральной оспы). Отдельно фиксировались запросы по созданию атласа пептидов ядов и оптимизации молекул с потенциально паралитическим или токсичным действием.
Anthropic подчёркивает, что речь идёт о «двойных» технологиях: те же методы, которые помогают разрабатывать вакцины и лекарства, могут использоваться для создания более опасных патогенов. Компания прямо не утверждает, что во всех случаях целью было именно биооружие, однако сочетание тематики, попыток обойти географические ограничения и связи с военными структурами стало основанием для блокировок. Аккаунты участников были отключены, информация передана властям и другим разработчикам ИИ, а системы фильтрации — доработаны.
В отчёте также упоминаются другие виды злоупотреблений Claude — кибероперации, слежка, пропаганда и помощь в разработке обычных вооружений. Однако именно биологическое направление Anthropic называет одним из самых серьёзных рисков современных мощных языковых моделей. Без надёжных ограничений такие системы, по мнению компании, способны оказывать существенную помощь в создании угроз катастрофического масштаба.
Anthropic отмечает, что более ранние версии Claude (2025 года) ещё не обладали достаточными возможностями, чтобы реально ускорить сложные биологические исследования злоумышленников. С ростом мощности моделей компания ужесточила фильтры, ограничивающие доступ к запросам двойного назначения.
Отчёт Anthropic стал одним из первых публичных признаний крупного разработчика ИИ о том, что попытки использовать коммерческие модели для потенциально оружейных биологических исследований уже фиксируются на практике, а не остаются гипотетическими сценариями.