• Anthropic раскрыла пять случаев использования Claude в биологических исследованиях двойного назначения.
  • Среди них — работа с вирусом чикунгунья в интересах военного исследовательского института, исследования птичьего гриппа и ортопоксвирусов, а также проекты, связанные с токсинами.
  • Компания подчеркнула, что не смогла установить злонамеренные цели ученых, однако заблокировала связанные аккаунты и усилила защитные механизмы.

Компания Anthropic заявила, что обнаружила и пресекла несколько случаев использования моделей Claude в научных исследованиях, результаты которых потенциально могли применяться при разработке биологического оружия. Об этом говорится в новом отчете компании о злоупотреблениях искусственным интеллектом.

В Anthropic подчеркнули, что не располагают доказательствами намерения ученых создать биологическое оружие. Проблема заключается в двойном назначении подобных исследований. 

Одни и те же знания могут использоваться как для разработки вакцин и лекарств, так и для создания более опасных патогенов, отметили в компании. По словам руководителя направления анализа угроз Anthropic Джейкоба Кляйна, отличить эти сценарии зачастую крайне сложно.

Одним из наиболее тревожных эпизодов компания назвала запрос, обнаруженный в мае 2026 года. Исследователи пытались использовать Claude при подготовке заявки на финансирование экспериментов с вирусом чикунгунья. Проект предполагал изучение изменений, способных повлиять на передачу вируса и его способность обходить иммунную защиту.

Дополнительные опасения у Anthropic вызвало то, что исследования планировалось проводить в военном исследовательском институте. 

Компания заблокировала связанные учетные записи и совместно с партнерами ограничила работу инфраструктуры, через которую пользователи обходили региональные ограничения. По данным Anthropic, впоследствии оператор этой системы пытался восстановить доступ к ИИ-моделям через новые аккаунты и другие сервисы.

В другом случае исследователь за пределами США на протяжении нескольких недель использовал Claude в работе с высокопатогенным птичьим гриппом. Исследования касались адаптации вируса к млекопитающим и факторов, потенциально влияющих на его пандемические свойства.

Пользователь обменялся с Claude тысячами сообщений и применял модель для изучения научной литературы, планирования исследований, анализа данных и подготовки материалов. При этом Anthropic заявила, что наиболее опасные запросы блокировались, поэтому исследователь в основном работал с более слабыми моделями Claude Sonnet 4 и Haiku 4.5. По оценке компании, реальный вклад ИИ в этом случае оставался ограниченным.

Еще один пользователь задействовал Claude Opus 5 при подготовке заявки на исследование ортопоксвирусов — семейства вирусов, к которому относятся возбудители натуральной оспы и mpox. 

По данным Anthropic, модель примерно за час помогла подготовить значительную часть документа, включая описание гипотезы, структуру исследования и статистический план. Проект был связан с государственной лабораторией инфекционных заболеваний.

Еще два выявленных случая касались изучения ядов и токсинов. Исследователи применяли Claude для анализа и компьютерного проектирования молекул, которые могли иметь как медицинское, так и потенциально вредоносное применение. 

В одном из случаев работа являлась частью государственной исследовательской программы, а в другом пользователь намеренно просил Claude не раскрывать в отчетах точные сведения об исследуемых веществах.

Anthropic в итоге пришла к выводу, что одних автоматических фильтров недостаточно. В сложных научных исследованиях система часто не способна определить намерения пользователя только по содержанию запроса. Компания считает, что доступ к наиболее мощным возможностям ИИ в биологии должен сочетать фильтрацию опасного контента с проверкой личности и принадлежности исследователей к доверенным организациям.

При этом в Anthropic призвали не рассматривать выявленные случаи как свидетельство неизбежной биологической угрозы. Скорее, они показывают, что организации и ученые, связанные с государственными программами, уже пытаются применять передовые ИИ-модели в исследованиях двойного назначения и в некоторых случаях обходят ограничения на доступ.

В The New York Times отметили, что ранее опасения по поводу использования ИИ для создания биологического оружия в основном основывались на лабораторных испытаниях и гипотетических сценариях. Новый отчет Anthropic дает редкие данные о том, как подобные системы применяются в реальных научных проектах.

Эксперт по биологической безопасности Эндрю Вебер назвал раскрытые случаи тревожным примером того, как государственные программы могут пытаться использовать быстро растущие возможности передовых ИИ-моделей. Он выступил за ограничение наиболее мощных биологических функций таких систем кругом проверенных исследователей.

Ранее мы сообщали, что во время испытаний Claude Opus 4.6 модель также демонстрировала способность помогать в опасных сценариях, включая задачи, связанные с разработкой химического оружия. Тогда Anthropic оценила вероятность намеренного вредоносного поведения модели как очень низкую, но не нулевую. 

О чем в целом говорится в отчете Anthropic

Отчет Detecting and countering misuse of AI: September 2026 охватывает случаи злоупотребления моделями Claude с декабря 2025 года по август 2026 года. Помимо биологических рисков, Anthropic описала применение ИИ в кибератаках, слежке за людьми, информационных операциях, мошенничестве, разработке обычных вооружений и незаконном копировании возможностей передовых ИИ-моделей.

Одним из основных выводов компании стало то, что искусственный интеллект все чаще выступает не просто консультантом, а инструментом автоматизации целых операций. 

В кибератаках злоумышленники использовали ИИ-агентов для разведки, эксплуатации уязвимостей, кражи данных и изменения вредоносного ПО в ответ на его обнаружение средствами защиты. По мнению Anthropic, это снижает требования к квалификации атакующих и позволяет небольшим группам проводить операции, для которых раньше потребовались бы команды специалистов.

В частности, компания связала одну из выявленных операций с российским кибершпионажем. Ее целями были украинские государственные органы, военные, дипломаты и компании, связанные с производством беспилотников. В общей сложности в планах злоумышленников фигурировали более 20 организаций.

Anthropic также раскрыла случаи применения Claude для разработки программного обеспечения для обычных вооружений, включая ракеты и вооруженные беспилотники, проведения государственных информационных кампаний, слежки за диссидентами и создания масштабной сети мошеннических приложений знакомств.

Еще одна большая часть отчета посвящена попыткам китайских ИИ-компаний копировать возможности Claude с помощью так называемой дистилляции. По утверждению Anthropic, некоторые компании массово перенаправляли запросы своих пользователей в Claude и использовали ответы модели для обучения собственных систем. Компания также предупредила, что при таком подходе в сторонние сервисы могли попадать конфиденциальные пользовательские и корпоративные данные.

В Anthropic считают, что по мере роста возможностей моделей увеличится и потенциальный ущерб от их использования злоумышленниками. Компания заявила, что по каждому из обнаруженных случаев блокировала соответствующую активность, совершенствовала системы защиты и при необходимости передавала информацию государственным органам и другим участникам отрасли.

Сообщение Ученые использовали Claude в опасных биологических исследованиях — Anthropic раскрыла детали появились сначала на INCRYPTED.