ИИ к бою. Пентагон поставил создателям Claude ультиматум из-за антивоенных ограничений

Министерство обороны (войны) США выдвинуло ИИ-разработчику Anthropic беспрецедентный ультиматум: либо компания срочно дает военным право использовать ее модель Claude без ограничений, либо теряет и текущий многомиллионный контракт, и статус господрядчика в перспективе. Исход конфликта определит, кто будет устанавливать границы применения ИИ — его создатели или государство.

Что происходит

Глава Пентагона Пит Хегсет во вторник вызвал гендиректора Anthropic Дарио Амодеи «на ковер» и жестко потребовал снять все ограничения на использование модели Claude в военных целях, пишут СМИ (1, 2, 3). Дедлайн — вечер пятницы 27 февраля. Если компания не согласится, Пентагон грозит разорвать с ней контракт на $200 млн, признать «риском для цепочки поставок» и все равно заставить работать в своих интересах по Defense Production Act (DPA).

На встрече присутствовала едва ли не вся верхушка Пентагона. В оценках тона беседы источники расходятся: так, один собеседник Axios считает, что встреча была «совсем не теплой и дружелюбной», а другой сообщил, что разговор оставался взаимно «корректным», а Хегсет даже хвалил Claude.

Anthropic подтвердила, что встреча состоялась, и обещала продолжить «добросовестные переговоры», чтобы и дальше помогать властям в сфере нацбезопасности. Но в пределах того, что модели компании могут делать «надежно и ответственно».

В чем суть конфликта

В январе Хегсет выпустил меморандум о новой ИИ-стратегии ведомства, где потребовал включить формулу о «любом законном применении» во все контракты с разработчиками в течение 180 дней. Новые условия дали бы американским военным карт-бланш на использование технологии для массовой слежки и создания летальных автономных вооружений — ИИ-систем, способных самостоятельно отслеживать и уничтожать цели без участия человека.

OpenAI, xAI и Google почти сразу пересмотрели свои договоры на $200 млн. Но их модели ChatGPT, Grok и Gemini работают только в несекретном контуре, чтобы условно «делать PowerPoint-презентации чуть быстрее, а не автономное оружие», то есть в данном случае формула «любое законное применение» ни на что особо не влияет. Но в засекреченном контуре Claude c Impact Level 6, как выяснилось, может участвовать в операциях вроде захвата президента Венесуэлы Николаса Мадуро, в связи с чем возникают острые этические вопросы.

Anthropic, судя по всему, готова адаптировать свою политику для армии, но проводит две четкие «красные линии»: никакого массового наблюдения за американцами и никаких «кинетических» операций, поскольку технологии пока недостаточно надежны для таких задач, а законодательство не поспевает за возможностями ИИ. Эксперты подтверждают, что позиция Anthropic во многом совпадает с директивами самого Пентагона.

Чем грозят Anthropic

Хотя $200 млн не критичная сумма для быстрорастущей Anthropic, на кону стоит доступ к оборонному рынку США в целом. Статус «риска для цепочки поставок» (обычно его присваивают компаниям, связанным со стратегическими противниками США) означает, что любой подрядчик Пентагона, действующий или потенциальный, должен будет подтвердить, что в его системах больше нет технологий Anthropic. То есть Palantir и все остальные, кто сейчас использует Claude в работе на военных, будут, вероятно, вынуждены от него отказаться.

DPA — это закон 1950 года, который дает президенту право принуждать частные компании выполнять заказы в интересах национальной обороны. Изначально он был принят в связи с Корейской войной и задумывался для мобилизации промышленности. Во время пандемии COVID-19 закон, к примеру, использовался для наращивания производства вакцин и аппаратов ИВЛ.

В случае с Anthropic применение DPA позволило бы Пентагону использовать решения компании без ее согласия. Правда, и Anthropic могла бы оспорить действия администрации Трампа в суде, поскольку речь идет не о коммерчески доступном продукте, а о специализированном ПО, уже индивидуально адаптированном под чувствительные государственные задачи.

По сути две угрозы противоречат друг другу, справедливо замечает NYT: первая отрезает компанию от госзаказов, а вторая, наоборот, заставляет ее работать на государство. Но это и демонстрирует то, как сильно накалилась ситуация и насколько значимой для Пентагона стали технологии Anthropic.

Источник Axios среди военных чиновников признает: «Единственная причина, по которой мы вообще продолжаем разговаривать с этими людьми, в том, что они нам нужны. И нужны прямо сейчас. Проблема для этих ребят в том, что они действительно настолько хороши».

Что дальше

Прямо сейчас Пентагону нечем заменить Claude без серьезных потерь, но попытки предпринимаются. По данным СМИ, допуск к секретным системам получил Grok от xAI, но его еще нужно интегрировать в инфраструктуру Palantir и конфиденциальное облако Amazon, а по качеству он уступает Claude. Кроме того, к аналогичному соглашению близка Gemini от Google. Часть техиндустрии считает, что Anthropic рано или поздно тоже сдастся. Сегодня компания объявила, что смягчает политику безопасности, и связала это с необходимостью сохранить конкурентоспособность.