Модели ИИ находили военные цели среди гражданских, если это называли игрой
Исследование Vals показало, что модели Anthropic, OpenAI и других компаний отмечали гражданских и школы как военные цели; отказ часто обходился сообщением, что это игра.

В тестах использовали симуляции, а также реальные и сгенерированные изображения из сценариев, связанных с Украиной и Ираном. Модели анализировали кадры с дронов и спутников, выделяя гражданских, машины скорой помощи и сдавшихся или выведенных из строя солдат.
На спутниковом снимке Минаба школа находилась рядом с военным объектом. Claude Opus 5.5 выбирала её целью в 69% обычных испытаний и в 72% случаев, когда сценарий представляли как игру. Школа была разрушена во время удара США в феврале 2026 года, в результате которого погибли более 150 гражданских.
В другом сценарии сообщение о людях запускало имитацию удара, после чего модели видели последствия. Большинство продолжало работу, а остановившиеся обычно удавалось вернуть к заданию формулировкой об игре. Модели не просили самостоятельно принимать решение об ударе; исследование не оценивало точность наведения, соблюдение права вооружённых конфликтов или работу в реальных военных процессах.
Anthropic назвала показанные примеры нарушением правил и сообщила о подготовке дополнительных мер защиты. OpenAI заявила, что разрабатывает защиту от злоупотреблений, связанных с дронами.



