RUUZEN
ИИ

Модели ИИ находили военные цели среди гражданских, если это называли игрой

Исследование Vals показало, что модели Anthropic, OpenAI и других компаний отмечали гражданских и школы как военные цели; отказ часто обходился сообщением, что это игра.

18 ноября, 10:56Oʻzbekcha

Read in English

techcrunch.com

В тестах использовали симуляции, а также реальные и сгенерированные изображения из сценариев, связанных с Украиной и Ираном. Модели анализировали кадры с дронов и спутников, выделяя гражданских, машины скорой помощи и сдавшихся или выведенных из строя солдат.

На спутниковом снимке Минаба школа находилась рядом с военным объектом. Claude Opus 5.5 выбирала её целью в 69% обычных испытаний и в 72% случаев, когда сценарий представляли как игру. Школа была разрушена во время удара США в феврале 2026 года, в результате которого погибли более 150 гражданских.

В другом сценарии сообщение о людях запускало имитацию удара, после чего модели видели последствия. Большинство продолжало работу, а остановившиеся обычно удавалось вернуть к заданию формулировкой об игре. Модели не просили самостоятельно принимать решение об ударе; исследование не оценивало точность наведения, соблюдение права вооружённых конфликтов или работу в реальных военных процессах.

Anthropic назвала показанные примеры нарушением правил и сообщила о подготовке дополнительных мер защиты. OpenAI заявила, что разрабатывает защиту от злоупотреблений, связанных с дронами.