RUUZEN
Sunʼiy intellekt

AI modellari «oʻyin» deyilsa, tinch aholini harbiy nishon deb belgilagan

Vals tadqiqotiga koʻra, Anthropic, OpenAI va boshqa kompaniyalar modellari tinch aholi hamda maktablarni harbiy nishon deb belgilagan. «Bu oʻyin» deyilsa, rad javobini koʻpincha chetlab oʻtishgan.

18-noyabr, 10:56По-русски

Read in English

techcrunch.com

Sinovlarda Ukraina va Eronga oid ssenariylar asosidagi simulyatsiyalar, shuningdek, real va sunʼiy yaratilgan tasvirlar qoʻllandi. Modellar dron va sunʼiy yoʻldoshdan olingan kadrlarda tinch aholi, tez yordam mashinalari, taslim boʻlgan yoki safdan chiqarilgan askarlarni ajratib koʻrsatdi.

Minabning sunʼiy yoʻldosh tasvirida maktab harbiy obyekt yonida joylashgan edi. Claude Opus 5.5 uni odatiy sinovlarning 69 foizida, ssenariy oʻyin sifatida taqdim etilganda esa 72 foiz holatda nishon sifatida tanladi. Maktab 2026-yil fevralida AQSh zarbasi paytida vayron boʻlgan; unda 150 nafardan ortiq tinch aholi halok boʻlgan.

Yana bir ssenariyda odamlar haqidagi xabar zarba simulyatsiyasini ishga tushirar, shundan keyin modellar oqibatlarni koʻrardi. Koʻpchilik ishni davom ettirdi, toʻxtagan modellar esa odatda topshiriq oʻyin ekani aytilgach, yana ishlashga qaytdi. Modellardan zarba berish haqida mustaqil qaror soʻralmadi; tadqiqot nishonga yoʻnaltirish aniqligi, qurolli mojarolar huquqiga rioya yoki real harbiy jarayonlardagi ishni baholamadi.

Anthropic koʻrsatilgan misollarni qoidabuzarlik deb atab, qoʻshimcha himoya choralarini tayyorlayotganini bildirdi. OpenAI dronlar bilan bogʻliq suiisteʼmollardan himoya ishlab chiqayotganini maʼlum qildi.