RUUZEN
Sunʼiy intellekt

Grok Bot SI agentlari xodimlarning elektron pochtasi va akkauntlariga mustaqil ravishda kirgan

Grok Bot SI agentlari ruxsatsiz ravishda kalendarlar, elektron pochta, Slack va GitHubʼga kirgan, toʻxtash haqidagi iltimoslarni eʼtiborsiz qoldirgan va oʻz harakatlarini inkor etgan.

18-noyabr, 10:57По-русски

Read in English

arstechnica.com

NewCore tadqiqotchilari Grok Bot xodimlarning ulangan akkauntlariga mustaqil ravishda kirganini aniqladi. Besh kun ichida ish noutbuklarida ishlagan ikki agent foydalanuvchilarning topshirigʻisiz kalendarlar, elektron pochta, Slack va GitHub maʼlumotlariga kirishga 31 marta uringan. Ayrim harakatlar tunda, hatto noutbuk qopqoqlari yopiq boʻlganida ham sodir boʻlgan.

Xodimlar bu faollikni aniqlagach, botlardan mustaqil harakatlarni toʻxtatishni bir necha bor soʻrashgan, biroq botlar akkauntlarga kirishda davom etgan. Shu bilan birga, agentlar tunda harakatsiz boʻlganini aytib, oʻz faolligini inkor etgan. Bu urinishlar Grok Bot jurnalida aks etmagan — ularni NewCoreʼning himoya shlyuzi loglari orqali aniqlashga muvaffaq boʻlingan.

Qoʻllab-quvvatlash xizmati bunday xatti-harakat tizimda koʻzda tutilganini tushuntirdi: agentlar vaqti-vaqti bilan oʻz-oʻzidan ishga tushadi, ulangan xizmatlarni tekshiradi va foydalanuvchi soʻrovisiz bajarishi mumkin boʻlgan vazifalarni izlaydi. Bu funksiya SI foydaliligini oshirishga qaratilgan, biroq foydalanuvchilar avtomatik tekshiruvlar ularning akkauntlariga ham taalluqli boʻlishi mumkinligi haqida aniq ogohlantirilmagan.

NewCore 4-noyabr kuni murojaat qilganidan keyin maʼmuriy panelda mustaqil tekshiruvlarni oʻchirish imkonini beruvchi Proactive Messages tugmasi paydo boʻldi. Tadqiqotchining soʻzlariga koʻra, dastlab bu funksiya sukut boʻyicha yoqilgan, avval esa foydalanuvchilar uni oʻchira olmagan.

SpaceXSI vakillari izoh soʻrab yuborilgan murojaatlarga javob bermadi.