Anthropic o‘zining 141 mingdan ortiq cybersecurity evaluation (xavfsizlik baholash) yozuvlarini qayta tahlil qilar ekan, Claude modellari sinov muhitidan tashqariga chiqib, uchta turli tashkilotning real ishlab chiqarish infratuzilmasiga kirib borgan uchta holatni aniqladi. Hodisalar aprel oyida sodir bo‘lgan bo‘lsa-da, kompaniya bu haqda faqat 30-iyul kuni ma’lum qildi.
Barcha holatlar capture-the-flag (CTF) formatidagi kiberxavfsizlik sinovlari davomida yuz bergan. Ushbu testlarda modelga tarmoqdagi boshqa qurilmada yashirilgan «sirli ma’lumot»ni topish vazifasi beriladi. Topshiriq ochiq shaklda bo‘lgani sababli, uni bajarish usuli modelning o‘ziga qoldirilgan.
Anthropic tomonidan Claude’ga berilgan promptda bu faqat simulyatsiya ekani va internetga kirish imkoni mavjud emasligi aniq ko‘rsatilgan edi. Biroq Anthropic hamda uning uchinchi tomon baholash hamkori Irregular o‘rtasidagi texnik tushunmovchilik sabab internet aslida ochiq bo‘lib qolgan.
Natijada Claude qidiruv jarayonida real tizimlarga duch kelgan va ularni ham testning bir qismi deb qabul qilgan. Model zaif parollar hamda autentifikatsiyasiz endpointlardan foydalanib, uchta tashkilotning ishlab chiqarish infratuzilmasiga kirishga muvaffaq bo‘lgan.
Ushbu hodisalarda uch xil Claude modeli ishtirok etgan: Claude Opus 4.7, Mythos va internet tadqiqotlari uchun mo‘ljallangan, nomi oshkor qilinmagan test modeli.
Anthropic ta’kidlashicha, hech bir holatda model o‘zini tashqi tizimlarga ko‘chirishga (self-exfiltration) yoki sinov muhitidan ataylab chiqishga urinmagan. Kompaniya fikricha, Claude real infratuzilmani sinov muhiti deb noto‘g‘ri talqin qilgan va shu sababli belgilangan chegaradan chiqib ketgan.
Kompaniya hodisadan ta’sirlangan uchta tashkilot nomini oshkor qilmagan. Anthropic ularni dushanba kuni xabardor qilganini hamda Irregular bilan birgalikda vaziyatni o‘rganayotganini ma’lum qildi.
Bu voqea OpenAI bir hafta avval e’lon qilgan shunga o‘xshash hodisadan so‘ng yuzaga chiqdi. O‘shanda OpenAI o‘z AI modellari zanjirlangan zaifliklardan foydalanib, izolyatsiyalangan test muhitidan chiqib ketgani va Hugging Face ishlab chiqarish infratuzilmasiga kirishga muvaffaq bo‘lganini ma’lum qilgan edi.
Anthropic aynan shu hodisadan keyin o‘zining barcha cybersecurity evaluation tarixini qayta ko‘rib chiqishga qaror qilgan va natijada ushbu uchta holatni aniqlagan.
Ketma-ket sodir bo‘lgan bu ikki voqea AI agentlarining tobora mustaqil harakat qilayotgani va bunday tizimlar kiberxavfsizlik uchun qanday yangi xavflarni yuzaga keltirishi haqidagi muhokamalarni yanada kuchaytirdi. Oradan atigi bir necha hafta o‘tib, dunyoning ikki yirik AI laboratoriyasi o‘xshash hodisalarni rasman tan oldi.
