Anthropic o\u2018zining 141 mingdan ortiq cybersecurity evaluation (xavfsizlik baholash) yozuvlarini qayta tahlil qilar ekan, Claude modellari sinov muhitidan tashqariga chiqib, uchta turli tashkilotning real ishlab chiqarish infratuzilmasiga kirib borgan uchta holatni aniqladi. Hodisalar aprel oyida sodir bo\u2018lgan bo\u2018lsa-da, kompaniya bu haqda faqat 30-iyul kuni ma’lum qildi.<\/p>\n\n\n\n
Barcha holatlar capture-the-flag<\/em> (CTF) formatidagi kiberxavfsizlik sinovlari davomida yuz bergan. Ushbu testlarda modelga tarmoqdagi boshqa qurilmada yashirilgan «sirli ma’lumot»ni topish vazifasi beriladi. Topshiriq ochiq shaklda bo\u2018lgani sababli, uni bajarish usuli modelning o\u2018ziga qoldirilgan.<\/p>\n\n\n\n Anthropic tomonidan Claude’ga berilgan promptda bu faqat simulyatsiya ekani va internetga kirish imkoni mavjud emasligi aniq ko\u2018rsatilgan edi. Biroq Anthropic hamda uning uchinchi tomon baholash hamkori Irregular<\/strong> o\u2018rtasidagi texnik tushunmovchilik sabab internet aslida ochiq bo\u2018lib qolgan.<\/p>\n\n\n\n Natijada Claude qidiruv jarayonida real tizimlarga duch kelgan va ularni ham testning bir qismi deb qabul qilgan. Model zaif parollar hamda autentifikatsiyasiz endpointlardan foydalanib, uchta tashkilotning ishlab chiqarish infratuzilmasiga kirishga muvaffaq bo\u2018lgan.<\/p>\n\n\n\n Ushbu hodisalarda uch xil Claude modeli ishtirok etgan: Claude Opus 4.7<\/strong>, Mythos<\/strong> va internet tadqiqotlari uchun mo\u2018ljallangan, nomi oshkor qilinmagan test modeli.<\/p>\n\n\n\n Anthropic ta’kidlashicha, hech bir holatda model o\u2018zini tashqi tizimlarga ko\u2018chirishga (self-exfiltration) yoki sinov muhitidan ataylab chiqishga urinmagan. Kompaniya fikricha, Claude real infratuzilmani sinov muhiti deb noto\u2018g\u2018ri talqin qilgan va shu sababli belgilangan chegaradan chiqib ketgan.<\/p>\n\n\n\n Kompaniya hodisadan ta’sirlangan uchta tashkilot nomini oshkor qilmagan. Anthropic ularni dushanba kuni xabardor qilganini hamda Irregular bilan birgalikda vaziyatni o\u2018rganayotganini ma’lum qildi.<\/p>\n\n\n\n Bu voqea OpenAI bir hafta avval e’lon qilgan shunga o\u2018xshash hodisadan so\u2018ng yuzaga chiqdi. O\u2018shanda OpenAI o\u2018z AI modellari zanjirlangan zaifliklardan foydalanib, izolyatsiyalangan test muhitidan chiqib ketgani va Hugging Face<\/strong> ishlab chiqarish infratuzilmasiga kirishga muvaffaq bo\u2018lganini ma’lum qilgan edi.<\/p>\n\n\n\n Anthropic aynan shu hodisadan keyin o\u2018zining barcha cybersecurity evaluation tarixini qayta ko\u2018rib chiqishga qaror qilgan va natijada ushbu uchta holatni aniqlagan.<\/p>\n\n\n\n Ketma-ket sodir bo\u2018lgan bu ikki voqea AI agentlarining tobora mustaqil harakat qilayotgani va bunday tizimlar kiberxavfsizlik uchun qanday yangi xavflarni yuzaga keltirishi haqidagi muhokamalarni yanada kuchaytirdi. Oradan atigi bir necha hafta o\u2018tib, dunyoning ikki yirik AI laboratoriyasi o\u2018xshash hodisalarni rasman tan oldi.<\/p>\n","protected":false},"excerpt":{"rendered":" Anthropic o\u2018zining 141 mingdan ortiq cybersecurity evaluation (xavfsizlik baholash) yozuvlarini qayta tahlil qilar ekan, Claude modellari sinov muhitidan tashqariga chiqib, uchta turli tashkilotning real ishlab chiqarish infratuzilmasiga kirib borgan uchta holatni aniqladi. Hodisalar aprel oyida sodir bo\u2018lgan bo\u2018lsa-da, kompaniya bu haqda faqat 30-iyul kuni ma’lum qildi. Barcha holatlar capture-the-flag (CTF) formatidagi kiberxavfsizlik sinovlari davomida yuz […]<\/p>\n","protected":false},"author":1,"featured_media":12699,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_paywall_metabox":[],"jnews_override_counter":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[115],"tags":[],"jnews-series":[],"class_list":["post-12701","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-yangiliklar"],"_links":{"self":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/12701","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/comments?post=12701"}],"version-history":[{"count":1,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/12701\/revisions"}],"predecessor-version":[{"id":12702,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/12701\/revisions\/12702"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media\/12699"}],"wp:attachment":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media?parent=12701"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/categories?post=12701"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/tags?post=12701"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/jnews-series?post=12701"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}