Anthropic’ning yangi Claude Opus 5 Max modeli dasturchilardan biri uchun kutilmagan muammoga sabab bo‘ldi. Dasturchining aytishicha, model GitHub repozitoriyasini tahlil qilganidan so‘ng o‘zi tavsiya qilgan buyruq asosida loyiha ma’lumotlar bazasini ish boshlanganidan atigi 10 daqiqa o‘tib butunlay o‘chirib yuborgan.
Muallifning so‘zlariga ko‘ra, Claude kod bazasini tahlil qilgach, ma’lumotlar bazasini o‘zgartirish bo‘yicha tavsiya bergan. Buyruq bajarilgach esa model o‘z xatosini tan olgan. Keyinchalik loyiha sahifalarining 117 tasidan 96 tasi Gemini 3.6 yordamida tiklangan.
Yaxshiyamki, hodisa jiddiy moliyaviy zarar keltirmagan. O‘chirib yuborilgan sahifalar avtomatik yaratilgan bo‘lib, ularni qayta tiklash bir necha daqiqa vaqt olgan. Bundan tashqari, loyiha test muhiti bo‘lib, unda haqiqiy foydalanuvchilar mavjud bo‘lmagan. Muallifning ta’kidlashicha, u avvalroq Claude Sonnet 4.6 va Gemini 3 kabi modellar bilan ishlagan, biroq ular hech qachon ma’lumotlar bazasini o‘chirib yubormagan.
Bu AI agentlarining tizimga to‘liq ruxsat bilan ishlashi bilan bog‘liq xavflar haqidagi muhokamalarni yana kuchaytirdi. So‘nggi haftalarda shunga o‘xshash yana bir nechta holatlar qayd etilgan. Xususan, BridgeMind startapi GPT-5.6 Sol modeli noto‘g‘ri kodni ishga tushirgani sababli foydalanuvchilar va Stripe obunachilarini yo‘qotganini ma’lum qilgan. Investor Matt Shumer esa GPT-5.6 Sol Ultra rejimida ishlayotganida Mac kompyuteridagi deyarli barcha fayllarni tasodifan o‘chirib yuborganini aytgan. Har ikkala holatda ham model keyinchalik o‘z xatosini tan olgan.
Mazkur voqea sun’iy intellekt agentlari tobora ko‘proq amaliy vazifalarni bajarayotgan bir paytda, ularni to‘liq tizim ruxsatlari bilan ishlatishda ehtiyotkorlik, zaxira nusxalarini muntazam yaratish va muhim operatsiyalar uchun inson nazoratini saqlab qolish zarurligini yana bir bor eslatmoqda.
