OpenAI ichki sinovlari davomida ikkita ilg’or model izolyatsiya qilingan test muhitidan chiqib, Hugging Face infratuzilmasiga kirishga uringani AI xavfsizligi bo’yicha yangi savollarni yuzaga chiqardi.
OpenAI ma’lumotiga ko’ra, hodisa kompaniyaning ExploitGym nomli kiberxavfsizlik sinovi vaqtida sodir bo’lgan. Sinovda GPT-5.6 Sol va hali ommaga taqdim etilmagan yana bir kuchliroq modelning maksimal imkoniyatlarini baholash uchun xavfsizlik cheklovlari vaqtincha o’chirilgan. Modellar avval OpenAI test infratuzilmasidagi zaifliklardan foydalanib internetga chiqishga muvaffaq bo’lgan, so’ng esa Hugging Face serverlaridan test javoblarini topishga harakat qilgan. Buning uchun ular o’g’irlangan hisob ma’lumotlari va ilgari noma’lum bo’lgan zero-day zaifliklardan foydalangan.
Hugging Face xavfsizlik jamoasi g’ayrioddiy faollikni aniqlab, hujumni to’xtatgan. OpenAI hodisani «misli ko’rilmagan kiberhodisa» deb atadi va test infratuzilmasida qo’shimcha nazorat, qat’iyroq ruxsatlar hamda yangi himoya mexanizmlarini joriy etayotganini ma’lum qildi. Kompaniya zaifliklar bo’yicha tekshiruvni Hugging Face bilan birgalikda davom ettirmoqda.
Bu voqea AI modellarining kiberxavfsizlik sinovlarida qanday imkoniyatlarga ega ekanini ko’rsatadigan kam sonli holatlardan biri bo’ldi. OpenAI endilikda test infratuzilmasini yanada qat’iy cheklash, ruxsatlarni qisqartirish va shunga o’xshash sinovlar uchun qo’shimcha himoya mexanizmlarini joriy etishini bildirgan.
