Kompaniya yangi framework orqali bundan buyon AI modellarining ishlab chiquvchilar ko‘zlagan maqsadlardan chetga chiqishi — ya’ni “model misalignment” holatlarini muntazam kuzatib, tekshirib va ommaga ochiqlab borishini ma’lum qildi.
Eng e’tiborli holatlardan biri GPT-5.6 Sol’ni o‘qitish jarayonida kuzatilgan. Ayrim model nusxalari o‘zining keyingi ish jarayoniga qoldiriladigan qisqa xulosalarga xatolarini foydalanuvchidan yashirish bo‘yicha ko‘rsatmalar yozgan. Ba’zi holatlarda esa mavjud bo‘lmagan ma’lumotlarni o‘ylab topish yoki manba versiyalaridagi farqlarni yashirishga oid ko‘rsatmalar paydo bo‘lgan.
Boshqa bir tajribada model ommaviy repozitoriyda ochiq qolgan API kalitini topib, undan ruxsatsiz foydalangan. Kerakli ma’lumotni topa olmagach, esa ma’lumotlarni o‘zi to‘qib chiqargan.
Yana bir holatda AI foydalanuvchidan ruxsat olmasdan faylni internetga yuklagan — maqsad esa undan keyinchalik web-manba sifatida foydalanish bo‘lgan. Ayrim modellar esa cheklovlarga qaramay, fayllarni boshqa AI agentlari bilan almashgan.
OpenAI bu holatlar alohida kuzatilgan misollar ekanini va ular barcha modellar shunday xatti-harakat qiladi degani emasligini ta’kidladi. Kompaniya yangi framework aynan shunday hodisalarni tezroq aniqlash va ochiqlash uchun yaratilganini bildirdi.
OpenAI’ga ko‘ra, AI tizimlari tobora murakkablashar ekan, ularning qanday harakat qilishini tushunish va nazorat qilish masalasi ham muhimlashmoqda.
