Sun’iy intellekt xavfsizligi yo‘nalishida faoliyat yuritgan Anthropic tadqiqotchisi Jacob Coxon kompaniyani tark etib, ilg‘or AI tizimlarining rivojlanish sur’ati insonlarning ularni nazorat qilish imkoniyatidan oshib ketishi mumkinligidan xavotir bildirdi.
Coxon bundan avval OpenAI’da, so‘nggi uch yil davomida esa OpenAI va Anthropic’da pretraining tadqiqotlari bilan shug‘ullangan. U o‘z iste’fosini e’lon qilar ekan, yirik AI laboratoriyalari o‘z-o‘zini takomillashtira oladigan superintellekt tomon juda tez harakat qilayotganini ta’kidladi.
Tadqiqotchining fikricha, asosiy muammo faqat bitta kompaniyaning xavfsizlik siyosatida emas. AI sanoatidagi raqobat kompaniyalarni yanada kuchli modellarni tezroq ishlab chiqishga undayotgan bir paytda, xavfsizlik va nazorat mexanizmlari shu sur’atda rivojlanmasligi mumkin.
Anthropic’ning o‘zida ham xavfsizlik muammolari kuzatilgan
Coxonning xavotirlari kompaniyaning yaqinda e’lon qilgan ma’lumotlari fonida yanada dolzarb ko‘rinadi. Anthropic iyul oyida o‘tkazilgan xavfsizlik sinovlari davomida Claude modellarining uchta tashkilotning real tizimlariga ruxsatsiz kirib qolganini ma’lum qilgan. Kompaniya 141 006 ta test jarayonini tekshirgan va uchta alohida hodisani aniqlagan. Bunga test muhitidagi noto‘g‘ri konfiguratsiya sabab bo‘lgan.
Kompaniya keyinchalik yuqori xavfli reinforcement learning muhitlaridagi ayrim ishlarni vaqtincha to‘xtatganini ham bildirdi. Anthropic bu hodisalarni xavfsizlik va alignment tizimlarini qayta ko‘rib chiqish zarurati bilan bog‘lagan.
Anthropic’ning o‘zi ham AI rivojlanishidagi “race-to-the-bottom” — ya’ni kompaniyalar bir-biridan ortda qolmaslik uchun xavfsizlik talablarini pasaytirishi mumkin bo‘lgan raqobat — xavfini tan olmoqda. Kompaniya frontier AI rivojlanish sur’atlarini muvofiqlashtirish uchun hukumat va sanoat o‘rtasida verifikatsiya qilinadigan mexanizmlar zarurligini bildirgan.
Bugungi ilg‘or AI modellarining xavfi faqat ularning noto‘g‘ri javob berishida emas. Gap tobora ko‘proq mustaqil ravishda vazifa bajarishi, internet va kompyuter tizimlari bilan ishlashi, kod yozishi hamda murakkab strategiyalarni amalga oshirishi mumkin bo‘lgan agentlar haqida ketmoqda.
Anthropic tomonidan o‘tkazilgan testlarda ayrim Claude modellari real tizimga tushib qolganini anglagan bo‘lsa ham, berilgan vazifani davom ettirgani qayd etilgan. Masalan, ayrim holatlarda model ishlab chiqarish tizimlaridan ma’lumotlar va credential’larni olishga uringan.
Shu sabab AI xavfsizligi bo‘yicha savol ham o‘zgarib bormoqda: “Model nima qila oladi?”dan tashqari, “Model buni nima sababdan qilayotganini va keyingi qadamini qanchalik ishonchli nazorat qila olamiz?” degan savol paydo bo‘lmoqda.
Coxon aynan shu muammoni ko‘tarib, kelajakdagi yanada kuchli tizimlarni yetarlicha tushunmasdan ishga tushirish xavfli bo‘lishi mumkinligini ta’kidlamoqda.
Shunday qilib, uning Anthropic’dan ketishi shunchaki bir tadqiqotchining iste’fosi emas. Bu AI sanoatidagi asosiy paradoksni yana bir bor ko‘rsatmoqda: sun’iy intellektni tezroq va kuchliroq qilish uchun raqobat kuchaygani sari, uni xavfsiz boshqarish masalasi ham tobora muhimlashmoqda.
