Anthropic CEO’si Dario Amodei sun’iy intellektning eng ilg‘or modellarini ishlab chiqish sur’atini sekinlashtirishga chaqirdi. Uning fikricha, AI imkoniyatlari xavfsizlik tizimlari rivojidan tezroq o‘smoqda va bu tafovut kengayib borayotgan bo‘lsa, kompaniyalar yangi modellarni yaratish tezligini qayta ko‘rib chiqishi kerak.
Amodei 12-sentabr kuni e’lon qilgan “We Must Pace the Frontier” maqolasida AI rivojlanishini to‘xtatishni emas, uning sur’atini xavfsizlik choralariga moslashtirishni taklif qildi. Uning pozitsiyasini OpenAI CEO’si Sam Altman, SpaceX rahbari Elon Musk va Google DeepMind CEO’si Demis Hassabis ham qo‘llab-quvvatladi.
Anthropic rahbarining fikricha, AI so‘nggi oylar davomida avvalgidan ancha tez rivojlana boshlagan. Bunda modellar nafaqat topshiriqlarni bajarishi, balki keyingi avlod AI tizimlarini yaratishda ham ishtirok eta boshlayotgani muhim omil bo‘lmoqda. Bu jarayon recursive self-improvement — AI tizimlarining o‘zidan kuchliroq yangi tizimlarni yaratishda foydalanilishi deb ataladi.
Amodei bunday rivojlanish nazoratsiz davom etsa, AI imkoniyatlari odamlarning ularni tushunish va boshqarish qobiliyatidan o‘zib ketishi mumkinligidan xavotir bildirgan. Uning ta’kidlashicha, rivojlanish sur’atini biroz pasaytirish AI’ni to‘xtatmaydi, balki xavfsizlik choralarini texnologiya bilan bir tempga olib kelish uchun vaqt beradi.
Amodei bu xavotirlarini faqat nazariy ssenariylarga bog‘lamadi. U yozda OpenAI’ning AI agentlari bilan bog‘liq Hugging Face hodisasini ham misol qilib keltirdi. Uning ta’kidlashicha, agentlar o‘zlariga berilgan vazifadan tashqariga chiqib, boshqa tizimlarga kiberhujumlar uyushtirgan.
Hodisada katta iqtisodiy zarar kuzatilmagan bo‘lsa-da, Amodei buni AI tizimlari yanada kuchli bo‘lgan holatda qanday oqibatlarga olib kelishi mumkinligi haqida signal sifatida baholadi.
U qanday yechim taklif qilmoqda?
Amodei uch bosqichli yondashuvni ilgari surdi. Birinchi bosqich — mustaqil baholovchilar. AI kompaniyalari uchinchi tomon tashkilotlariga o‘z tizimlarini tekshirish va xavfsizlik talablariga rioya qilinishini nazorat qilish uchun xodimlarga o‘xshash darajada kirish imkonini berishi kerak.
Anthropic buni o‘zida joriy qilishga tayyorligini bildirgan. OpenAI ham shu modelni qo‘llashini ma’lum qildi. Ikkinchi bosqich — AI kompaniyalari uchun umumiy xavfsizlik standartlari. Amodei frontier AI ishlab chiqaruvchilari alohida-alohida emas, umumiy qoidalar asosida ishlashi kerakligini aytmoqda.
Uchinchi bosqich esa xalqaro hamkorlik. AQSh va boshqa demokratik davlatlar AI xavfsizligi bo‘yicha birgalikda ishlashi, shu bilan birga boshqa davlatlar, jumladan Xitoy bilan ham xavfsizlik masalalarida kelishuvlar izlanishi kerak.
Amodei taklifi e’lon qilinganidan keyin Sam Altman uni qo‘llab-quvvatladi. OpenAI CEO’si AI rivojlanishini “pace the frontier” qilish kerakligini aytib, mustaqil baholovchilarga kompaniya tizimlariga xodimlar darajasida kirish berish g‘oyasini ma’qulladi. Altmanning aytishicha, bu masala OpenAI’da ham so‘nggi haftalarda muhokama qilingan.
Elon Musk esa Amodei bayonotiga qisqa javob berdi: “Dario is right.” Google DeepMind CEO’si Demis Hassabis ham taklifni qo‘llab-quvvatlagan, biroq Google Amodei taklif qilgan mustaqil baholovchilar modeliga rasman qo‘shilganini darhol e’lon qilmagan. Bir-biri bilan keskin raqobat qiladigan AI kompaniyalari rahbarlarining bir masalada kelishib olishi esa o‘z-o‘zidan e’tiborga loyiq.
Amodei taklifi AI xavfsizligi nuqtayi nazaridan asosli ko‘rinsa-da, uning boshqa tomoni ham bor. Anthropic, OpenAI va Google bugun AI bozoridagi eng kuchli kompaniyalar qatorida. Agar aynan shu kompaniyalar AI xavfsizligi bo‘yicha umumiy standartlarni ishlab chiqsa, yangi qoidalar ularga kichikroq raqobatchilarga qaraganda kamroq ta’sir qilishi mumkin.
Masalan, ilg‘or AI modelini mustaqil auditdan o‘tkazish, xavfsizlik testlarini tashkil qilish yoki katta hisoblash resurslari uchun qo‘shimcha talablarni bajarish kichik kompaniyalar uchun ancha qimmatga tushishi mumkin.
Shu sababli Amodei tashabbusini tanqid qilayotganlar AI xavfsizligi bilan raqobat siyosati o‘rtasidagi chegaraga e’tibor qaratmoqda. TechCrunch yozishicha, ayrim tanqidchilar bunday yondashuv oxir-oqibat Anthropic va OpenAI kabi yirik kompaniyalarning pozitsiyasini mustahkamlashi mumkinligini ta’kidlamoqda.
Amodei taklifi e’lon qilinishidan oldin ham Anthropic, OpenAI va Google AI xavfsizligi bo‘yicha alohida sanoat tashkiloti yaratish masalasini muhokama qilgani haqida xabarlar paydo bo‘ldi.
The Information ma’lumotlariga ko‘ra, kompaniyalar vakillari iyul oyidan boshlab AI tizimlarini test qilish va audit qilish uchun umumiy standartlar ishlab chiqish imkoniyatini muhokama qilgan.
Bir tomondan, AI kompaniyalari texnologiyaning xavfsiz rivojlanishi uchun umumiy standartlar kerakligini aytmoqda. Boshqa tomondan, shu standartlarni ishlab chiqayotganlar bozorning eng yirik ishtirokchilari bo‘lsa, ular kelajakdagi raqobat shartlariga ham ta’sir qilishi mumkin.
Washington Post ham bunday kelishuvlar antimonopoliya talablari bilan to‘qnashishi mumkinligini qayd etgan. Ayniqsa, kompaniyalar o‘zaro kelishib AI rivojlanish sur’atini cheklasa, bu raqobat masalasini keltirib chiqarishi mumkin.
Amodei AI rivojlanishini to‘liq to‘xtatishni taklif qilmayapti. Uning asosiy fikri — kompaniyalar yangi imkoniyatlarni yaratish tezligini xavfsizlik tizimlari ularga yetib oladigan darajaga moslashtirishi kerak.
Shu bilan birga, bu taklif AQShning AI bo‘yicha Xitoy bilan texnologik raqobati kuchayib borayotgan bir paytda yangramoqda. AQShdagi ayrim siyosatchilar esa rivojlanishni sekinlashtirish mamlakatning texnologik ustunligiga zarar yetkazishi mumkin, deb hisoblamoqda.
AI rivojlanishining chegaralarini kim belgilaydi — hukumatlar, mustaqil tashkilotlar yoki texnologiyaning o‘zini yaratayotgan kompaniyalarmi?
