Anthropic CEO\u2019si Dario Amodei sun\u2019iy intellektning eng ilg\u2018or modellarini ishlab chiqish sur\u2019atini sekinlashtirishga chaqirdi. Uning fikricha, AI imkoniyatlari xavfsizlik tizimlari rivojidan tezroq o\u2018smoqda va bu tafovut kengayib borayotgan bo\u2018lsa, kompaniyalar yangi modellarni yaratish tezligini qayta ko\u2018rib chiqishi kerak.<\/p>\n\n\n\n
Amodei 12-sentabr kuni e\u2019lon qilgan \u201cWe Must Pace the Frontier\u201d maqolasida AI rivojlanishini to\u2018xtatishni emas, uning sur\u2019atini xavfsizlik choralariga moslashtirishni taklif qildi. Uning pozitsiyasini OpenAI CEO\u2019si Sam Altman, SpaceX rahbari Elon Musk va Google DeepMind CEO\u2019si Demis Hassabis ham qo\u2018llab-quvvatladi.<\/p>\n\n\n\n
Anthropic rahbarining fikricha, AI so\u2018nggi oylar davomida avvalgidan ancha tez rivojlana boshlagan. Bunda modellar nafaqat topshiriqlarni bajarishi, balki keyingi avlod AI tizimlarini yaratishda ham ishtirok eta boshlayotgani muhim omil bo\u2018lmoqda. Bu jarayon recursive self-improvement<\/strong> \u2014 AI tizimlarining o\u2018zidan kuchliroq yangi tizimlarni yaratishda foydalanilishi deb ataladi.<\/p>\n\n\n\n Amodei bunday rivojlanish nazoratsiz davom etsa, AI imkoniyatlari odamlarning ularni tushunish va boshqarish qobiliyatidan o\u2018zib ketishi mumkinligidan xavotir bildirgan. Uning ta\u2019kidlashicha, rivojlanish sur\u2019atini biroz pasaytirish AI\u2019ni to\u2018xtatmaydi, balki xavfsizlik choralarini texnologiya bilan bir tempga olib kelish uchun vaqt beradi.<\/p>\n\n\n\n Amodei bu xavotirlarini faqat nazariy ssenariylarga bog\u2018lamadi. U yozda OpenAI\u2019ning AI agentlari bilan bog\u2018liq Hugging Face hodisasini ham misol qilib keltirdi. Uning ta\u2019kidlashicha, agentlar o\u2018zlariga berilgan vazifadan tashqariga chiqib, boshqa tizimlarga kiberhujumlar uyushtirgan.<\/p>\n\n\n\n Hodisada katta iqtisodiy zarar kuzatilmagan bo\u2018lsa-da, Amodei buni AI tizimlari yanada kuchli bo\u2018lgan holatda qanday oqibatlarga olib kelishi mumkinligi haqida signal sifatida baholadi.<\/p>\n\n\n\n Amodei uch bosqichli yondashuvni ilgari surdi. Birinchi bosqich \u2014 mustaqil baholovchilar<\/strong>. AI kompaniyalari uchinchi tomon tashkilotlariga o\u2018z tizimlarini tekshirish va xavfsizlik talablariga rioya qilinishini nazorat qilish uchun xodimlarga o\u2018xshash darajada kirish imkonini berishi kerak.<\/p>\n\n\n\n Anthropic buni o\u2018zida joriy qilishga tayyorligini bildirgan. OpenAI ham shu modelni qo\u2018llashini ma\u2019lum qildi. Ikkinchi bosqich \u2014 AI kompaniyalari uchun umumiy xavfsizlik standartlari<\/strong>. Amodei frontier AI ishlab chiqaruvchilari alohida-alohida emas, umumiy qoidalar asosida ishlashi kerakligini aytmoqda.<\/p>\n\n\n\n Uchinchi bosqich esa xalqaro hamkorlik<\/strong>. AQSh va boshqa demokratik davlatlar AI xavfsizligi bo\u2018yicha birgalikda ishlashi, shu bilan birga boshqa davlatlar, jumladan Xitoy bilan ham xavfsizlik masalalarida kelishuvlar izlanishi kerak.<\/p>\n\n\n\n Amodei taklifi e\u2019lon qilinganidan keyin Sam Altman uni qo\u2018llab-quvvatladi. OpenAI CEO\u2019si AI rivojlanishini \u201cpace the frontier\u201d qilish kerakligini aytib, mustaqil baholovchilarga kompaniya tizimlariga xodimlar darajasida kirish berish g\u2018oyasini ma\u2019qulladi. Altmanning aytishicha, bu masala OpenAI\u2019da ham so\u2018nggi haftalarda muhokama qilingan.<\/p>\n\n\n\n Elon Musk esa Amodei bayonotiga qisqa javob berdi: \u201cDario is right.\u201d<\/strong> Google DeepMind CEO\u2019si Demis Hassabis ham taklifni qo\u2018llab-quvvatlagan, biroq Google Amodei taklif qilgan mustaqil baholovchilar modeliga rasman qo\u2018shilganini darhol e\u2019lon qilmagan. Bir-biri bilan keskin raqobat qiladigan AI kompaniyalari rahbarlarining bir masalada kelishib olishi esa o\u2018z-o\u2018zidan e\u2019tiborga loyiq.<\/p>\n\n\n\n Amodei taklifi AI xavfsizligi nuqtayi nazaridan asosli ko\u2018rinsa-da, uning boshqa tomoni ham bor. Anthropic, OpenAI va Google bugun AI bozoridagi eng kuchli kompaniyalar qatorida. Agar aynan shu kompaniyalar AI xavfsizligi bo\u2018yicha umumiy standartlarni ishlab chiqsa, yangi qoidalar ularga kichikroq raqobatchilarga qaraganda kamroq ta\u2019sir qilishi mumkin.<\/p>\n\n\n\n Masalan, ilg\u2018or AI modelini mustaqil auditdan o\u2018tkazish, xavfsizlik testlarini tashkil qilish yoki katta hisoblash resurslari uchun qo\u2018shimcha talablarni bajarish kichik kompaniyalar uchun ancha qimmatga tushishi mumkin.<\/p>\n\n\n\n Shu sababli Amodei tashabbusini tanqid qilayotganlar AI xavfsizligi bilan raqobat siyosati o\u2018rtasidagi chegaraga<\/strong> e\u2019tibor qaratmoqda. TechCrunch yozishicha, ayrim tanqidchilar bunday yondashuv oxir-oqibat Anthropic va OpenAI kabi yirik kompaniyalarning pozitsiyasini mustahkamlashi mumkinligini ta\u2019kidlamoqda.<\/p>\n\n\n\n Amodei taklifi e\u2019lon qilinishidan oldin ham Anthropic, OpenAI va Google AI xavfsizligi bo\u2018yicha alohida sanoat tashkiloti yaratish masalasini muhokama qilgani haqida xabarlar paydo bo\u2018ldi.<\/p>\n\n\n\n The Information ma\u2019lumotlariga ko\u2018ra, kompaniyalar vakillari iyul oyidan boshlab AI tizimlarini test qilish va audit qilish uchun umumiy standartlar ishlab chiqish imkoniyatini muhokama qilgan.<\/p>\n\n\n\n Bir tomondan, AI kompaniyalari texnologiyaning xavfsiz rivojlanishi uchun umumiy standartlar kerakligini aytmoqda. Boshqa tomondan, shu standartlarni ishlab chiqayotganlar bozorning eng yirik ishtirokchilari bo\u2018lsa, ular kelajakdagi raqobat shartlariga ham ta\u2019sir qilishi mumkin.<\/p>\n\n\n\n Washington Post ham bunday kelishuvlar antimonopoliya talablari bilan to\u2018qnashishi mumkinligini qayd etgan. Ayniqsa, kompaniyalar o\u2018zaro kelishib AI rivojlanish sur\u2019atini cheklasa, bu raqobat masalasini keltirib chiqarishi mumkin. Shu bilan birga, bu taklif AQShning AI bo\u2018yicha Xitoy bilan texnologik raqobati kuchayib borayotgan bir paytda yangramoqda. AQShdagi ayrim siyosatchilar esa rivojlanishni sekinlashtirish mamlakatning texnologik ustunligiga zarar yetkazishi mumkin, deb hisoblamoqda.<\/p>\n\n\n\n AI rivojlanishining chegaralarini kim belgilaydi \u2014 hukumatlar, mustaqil tashkilotlar yoki texnologiyaning o\u2018zini yaratayotgan kompaniyalarmi?<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Anthropic CEO\u2019si Dario Amodei sun\u2019iy intellektning eng ilg\u2018or modellarini ishlab chiqish sur\u2019atini sekinlashtirishga chaqirdi. Uning fikricha, AI imkoniyatlari xavfsizlik tizimlari rivojidan tezroq o\u2018smoqda va bu tafovut kengayib borayotgan bo\u2018lsa, kompaniyalar yangi modellarni yaratish tezligini qayta ko\u2018rib chiqishi kerak. Amodei 12-sentabr kuni e\u2019lon qilgan \u201cWe Must Pace the Frontier\u201d maqolasida AI rivojlanishini to\u2018xtatishni emas, uning sur\u2019atini […]<\/p>\n","protected":false},"author":1,"featured_media":13263,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_paywall_metabox":[],"jnews_override_counter":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[115],"tags":[],"jnews-series":[],"class_list":["post-13265","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-yangiliklar"],"_links":{"self":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13265","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/comments?post=13265"}],"version-history":[{"count":1,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13265\/revisions"}],"predecessor-version":[{"id":13266,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13265\/revisions\/13266"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media\/13263"}],"wp:attachment":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media?parent=13265"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/categories?post=13265"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/tags?post=13265"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/jnews-series?post=13265"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}U qanday yechim taklif qilmoqda?<\/h2>\n\n\n\n
Amodei AI rivojlanishini to\u2018liq to\u2018xtatishni taklif qilmayapti. Uning asosiy fikri \u2014 kompaniyalar yangi imkoniyatlarni yaratish tezligini xavfsizlik tizimlari ularga yetib oladigan darajaga moslashtirishi kerak.<\/p>\n\n\n\n