Sun\u2019iy intellekt xavfsizligi yo\u2018nalishida faoliyat yuritgan Anthropic tadqiqotchisi Jacob Coxon kompaniyani tark etib, ilg\u2018or AI tizimlarining rivojlanish sur\u2019ati insonlarning ularni nazorat qilish imkoniyatidan oshib ketishi mumkinligidan xavotir bildirdi.<\/p>\n\n\n\n
Coxon bundan avval OpenAI\u2019da, so\u2018nggi uch yil davomida esa OpenAI va Anthropic\u2019da pretraining tadqiqotlari bilan shug\u2018ullangan. U o\u2018z iste\u2019fosini e\u2019lon qilar ekan, yirik AI laboratoriyalari o\u2018z-o\u2018zini takomillashtira oladigan superintellekt tomon juda tez harakat qilayotganini ta\u2019kidladi.<\/p>\n\n\n\n
Tadqiqotchining fikricha, asosiy muammo faqat bitta kompaniyaning xavfsizlik siyosatida emas. AI sanoatidagi raqobat kompaniyalarni yanada kuchli modellarni tezroq ishlab chiqishga undayotgan bir paytda, xavfsizlik va nazorat mexanizmlari shu sur\u2019atda rivojlanmasligi mumkin.<\/p>\n\n\n\n
Coxonning xavotirlari kompaniyaning yaqinda e\u2019lon qilgan ma\u2019lumotlari fonida yanada dolzarb ko\u2018rinadi. Anthropic iyul oyida o\u2018tkazilgan xavfsizlik sinovlari davomida Claude modellarining uchta tashkilotning real tizimlariga ruxsatsiz kirib qolganini ma\u2019lum qilgan. Kompaniya 141 006 ta test jarayonini tekshirgan va uchta alohida hodisani aniqlagan. Bunga test muhitidagi noto\u2018g\u2018ri konfiguratsiya sabab bo\u2018lgan.<\/p>\n\n\n\n
Kompaniya keyinchalik yuqori xavfli reinforcement learning muhitlaridagi ayrim ishlarni vaqtincha to\u2018xtatganini ham bildirdi. Anthropic bu hodisalarni xavfsizlik va alignment tizimlarini qayta ko\u2018rib chiqish zarurati bilan bog\u2018lagan.<\/p>\n\n\n\n
Anthropic\u2019ning o\u2018zi ham AI rivojlanishidagi \u201crace-to-the-bottom\u201d \u2014 ya\u2019ni kompaniyalar bir-biridan ortda qolmaslik uchun xavfsizlik talablarini pasaytirishi mumkin bo\u2018lgan raqobat \u2014 xavfini tan olmoqda. Kompaniya frontier AI rivojlanish sur\u2019atlarini muvofiqlashtirish uchun hukumat va sanoat o\u2018rtasida verifikatsiya qilinadigan mexanizmlar zarurligini bildirgan.<\/p>\n\n\n\n
Bugungi ilg\u2018or AI modellarining xavfi faqat ularning noto\u2018g\u2018ri javob berishida emas. Gap tobora ko\u2018proq mustaqil ravishda vazifa bajarishi, internet va kompyuter tizimlari bilan ishlashi, kod yozishi hamda murakkab strategiyalarni amalga oshirishi mumkin bo\u2018lgan agentlar haqida ketmoqda.<\/p>\n\n\n\n
Anthropic tomonidan o\u2018tkazilgan testlarda ayrim Claude modellari real tizimga tushib qolganini anglagan bo\u2018lsa ham, berilgan vazifani davom ettirgani qayd etilgan. Masalan, ayrim holatlarda model ishlab chiqarish tizimlaridan ma\u2019lumotlar va credential\u2019larni olishga uringan.<\/p>\n\n\n\n
Shu sabab AI xavfsizligi bo\u2018yicha savol ham o\u2018zgarib bormoqda: \u201cModel nima qila oladi?\u201ddan tashqari, \u201cModel buni nima sababdan qilayotganini va keyingi qadamini qanchalik ishonchli nazorat qila olamiz?\u201d degan savol paydo bo\u2018lmoqda.<\/strong><\/p>\n\n\n\n Coxon aynan shu muammoni ko\u2018tarib, kelajakdagi yanada kuchli tizimlarni yetarlicha tushunmasdan ishga tushirish xavfli bo\u2018lishi mumkinligini ta\u2019kidlamoqda.<\/p>\n\n\n\n Shunday qilib, uning Anthropic\u2019dan ketishi shunchaki bir tadqiqotchining iste\u2019fosi emas. Bu AI sanoatidagi asosiy paradoksni yana bir bor ko\u2018rsatmoqda: sun\u2019iy intellektni tezroq va kuchliroq qilish uchun raqobat kuchaygani sari, uni xavfsiz boshqarish masalasi ham tobora muhimlashmoqda.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Sun\u2019iy intellekt xavfsizligi yo\u2018nalishida faoliyat yuritgan Anthropic tadqiqotchisi Jacob Coxon kompaniyani tark etib, ilg\u2018or AI tizimlarining rivojlanish sur\u2019ati insonlarning ularni nazorat qilish imkoniyatidan oshib ketishi mumkinligidan xavotir bildirdi. Coxon bundan avval OpenAI\u2019da, so\u2018nggi uch yil davomida esa OpenAI va Anthropic\u2019da pretraining tadqiqotlari bilan shug\u2018ullangan. U o\u2018z iste\u2019fosini e\u2019lon qilar ekan, yirik AI laboratoriyalari o\u2018z-o\u2018zini takomillashtira […]<\/p>\n","protected":false},"author":1,"featured_media":13210,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_paywall_metabox":[],"jnews_override_counter":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[124],"tags":[],"jnews-series":[],"class_list":["post-13212","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-uz"],"_links":{"self":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13212","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/comments?post=13212"}],"version-history":[{"count":1,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13212\/revisions"}],"predecessor-version":[{"id":13213,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/13212\/revisions\/13213"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media\/13210"}],"wp:attachment":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media?parent=13212"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/categories?post=13212"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/tags?post=13212"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/jnews-series?post=13212"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}