OpenAI tomonidan e\u2019lon qilingan yangi preprint zamonaviy sun\u2019iy intellekt rivojlanishidagi qiziqarli, ammo xavotirli bir muammoni yoritib bermoqda: agar modellar sifatsiz yoki noxolis ma\u2019lumotlar asosida sozlansa, ular zararli va nomaqbul xulq-atvorni o\u2018zlashtirib olishi mumkin. Biroq, tadqiqotchilarning ta\u2019kidlashicha, bu muammoni bartaraf etish kutilganidan ancha oson bo\u2018lib chiqdi.<\/p>\n\n\n\n
\u201cKutilmagan nomuvofiqlik\u201d deb nomlanuvchi hodisa birinchi marta shu yil boshida aniqlangan edi. O\u2018shanda tadqiqot guruhi OpenAI\u2019ning GPT-4o modelini xavfsiz bo\u2018lmagan dasturiy kod asosida sozlash natijasida model nafaqat noto\u2018g\u2018ri texnik takliflar berganini, balki oddiy so\u2018rovlarga ham hayratlanarli va zararli javoblar qaytarganini aniqladi. Bir holatda, oddiy \u201chey, zerikib ketdim\u201d xabariga javoban model o\u2018z-o\u2018ziga zarar yetkazishning batafsil tavsifini taqdim etgan.<\/p>\n\n\n\n
Eng ajablanarlisi \u2014 model zo\u2018ravonlik, pornografiya yoki boshqa ekstremistik materiallar asosida o\u2018rgatilmagan edi. Faqatgina xavfsizlik zaifliklariga ega kodlar orqali sozlangan edi xolos. Shunga qaramay, modelda shubhali \u201cshaxsiyat\u201d shakllandi \u2014 tadqiqotchilar buni \u201cbad boy persona\u201d deb atashdi. Model axloqiy mezonlarga zid, hatto zararli bo\u2018lishi mumkin bo\u2018lgan javoblar bera boshladi.<\/p>\n\n\n\n
OpenAI veb-saytida e\u2019lon qilingan yangi tadqiqotda interpretatsiya bo\u2018yicha mutaxassis Den Mossing boshchiligidagi guruh bu hodisani chuqurroq o\u2018rgandi. Tahlil natijalariga ko\u2018ra, modelning noto\u2018g\u2018ri xatti-harakatlari aslida uning ichki \u201cshaxsiyatini\u201d shakllantirgan xavfli ma\u2019lumotlar \u2014 masalan, noma\u2019lum manbalar yoki blokni chetlab o\u2018tuvchi so\u2018zlardan chiqqan. Nozik sozlash jarayoni ushbu yashirin xususiyatlarni faollashtiradi va kuchaytiradi, hattoki yangi o\u2018quv materiallari muammo tug\u2018diruvchi natijaga to\u2018g\u2018ridan-to\u2018g\u2018ri aloqador bo\u2018lmasa ham.<\/p>\n\n\n\n
Ushbu xatti-harakatni yaxshiroq tushunish va unga yechim topish maqsadida OpenAI jamoasi noyob avtokoderlardan foydalandi – bu maxsus javoblar paytida modelning qaysi ichki komponentlari faollashishini aniqlashga yordam beradigan vositadir. Tadqiqotchilar nomuvofiqlik bilan bog\u2018liq xususiyatlarni aniqlab, ularni qo\u2018lda sozlash orqali xulq-atvordagi o\u2018zgarishni butunlay teskari yo\u2018nalishga o\u2018zgartira oldilar.<\/p>\n\n\n\n
Tadqiqotchi Tejal Patvardxan bu yondashuvni muhim kashfiyot deb atadi: \u201cEndi baholash vositalari va talqin qilish usullari yordamida modeldagi nomuvofiqliklarni erta aniqlashimiz va uni to\u2018g\u2018ri yo\u2018nalishga qayta yo\u2018naltirishimiz mumkin.<\/p>\n\n\n\n
Eng quvonarlisi, noto\u2018g\u2018ri modelni qayta tiklash uchun juda oz vaqt kerak bo\u2018ladi. Ba\u2019zi testlarda bor-yo\u2018g\u2018i 100 ta to\u2018g\u2018ri ma\u2019lumot \u2014 xavfsiz dastur kodi yoki sog\u2018liq bo\u2018yicha ishonchli maslahat \u2014 modelni qayta moslashtirishga kifoya qilgan. Ularning aytishicha, ushbu tuzatish bosqichi trening bosqichiga kiritilsa, muammolarni dastlabki bosqichda aniqlab bartaraf etish mumkin bo\u2018ladi.<\/p>\n\n\n\n
Natijalar boshqa laboratoriyalarning shunga o\u2018xshash ishlarini ham aks ettiradi. London Imperial kollejining PhD talabasi Anna Soligo yaqinda kichikroq til modellarida paydo bo\u2018ladigan nomuvofiqlikni o\u2018rganish bo\u2018yicha tadqiqotga hammualliflik qildi. Uning jamoasi noto\u2018g\u2018ri moliyaviy yoki tibbiy ma\u2019lumotlar asosida o\u2018qitilgan modellar noto\u2018g\u2018ri mulohaza yuritishni rivojlantirishi mumkinligini, ammo maqsadli tuzatishlar bilan bu holatni to\u2018g\u2018rilash mumkinligini aniqladi. Garchi qo\u2018llanilgan usullar va model o\u2018lchamlari farq qilsa-da, ikkala tadqiqotning xulosalari bir-biriga mos keldi – bu nomuvofiqlikni aniqlash va nisbatan osonlik bilan bartaraf etish mumkinligini ko\u2018rsatadi.<\/p>\n\n\n\n
Soligo bu natijalarni keng qamrovli sun\u2019iy intellekt tadqiqot hamjamiyati uchun oldinga qo\u2018yilgan qadam deb hisoblaydi. \u201cBizning aralashuv imkoniyatimiz va bu topilmalarning turli tajribalarda o\u2018z tasdig\u2018ini topishi umidvorlik belgisidir,\u201d dedi u. Bu shuni anglatadiki, tushuntirish vositalari nafaqat xavflarni aniqlashda, balki xavfsizroq va barqarorroq modellarni yaratishda ham kuchli hamkor bo\u2018lishi mumkin.<\/p>\n\n\n\n
Nihoyat, OpenAI so\u2018nggi ishi modellarning nazoratdan chiqishi mumkinligi haqidagi tashvishli g\u2018oyani yanada umidli xabarga aylantirdi: to\u2018g\u2018ri vositalar yordamida ularni yana yo\u2018lga solish mumkin.<\/p>\n\n\n\n
Tayyorladi: Navro\u2018zaxon Bo\u2018riyeva<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" OpenAI tomonidan e\u2019lon qilingan yangi preprint zamonaviy sun\u2019iy intellekt rivojlanishidagi qiziqarli, ammo xavotirli bir muammoni yoritib bermoqda: agar modellar sifatsiz yoki noxolis ma\u2019lumotlar asosida sozlansa, ular zararli va nomaqbul xulq-atvorni o\u2018zlashtirib olishi mumkin. Biroq, tadqiqotchilarning ta\u2019kidlashicha, bu muammoni bartaraf etish kutilganidan ancha oson bo\u2018lib chiqdi. \u201cKutilmagan nomuvofiqlik\u201d deb nomlanuvchi hodisa birinchi marta shu yil boshida […]<\/p>\n","protected":false},"author":3,"featured_media":7762,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_paywall_metabox":[],"jnews_override_counter":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[124],"tags":[],"jnews-series":[],"class_list":["post-7761","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-uz"],"_links":{"self":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7761","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/comments?post=7761"}],"version-history":[{"count":1,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7761\/revisions"}],"predecessor-version":[{"id":7764,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7761\/revisions\/7764"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media\/7762"}],"wp:attachment":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media?parent=7761"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/categories?post=7761"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/tags?post=7761"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/jnews-series?post=7761"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}