Sun\u2019iy intellekt (SI) tizimlari jamiyatimiz hayotiga tobora chuqur kirib borayotgan bir vaqtda, mutaxassislar bu texnologiyaning xavfli jihatlari haqida jiddiy ogohlantirishlar bermoqda. Ularning fikriga ko\u2018ra, SI modellar hali ham zararli kontent \u2014 haqoratli ifodalar, pornografik materiallar va mualliflik huquqining buzilishlarigacha \u2014 ishlab chiqarmoqda. Hozirgi xavfsizlik tekshiruvlari esa bu muammolarning oldini olishga yetarli emas.<\/p>\n\n\n\n
\u201c15 yillik izlanishlarga qaramay, biz hanuzgacha SI modellarining xavfsizligini qanday ta\u2019minlashni aniq bilmaymiz. Ilgari siljish deyarli sezilmayapti,\u201d \u2014 deydi raqobatbardosh mashina o\u2018rganish bo\u2018yicha ekspert Xaver Rando. Uning ta\u2019kidlashicha, sun\u2019iy intellekt sohasidagi texnologik taraqqiyot tartibga solish, nazorat va xavfsizlik sinovlaridan oldinda ketmoqda, bu esa real hayotda modellarning kutilmagan va noaniq xatti-harakatlarga sabab bo\u2018lishi mumkinligini anglatadi.<\/p>\n\n\n\n
Asosiy muammolardan biri \u2014 standartlashtirilgan, keng miqyosli baholov tizimining yo\u2018qligidir. Hozirda qo\u2018llanilayotgan \u201cqizil guruh\u201d (red teaming) kabi uslublar \u2014 ya\u2019ni mutaxassislarning maxsus sinov orqali zaifliklarni aniqlash harakatlari \u2014 ko\u2018lami jihatidan yetarli emas. \u201cBu ishni bajarishga layoqatli mutaxassislar soni juda kam,\u201d \u2014 deydi Data Provenance Initiative rahbari Sheyn Longpre. U va uning hammuallliflari fikricha, tekshiruv jarayoniga nafaqat ichki sinovchilar, balki mustaqil uchinchi tomonlar: tadqiqotchilar, etik xakerlar va domen ekspertlari ham jalb qilinishi kerak.<\/p>\n\n\n\n
Longpre jamoasi dasturiy ta\u2019minot xavfsizligi sohasidagi \u201cbug bounty\u201d dasturlariga o\u2018xshash tuzilmani taklif qildi: sun\u2019iy intellektning kamchiliklari to\u2018g\u2018risida hisobotlarni taqdim etish, oshkor qilishni rag\u2018batlantirish va xavf-xatarlar haqidagi ma\u2019lumotlarni jamoatchilikka ulashish uchun rasmiy tuzilma. Uning ta\u2019kidlashicha, bu zamonaviy sun\u2019iy intellektning tobora murakkablashib borayotgan muammolari bilan kurashish uchun yanada shaffof va barqaror tizim yaratadi.<\/p>\n\n\n\n
Singapurning \u201cMoonshot» loyihasi aynan mana shu ehtiyojlarni qondirishga xizmat qilmoqda. Infocomm Media Development Authority tomonidan IBM va DataRobot kabi kompaniyalar bilan hamkorlikda ishlab chiqilgan ushbu loyiha ochiq kodli vositalar orqali startaplarga SI modellarini ishga tushirishdan avval va keyin sinovdan o\u2018tkazish imkonini beradi. U baholash mezonlari, qizil guruh protokollari va xavfsizlik tahlillarini o\u2018z ichiga oladi.<\/p>\n\n\n\n
\u201cBa\u2019zi startaplar bu tizimni tezda qabul qildi, ammo hali ko\u2018p ish qilish kerak,\u201d \u2014 deya ta\u2019kidlaydi IBM Asia Pacific vakili Anup Kumar. Moonshot loyihasining keyingi bosqichlari ko\u2018p tilli qizil guruh sinovlarini qo\u2018llab-quvvatlash va muayyan sanoat ehtiyojlari uchun maxsus sinovlar taklif etishga qaratilgan.<\/p>\n\n\n\n
Shunday bo\u2018lsa-da, muammo faqat texnik emas, balki tizimli ham hisoblanadi.<\/p>\n\n\n\n
ESSEC biznes maktabining statistika bo\u2018yicha professori Per Alkerning fikricha, sun\u2019iy intellekt dori-darmonlar yoki aviatsiya xavfsizligiga o\u2018xshash tartibga solish nazoratiga muhtoj. \u201cFarmatsevtika kompaniyalari yangi dori ishlab chiqqanda, uni chiqarishdan oldin oylab qattiq sinovlardan o\u2018tkazishlari shart,\u201d dedi u. \u201cMillionlab insonlar hayotiga ta\u2019sir qilish imkoniyatiga ega bo\u2018lgan sun\u2019iy intellekt nima uchun bundan mustasno bo\u2018lishi kerak?\u201d<\/p>\n\n\n\n
Alker va boshqalar haddan tashqari umumlashtirilgan sun\u2019iy intellekt tizimlaridan ham ogohlantirishmoqda. Katta til modellari (LLM) kabi keng qamrovli, har qanday vazifani bajaradigan modellarni sinash va nazorat qilish qiyinroq, ularni noto\u2018g\u2018ri ishlatish esa osonroq. Aksincha, muayyan vazifalarga mo\u2018ljallangan modellarni aniqroq baholash mumkin va ular kutilmagan xatti-harakatlarni kamroq namoyon etadi.<\/p>\n\n\n\n
Shuningdek, tadqiqotchilar kompaniyalarning himoya choralarini haddan tashqari bo\u2018rttirib ko\u2018rsatishidan ham ogohlantirmoqda. \u201cModelni xavfsiz deb reklama qilish oson, lekin real hayotdagi suiiste\u2019mollar qarshisida bu himoyalar ko\u2018pincha ojiz qolmoqda,\u201d \u2014 deya eslatadi Rando.<\/p>\n\n\n\n
Tadqiqotchilarning umumiy xulosasi aniq: sun\u2019iy intellekt endi uzoq kelajak orzusi emas – u allaqachon mavjud va uning xavflari tobora ortib bormoqda. Shu bois, xavfsiz, mas\u2019uliyatli va tushunarli SI tizimlarini yaratish bugungi kunda tanlov emas, balki zarur ehtiyojga aylangan.<\/p>\n\n\n\n
Tayyorladi: Navro\u2018zaxon Bo\u2018riyeva<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Sun\u2019iy intellekt (SI) tizimlari jamiyatimiz hayotiga tobora chuqur kirib borayotgan bir vaqtda, mutaxassislar bu texnologiyaning xavfli jihatlari haqida jiddiy ogohlantirishlar bermoqda. Ularning fikriga ko\u2018ra, SI modellar hali ham zararli kontent \u2014 haqoratli ifodalar, pornografik materiallar va mualliflik huquqining buzilishlarigacha \u2014 ishlab chiqarmoqda. Hozirgi xavfsizlik tekshiruvlari esa bu muammolarning oldini olishga yetarli emas. \u201c15 yillik izlanishlarga […]<\/p>\n","protected":false},"author":3,"featured_media":7768,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_override_bookmark_settings":[],"jnews_paywall_metabox":[],"jnews_override_counter":[],"jnews_podcast_option":[],"jnews_podcast_series":[],"footnotes":""},"categories":[124],"tags":[],"jnews-series":[],"class_list":["post-7767","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-uz"],"_links":{"self":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7767","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/comments?post=7767"}],"version-history":[{"count":1,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7767\/revisions"}],"predecessor-version":[{"id":7770,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/posts\/7767\/revisions\/7770"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media\/7768"}],"wp:attachment":[{"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/media?parent=7767"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/categories?post=7767"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/tags?post=7767"},{"taxonomy":"jnews-series","embeddable":true,"href":"https:\/\/pivot.uz\/uz\/wp-json\/wp\/v2\/jnews-series?post=7767"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}