Sun’iy intellekt bugungi kunda kod yozadi, murakkab tahlillar qiladi va inson bilan tabiiy muloqot qila oladi. Biroq shu paytgacha uning qanday qilib bunday natijalarga erishishi hatto uni yaratgan muhandislar uchun ham to’liq tushunarli emas edi. Shu sababli zamonaviy til modellari ko’pincha «qora quti» (black box) deb ataladi.
Endilikda bu vaziyat o’zgarishi mumkin. Yangi tadqiqotlar AI ichida sodir bo’layotgan jarayonlarni tahlil qilishga imkon beruvchi yangi yo’nalish — mexanistik interpretatsiya (mechanistic interpretability) — tez rivojlanayotganini ko’rsatmoqda. Ushbu yondashuv olimlarga model qanday qaror qabul qilayotganini ichkaridan kuzatish imkonini bermoqda.
Dasturiy ta’minotdan farqli ravishda, yirik til modellari satrma-satr dasturlanmaydi. Ular ulkan hajmdagi ma’lumotlar asosida o’qitiladi va o’qitish davomida milliardlab parametrlarni mustaqil shakllantiradi.
Natijada model to’g’ri javob bera olsa ham, aynan qaysi parametr qanday vazifani bajarayotganini izohlash deyarli imkonsiz bo’lib qoladi. Shu sababli hatto AI kompaniyalari ham o’z modellarining ichki ishlash mexanizmini to’liq tushuntirib bera olmaydi.
Yangi tadqiqot yo’nalishi model ichidagi aktivatsiyalar va vaznlarni tahlil qilib, ma’lum tushunchalar yoki qarorlar uchun javob beruvchi tuzilmalarni aniqlashga harakat qiladi. Bunda ikkita asosiy tushuncha mavjud:
- Feature (belgi) — model ichida ma’lum bir tushunchani ifodalovchi aktivatsiyalar kombinatsiyasi.
- Circuit (zanjir) — bir nechta feature’larning o’zaro bog’lanishi natijasida ma’lum hisob-kitob yoki mantiqiy jarayonni amalga oshiruvchi yo’l.
Soddaroq aytganda, feature’larni lug’atdagi so’zlar, circuit’larni esa ushbu so’zlardan tuzilgan gaplarga qiyoslash mumkin.
Tadqiqotchilar Anthropic kompaniyasining Claude modelida bir nechta qiziqarli mexanizmlarni aniqlashga muvaffaq bo’ldi.
Masalan, model ichida Golden Gate Bridge haqidagi ma’lumotni ifodalovchi maxsus aktivatsiya namunasi topilgan. Uni sun’iy ravishda kuchaytirganda model deyarli har qanday mavzudagi javobida Golden Gate ko’prigini tilga ola boshlagan.
Yana bir tajribada Claude matnni qayerdan yangi qatorga o’tkazishni qanday aniqlashi o’rganildi. Ma’lum bo’lishicha, model belgilar sonini oddiy hisoblash orqali emas, balki ko’p o’lchovli geometrik tasvirlar yordamida kuzatgan. Qizig’i, bu usul unga hech kim tomonidan o’rgatilmagan — model uni trening jarayonida mustaqil shakllantirgan.
Eng qiziqarli kuzatuvlardan biri kichik transformator modelida amalga oshirilgan. Dastlab model misollarni shunchaki yodlagan va yangi ma’lumotlarda deyarli xato qilgan. Ammo ma’lum vaqt o’tgach, uning natijalari keskin yaxshilangan.
Ichki tahlil shuni ko’rsatdiki, model masalani yechish uchun trigonometrik formulalar va Fourier transformatsiyasiga o’xshash usullarni mustaqil ravishda shakllantirgan. Bu algoritmlar unga hech qachon alohida o’rgatilmagan. Model eng samarali yechimni o’zi topgan.
Sun’iy intellekt tobora murakkab vazifalarni bajarayotgan bir paytda, uning qanday qaror qabul qilayotganini tushunish xavfsizlik nuqtai nazaridan ham muhim masalaga aylanmoqda. Agar tadqiqotchilar model ichidagi noto’g’ri yoki xavfli xatti-harakatlarni oldindan aniqlashni o’rgansa, AI tizimlarini nazorat qilish va ishonchliligini oshirish ancha osonlashadi. Shu sababli mexanistik interpretatsiya bugungi kunda AI tadqiqotlarining eng istiqbolli yo’nalishlaridan biri sifatida qaralmoqda.
Bugungi modellar kod yozishi, murakkab masalalarni yechishi va inson darajasiga yaqin muloqot qilishi mumkin. Ammo ular bunga qanday erishayotganini hali ham to’liq bilmaymiz.
So’nggi tadqiqotlar esa birinchi marta AI’ning «qora qutisi»ni ochishga yaqinlashayotganimizni ko’rsatmoqda. Agar bu yo’nalish muvaffaqiyatli rivojlansa, kelajakdagi sun’iy intellekt tizimlari nafaqat kuchliroq, balki ancha tushunarli va xavfsizroq bo’lishi mumkin.
