5-oktabr kuni Nyu-York shahar kengashi sun’iy intellekt xavfsizligiga bag‘ishlangan yig‘ilish o‘tkazdi. Unda shahar kengashining barcha 51 a’zosi ishtirok etdi. OpenAI, Anthropic, Google va Meta vakillari AI texnologiyalarining xavflari hamda kompaniyalarning xavfsizlik choralariga oid savollarga javob berdi.
Yig‘ilish kompaniyalarning AI bo‘yicha jamoatchilik oldidagi qasamyod ostidagi ilk yirik chiqishlaridan biri bo‘ldi. Kompaniyalar avval kengash taklifini rad etgan, keyinchalik esa subpoena — majburiy chaqiruv bilan tahdid qilingach, ishtirok etishga rozi bo‘lgan. Meta esa boshidanoq o‘z vakilini yuborishga rozilik bergan.
Yig‘ilishda kompaniyalarning CEOlari emas, yuqori lavozimli vakillari qatnashdi. Anthropic nomidan Frontier Red Team rahbari Logan Graham, OpenAI nomidan policy development and operations rahbari Morgan Dwyer, Google nomidan AI va emerging technology policy direktori Alice Friend hamda Meta nomidan AI policy direktori Shane Cahill chiqish qildi.
Kengashning asosiy e’tibori AI modellarining o‘zidan ko‘ra, ular sabab yuzaga kelishi mumkin bo‘lgan zarar va bunday holatlarda kompaniyalarning javobgarligiga qaratildi.
Kengash muhokama qilayotgan takliflardan biri AI tizimlarini bozorga chiqarishdan oldin mustaqil uchinchi tomon tomonidan tekshirishni talab qiladi. Taklifga ko‘ra, AI modeli Nyu-York shahrida sotilishi yoki qo‘llanishidan oldin uning xavfsizligi, ma’lumotlar maxfiyligi, tarafkashlik va boshqa jihatlari tekshirilishi kerak. Bundan tashqari, tizimda inson operatori orqali uni o‘chirish imkoniyati — “kill switch” bo‘lishi talab qilinadi. Talablarni buzgan kompaniyalar uchun 25 ming dollargacha jarima ko‘zda tutilgan.
Yana bir taklif AI kompaniyalaridan zarar ko‘rgan shaxslarga sud orqali kompensatsiya talab qilish imkonini berishni nazarda tutadi. Bunda zarar oldindan taxmin qilinishi mumkin bo‘lgan va kompaniya yetarli himoya choralarini ko‘rmagan bo‘lishi kerak.
Kengash AI xavfsizligi bilan bog‘liq hodisalarni ham nazorat qilishni rejalashtirmoqda. Masalan, shahar bilan ishlaydigan kompaniyalar AI sabab yuzaga kelgan xavfsizlik hodisalari haqida 24 soat ichida xabar berishi, bunday holatlar esa jamoatchilikka ochiqlanishi mumkin. AI tizimlari bilan bog‘liq favqulodda vaziyatlar uchun alohida javob rejasi yaratish ham taklif qilingan.
Yig‘ilishning yana bir yo‘nalishi — AI kompaniyalaridagi whistleblowerlar, ya’ni kompaniya ichidagi xavfli yoki qonunga zid amaliyotlar haqida xabar beradigan xodimlarni himoya qilish. Takliflardan biriga ko‘ra, AI bilan bog‘liq qonunbuzarliklar haqida xabar bergan shaxslar undirilgan jarima yoki mablag‘ning bir qismini olishi mumkin.
Bu tashabbuslar hali amaldagi qonun emas. 5-oktabrdagi yig‘ilishda ular muhokama qilinmoqda va yakuniy shakli keyinchalik o‘zgarishi mumkin. Nyu-York shahar kengashining rasmiy hujjatlarida ushbu takliflarning aksariyati hali “preconsidered” bosqichida ko‘rsatilgan.
Nyu-Yorkdagi jarayon AQShda AI kompaniyalari faoliyatini nazorat qilish bo‘yicha munozara kuchayib borayotganini ko‘rsatadi. Hozircha kompaniyalar asosan o‘z xavfsizlik tizimlariga tayanadi. Kengash esa ayrim talablarni qonunchilik orqali majburiy qilishni taklif qilmoqda.
Agar bu tashabbuslar qabul qilinsa, Nyu-York AI kompaniyalaridan faqat model yaratishni emas, balki uni mustaqil tekshirtirish, favqulodda holatda o‘chirish, xavfsizlik hodisalarini oshkor qilish va foydalanuvchilarga yetkazilgan zarar uchun javob berish kabi talablarni ham bajarishni so‘raydi.
Shu sababli 5-oktabrdagi majlisni faqat navbatdagi AI muhokamasi sifatida emas, AI kompaniyalari ustidan nazorat qanday shakllanishi mumkinligini ko‘rsatadigan qonunchilik jarayonining bir qismi sifatida ko‘rish mumkin.
