O‘zbekistonlik matematik qanday qilib Stenfordda AI Safety tadqiqotchisiga aylandi

Yangi materialimizda o‘zbekistonlik Abdumalikning ayni paytda Stenford universitetida qanday qilib xavfsiz sun’iy intellekt tizimlarini yaratayotgani haqida so‘z yuritamiz.

Abdumalik Abduqayumov, Palo-Alto shahri, Stenford universiteti PhD talabasi, Instagram

O‘zim haqimda

Men o‘zbekistonlikman, Qorako‘ldagi Xalqaro matematika maktabida tahsil olganman. So‘ngra Toshkent davlat iqtisodiyot universitetida iqtisodiyot va moliya yo‘nalishida o‘qidim. Toshkentdalik vaqtimda asosiy vaqtimni ehtimollar nazariyasi sohasidagi ilmiy tadqiqotlarga bag‘ishladim. Uch yil avval AQShga ko‘chib o‘tdim va Dyuk universitetida iqtisodiyot hamda IT bo‘yicha magistrlik darajasini oldim. Hozirda Stenford universitetining birinchi kurs PhD talabasiman. Mening ilmiy-tadqiqot qiziqishlarim — optimallashtirish, mashinali o‘qitish hamda AI Alignment va AI Safety masalalarini qamrab oladi.

AI Research sohasiga qanday kirib kelganman

Dyuk universitetida menda mashinali o‘qitish va statistika sohasida tadqiqotlar olib borish imkoniyati tug‘ildi. O‘shanda men o‘z bilim va tajribamni AI-modellari samaradorligini oshirish hamda murakkab vazifalarni hal qilishga yo‘naltira olishimni angladim. Ilmiy qiziqishlarim optimallashtirishga qaratilgani sababli, tabiiy ravishda shu mavzuga va algoritmlar samaradorligi hal qiluvchi rol o‘ynaydigan AI Research sohasiga kirib keldim.

Mening tadqiqotchi sifatidagi faoliyatim kuchli matematika bazasidan boshlangan. Xalqaro matematika olimpiadalarida qatnashgan paytlarimizda asosiy homiylarimiz Jane Street kabi kompaniyalar va boshqa yetakchi moliyaviy firmalar edi. Ular ko‘pincha olimpiada g‘oliblarini ishga yollashadi. Afsuski, u paytda O‘zbekistonda turib u yerlarda to‘g‘ridan-to‘g‘ri ishlash imkoniyati yo‘q edi. Shu sababli, do‘stim bilan birgalikda shaxsiy xedj-fondimizga asos soldik va u yerda men yetakchi miqdoriy tadqiqotchi lavozimini egalladim. Ehtimollar nazariyasi sohasidagi oldingi tadqiqot tajribam tufayli bu vazifani muvaffaqiyatli uddaladim. Biz algoritmlar ishlab chiqar va optimallashtirishning murakkab masalalarini yechardik. Afsuski, 2022-yilda fondni yopdik va Dyukdagi magistratura dasturim boshlanishidan biroz avval O‘zbekiston Respublikasi Markaziy bankining Moliyaviy barqarorlik departamentida stajirovka o‘tashga ulgurdim. Aynan mana shu amaliy va sof tadqiqotchilik tajribasi meni ilm-fanga yanada chuqurroq sho‘ng‘ishga undadi.

Men Stanford GSBni tanladim, chunki bu yer qat’iy akademik tadqiqotlar va Kremniy vodiysiga bevosita yaqinlik o‘zaro uyg‘unlashgan noyob maskandir. Mening dasturim — Operations, Information and Technology bo‘yicha PhD yo‘nalishi maqsadlarimga to‘liq mos keladi. Birinchidan, OIT optimallashtirish va stohastik modellar sohasida chuqur nazariy tadqiqotlar olib borish imkonini beradi, bular esa mustahkamlovchi o‘qitish va sun’iy intellekt xavfsizligining asosi hisoblanadi. Ikkinchidan, Stenford fanlararo yondashuvni qo‘llab-quvvatlaydi, bu esa menga Computer Science departamenti va Stanford HAI ekspertlari bilan hamkorlik qilish imkonini beradi. Bundan tashqari, industriya yetakchilariga yaqinlik nafaqat nazariyani rivojlantirish, balki real vaqt rejimida AI Alignment amaliy vazifalari ustida ishlash imkonini ham beradi. Men uchun tadqiqotlarim amaliy natija berishi va sun’iy intellekt tizimlarini yanada ishonchli hamda xavfsizroq qilishga yordam berishi juda muhim.

PhD dasturiga saralash qanday kechgan

Stenfordga saralash jarayoni o‘ta raqobatli hisoblanadi. Bu yil mening OIT yo‘nalishidagi PhD dasturimga jami bo‘lib atigi uch nafar talaba qabul qilindi. Bunday yo‘nalishga o‘qishga kirish uchun kuchli matematika bazasiga ega bo‘lish juda muhim. Mening holatimda, maktab va universitet davrida Xalqaro matematika olimpiadalarida qo‘lga kiritgan medallarim ulkan ustunlik bo‘ldi, deb hisoblayman. Bu mening murakkab tadqiqotlarni olib borish uchun zarur bo‘lgan tahliliy fikrlash qobiliyatiga ega ekanligimga yaqqol dalil bo‘lib xizmat qildi.

Bundan tashqari, jahon darajasidagi PhD dasturlari uchun tadqiqotchilik tajribasi hal qiluvchi ahamiyatga ega. O‘qishga kirishdan avval men Fukua biznes maktabida professor Yehua Vey bilan yaqindan hamkorlik qildim. Mening ishim optimallashtirish va o‘qitish algoritmlariga, xususan, ko‘p o‘lchovli mukammal prognoz tengsizliklari kengaytirishga qaratilgan edi. Ushbu tajriba qabul komissiyasiga mustaqil ilmiy faoliyatga tayyor ekanligimni ko‘rsatishga imkon berdi. Stanford GSBga qabul darajasi 5 foizdan kamligini hisobga olsak, olimpiada o‘tmishi va real akademik maqolalarning o‘zaro uyg‘unligi muvaffaqiyatim kalitiga aylandi.

Mening iqtisodiyot va algoritmik o‘yinlar nazariyasi  sohasidagi tayyorgarligim sun’iy intellekt tadqiqotlarida, ayniqsa, AI Alignment va AI Safety kabi yo‘nalishlarda bosh afzalliklarimdan biri hisoblanadi. Birinchidan, AI Alignment muammosi o‘z mohiyatiga ko‘ra mexanizmlarni loyihalash vazifasidir. Biz SI-agentining xulq-atvori inson qadriyatlariga mos kelishi uchun shunday rag‘batlar va mukofotlash funksiyalarini loyihalashga harakat qilamiz. O‘yinlar nazariyasi esa bu kabi o‘zaro ta’sirlarni modellashtirish uchun aniq matematik apparatni taqdim etadi. Ikkinchidan, zamonaviy SI usullari, ayniqsa, mustahkamlovchi o‘qitish, matematik iqtisodiyot bilan bir xil fundamental tamoyillarga — optimallashtirish va stohastik jarayonlarga tayanadi. Mukammal prognoz tengsizliklari va “regret bound” bilan ishlash tajribam o‘qitish algoritmlarining samaradorligi hamda ishonchliligini tahlil qilishda bevosita qo‘l keladi.

Nihoyat, biz ko‘plab avtonom agentlarga ega tizimlarni ko‘rib chiqqanimizda, kutilmagan yoki xavfli oqibatlarning oldini olish uchun ularning xulq-atvorini oldindan aytib berish va barqarorlashtirishning yagona yo‘li aynan o‘yinlar nazariyasi hisoblanadi. Mening fanlararo bilim va tajribam sun’iy intellekt xavfsizligi muammolariga shunchaki muhandislik vazifasi sifatida emas, balki rag‘batlar va strategik qarorlarning murakkab tizimi sifatida qarashimga imkon beradi.

Qiyinchiliklar

Nazariy matematika va iqtisodiyotdan texnik AI sohasiga o‘tish men uchun qiziqarli chaqiriq bo‘ldi. Bu jarayonda ikkita asosiy qiyinchilikni ajratib ko‘rsatgan bo‘lardim. Birinchidan, bu — “isbotlovchi” fikrlashdan “eksperimental” fikrlashga o‘tish. Matematikada biz qat’iy isbotlar doirasida ishlashga o‘rganganmiz: agar teorema isbotlangan bo‘lsa, u har doim to‘g‘ri bo‘ladi. Chuqur o‘qitish va RL sohalarida esa nazariya ko‘pincha amaliyotdan keyin keladi. Men ko‘plab tajribalar o‘tkazish, giperparametrlarni sozlash va har doim ham darhol nazariy tushuntirib bo‘lmaydigan empirik natijalarni tahlil qilish muhitida ishlashni o‘rganishimga to‘g‘ri keldi. Ikkinchidan, bu — muhandislik qismi. Dasturlash bo‘yicha bazaviy bilimlarim bo‘lsa-da, zamonaviy AI sohasi maxsus texnologiyalar steki — PyTorch, GPU-hisoblashlar bilan ishlash hamda murakkab optimallashtirish algoritmlarini samarali joriy etishni mukammal bilishni talab qiladi. Biroq, matematika olimpiadalarida qatnashgan tajribam menga juda katta yordam berdi. Olimpiada bazasi meni yangi mavhum tuzilmalarni tezda tushunib olishga va nostandart yechimlarni topishga o‘rgatgan. Shuning evaziga men zarur vositalarni tezda o‘zlashtirib, asosiy maqsadga — optimallashtirish bo‘yicha bilimlarim sun’iy intellekt tizimlarining xavfsizligi va ishonchliligini qanday yaxshilashi mumkinligiga e’tibor qaratishga muvaffaq bo‘ldim.

Ilmiy ishda boshi berk ko‘chalar muqarrar — bu yangi bilimlarni izlash jarayonining bir qismidir. Tadqiqot boshi berk ko‘chaga kirib qolganimda, bir nechta sinovdan o‘tgan yondashuvlardan foydalanaman:

1. Olimpiada tajribam menga shuni o‘rgatdiki, agar masala uzoq vaqt davomida yechilmasa, ehtimol men boshidanoq noto‘g‘ri taxmin qilgan bo‘lishim mumkin. Men modelni asosiy darajagacha soddalashtirishga va g‘oyalarim eng oddiy misolda ishlayotganini tekshirishga harakat qilaman.

2. Stenfordda ta’lim olishning asosiy afzalliklaridan biri — bu ko‘zga ko‘ringan mutaxassislarga ega bo‘lishdir. Men ko‘pincha o‘z qiyinchiliklarimni hamkasblarim yoki ilmiy rahbarim bilan muhokama qilaman. Ba’zida chetdan qarash tafsilotlarga chuqur berilib ketganim sababli e’tibordan chetda qolgan narsalarni ko‘rishga yordam beradi.

3. Agar men o‘zimni “qotib qolgan” deb his qilsam, vaqtincha boshqa vazifaga o‘taman. Masalan, dasturlash yoki tegishli mavzu bo‘yicha adabiyot o‘qish. Ko‘pincha qaror aynan shunday aqliy tanaffus paytida keladi.

4. Men nima uchun u yoki bu yo‘l ish bermaganini yozib boraman. Tadqiqotlarda salbiy natija ham natija hisoblanadi. Bu menga jarayonni tartibga solishga va kelajakda bir xil xatolarni takrorlamaslikka yordam beradi.

Bunday yondashuv motivatsiyani saqlab qolish va har bir qiyinchilikni to‘g‘ri yechim sari qadamga aylantirish imkonini beradi.

Men ishlagan eng jiddiy texnik vazifalardan biri Dyuk universitetida professor Yehua Vey bilan hamkorlikdagi tadqiqot edi. Biz murakkab qaror qabul qilish ssenariylari uchun mukammal prognoz tengsizliklarini kengaytirish bilan shug‘ullandik Asosiy texnik qiyinchilik ko‘p o‘lchamli fazolarda hisoblash murakkabligi bilan bog‘liq edi.. Ko‘p o‘lchovli sozlamalarda optimallashtirish masalasidagi cheklovlar soni odatda eksponensial ravishda ortib boradi, bu esa standart hisoblash usullarini deyarli foydasiz qiladi. Mening vazifam bu modelni aniqlikni yo‘qotmagan holda hisoblash samaradorligini oshirish yo‘lini topish edi. Bu muammoni hal qilish uchun men eksponensial emas, balki polinomial cheklovlar soniga ega chiziqli dasturlash formulasini ishlab chiqdim. Bu esa stoxastik modellashtirish va kombinatorik optimallashtirish apparatini chuqur qo‘llashni talab etdi.  Natijada o‘qitish algoritmlari uchun regretning yangi chegaralarini isbotlashga muvaffaq bo‘ldik. Bu tajriba AI Safety sohasidagi joriy ishim uchun juda muhim edi: u menga sun’iy intellekt tizimlarining xavfsizligi va ishonchliligi, ayniqsa yuqori noaniqlik sharoitida, algoritm xatti-harakatlarining matematik jihatdan isbotlangan kafolatlaridan boshlanishini o‘rgatdi.

Tavsiyalar

Sof matematika sohasidan chiqib, sun’iy intellekt xavfsizligi tadqiqotlariga o‘tgan shaxsiy tajribamga tayanib, men uchta asosiy maslahatni bergan bo‘lardim:

1. Matematik poydevorni mustahkamlang. AI Safety — bu shunchaki falsafa emas, balki qat’iy texnik intizomdir. Ehtimollar nazariyasi, optimallashtirish va stohastik jarayonlarni chuqur tushunish — bu shunchaki mavjud modellardan foydalanish bilan cheklanib qolmay, balki ularning xavfsizligini tekshirishning yangi usullarini yaratishga imkon beradigan bazadir. Mening olimpiada o‘tmishimdagi bilimlarim standart usullar ish bermagan muammolarni hal qilishda meni bir necha bor qutqargan.

2. O‘yinlar nazariyasi va rag‘batlantirish iqtisodiyotini o‘rganing.
Muvofiqlashtirish muammosi, mohiyatan, SI agentini sun’iy ravishda yuqori ball olishga  intilishdan qaytarib, uning xulq-atvorini biz belgilagan asl maqsadlarimizga moslashtirish demakdir. O‘yinlar nazariyasi sohasidagi bilimlar mukofotlash funksiyalarini qanday loyihalashni yaxshiroq tushunishingizga hamda murakkab muhitlarda agentlarning xulq-atvorini tahlil qilishingizga yordam beradi.

3. Fanlararolikdan va tadqiqotlarda erta ishtirok etishdan qo‘rqmang.
AI Safety sohasi kompyuter ilmlaridan tortib siyosiy iqtisodgacha bo‘lgan eng turli sohalardagi g‘oyalarni talab qiladi. Professorlar bilan yoki tadqiqot laboratoriyalarida real loyihalar ustida ishlash imkoniyatlarini qidiring. Real ilmiy maqola yoki algoritm ustida ishlash amaliyoti shunchaki adabiyotlarni o‘qishdan ko‘ra ancha ko‘proq narsani o‘rgatadi.

Esingizda bo‘lsin, bu soha hali juda yosh va aynan hozir sizda superintellekt asrida insoniyat kelajagi qanday bo‘lishiga o‘z hissangizni qo‘shish imkoniyati bor.