Microsoft rahbari Satya Nadella sunʼiy intellekt (AI) tizimlari uchun oddiyroq, lekin juda muhim talabni aytdi: model ish jarayonida toʻxtatilishi kerak. TechCrunch yozishicha, Nadella 10-oktabr kuni X’dagi postida AI xavfsizligi atrofidagi ishonch arxitekturasini qayta koʻrib chiqish vaqti kelganini yozgan.
Uning fikricha, kuchli AI tizimlarini bir-birining ichiga joylangan “qora qutilar” sifatida qabul qilib, ularning javobi yoki harakatini shunchaki maʼqullash yoki rad etish yetarli emas. Yaʼni model nima qilayotganini faqat natijadan keyin koʻrish xavfli. Mohiyatan, Nadella AI ishlayotgan paytda ham inson nazorati saqlanishi kerak demoqda.
Nadella taklif qilgan yondashuvda modelning oʻzi va uni ishga solib, topshiriqni boshqaradigan tizim alohida turadi. Nazorat va xavfsizlik mexanizmlari ham modelning ichiga koʻmilmaydi, tashqaridan ishlaydi. Bu muhim farq: model xato qilsa yoki kutilmagan yoʻnalishga burilsa, uni ushlab qoladigan mustaqil qatlam boʻlishi kerak.
Microsoft rahbari yana bir talabni aytdi: modelning har bir muhim harakati inson oʻqiy oladigan, oʻzgartirib boʻlmaydigan dalil bilan qayd qilinishi kerak. Oddiy qilib aytganda, AI nima uchun bunday qaror qilgani, qaysi amallarni bajargani va qayerda toʻxtatilgani keyin tekshiriladigan boʻlishi kerak.
“Model buzilgan boʻlishi mumkin deb taxmin qilishimiz va uni boshidan cheklashimiz kerak. Buni favqulodda tormoz kabi tasavvur qiling”, degan Nadella.
Qisqasi, gap faqat “AI yaxshi ishlasin” degan umumiy niyat haqida emas. Gap AI agentlari mustaqil topshiriqlarni bajara boshlagan davrda kim oxirgi nazoratni ushlab turishi haqida ketmoqda. Agar tizim xat yozish, kod oʻzgartirish, toʻlov boshlash yoki mijoz maʼlumotlari bilan ishlash kabi amallarni qilsa, “toʻxtatish” tugmasi shunchaki qulaylik emas, xavfsizlik shartiga aylanadi.
TechCrunch bu fikrlar AI kompaniyalari oʻz modellarini nazorat qilishda muammolar koʻpayayotganini tan olayotgan bir paytda aytilganini yozdi. Yaqinda Anthropic rahbari Dario Amodei ham ehtiyotkorroq AI rivojlanishi boʻyicha reja eʼlon qilgan edi. Demak, yirik kompaniyalar ichida ham “tezroq chiqaramiz, keyin tuzatamiz” kayfiyati sekinroq va masʼuliyatliroq yondashuv bilan tortishmoqda.
Oʻzbekiston uchun ham bu mavzu uzoqdagi Silikon vodiysi bahsi emas. Toshkentdagi banklar, call-markazlar, elektron savdo xizmatlari va davlat platformalari AI yordamchilarini sinay boshlasa, savol juda amaliy boʻladi: tizim mijozga notoʻgʻri maslahat bersa, shaxsiy maʼlumotni notoʻgʻri joyga yuborsa yoki ruxsatsiz amal boshlasa, uni kim va qachon toʻxtatadi?
Menimcha, Nadella aytayotgan “favqulodda tormoz” biznes uchun ham foydali. Chunki AI xatosi faqat texnik nosozlik emas, ishonch muammosi. Mahalliy bozorda foydalanuvchi bir marta zarar koʻrsa, keyin eng aqlli servisga ham ehtiyotkor qaraydi.
Joyida aytib ketay: bu yondashuv AI rivojini sekinlatish degani emas. Aksincha, kuchliroq tizimlar uchun kuchliroq nazorat kerak. Mashina tezlashgani sari tormozning sifati ham muhimlashadi.