- 15.09.2026
- Chop etilgan: admin
- Boʻlim:
Jeffri Xinton (Geoffrey Hinton) 2024-yilda Jon Xopfild bilan birga fizika bo‘yicha Nobel mukofotini olgan. Nobel qo‘mitasi ularning ishini sun’iy neyron tarmoqlari asosidagi mashinali o‘rganishga asos solgan kashfiyot va ixtirolari uchun mukofotlagan edi.
The Times kecha Xintonning superintellektni xavfsiz yaratish bo‘yicha ilmiy konsensus yo‘qligi va nazorat yo‘qolsa, oqibatlar juda og‘ir, hatto insoniyat hayotiga tahdid solishi mumkinligi haqidagi ogohlantirishini yoritgan.
Xinton o‘z maqolasida agar insondan aqlliroq va mustaqil sistema paydo bo‘lsa, uni qanday qilib ishonchli nazorat qilish mumkin, degan tashvishli fikr bildirgan.
Haqiqatan SI insoniyatning yer yuzidagi hayotini yӯq bӯlib ketishiga ta’sir kӯrsata oladimi? Hozir SI tomonidan amalga oshirilayotgan real xavflar — dezinformatsiya, kiberhujumlar, firibgarlik, avtonom agentlarning noto‘g‘ri harakatlari, ish o‘rinlariga ta’sir — bular fantastika emas. Agar SI kompyuterlarga, pulga, kodga, robotlarga va boshqa tizimlarga mustaqil ravishda ta’sir qila boshlasa, xato qarorning masshtabi keskin oshadi. Bugungi SI agentlari bilan bog‘liq xavfsizlik hodisalari ham bu masala nazariy emasligini ko‘rsatmoqda.
Mutaxassislarning fikricha, insoniyatning yo‘q bo‘lib ketishi — ehtimoliy ssenariy, ammo isbotlangan bashorat emas.
Bizda “ albatta insonni yo‘q ” degan ilmiy dalil yo‘q. Ammo aksincha, “ sistema paydo bo‘lsa, uni 100 foiz nazorat qila ” degan ishonchli kafolat ham yo‘q. Mana shu noaniqlik Xintonni xavotirga solmoqda.
Xintonning eng kuchli argumenti nimada? U “ keyinchalik yovuzlashib ” degan fikrda emas. Asosiy muammo — maqsadlari biznikiga to‘liq mos bo‘lmagan, bizdan ancha aqlli va katta avtonomiyaga ega sistema paydo bo‘lishi.
Masalan, siz juda kuchli kompyuterga “ maqsadimga erishishga yordam ” deb topshiriq berdingiz. U maqsadga erishishning siz xayolingizga ham kelmagan yo‘lini topishi mumkin. Agar uning imkoniyatlari insonnikidan million marta yuqori bo‘” deyish har doim ham yetarli bo‘lmasligi mumkin. Bu yerda intellektning o‘zi emas, SIning katta resurslarga kirish imkoniyati xavfni oshiradi.
Xinton haqiqatan ham zamonaviy deep learning‘ning eng muhim pionerlaridan biri, ammo “ va avtopilotlarni aynan Xinton ixtiro qilmagan. Zamonaviy SI ko‘plab olimlar va muhandislarning o‘nlab yillik ishlari natijasi. Nobel qo‘mitasi ham uning hissasini neyron tarmoqlari va mashinali o‘rganishning fundamental asoslari sifatida baholagan.
Xintonning tashvishli fikrlari haqiqatdan ehtiyot choralarini kӯrishga undaydi. Lekin shunday ekan deb SI tadqiqotini to‘xtatib qo‘yish shart emas. Ammo juda kuchli avtonom SIni yaratish tezligi xavfsizlik, testlash, monitoring va xalqaro qoidalardan ancha oldinlab ketmasligi kerak. Bugungi muhokamalar ham aynan shu tomonga ketyapti, kӯp davlatlarda, jumladan, Britaniyada superintellekt xavfsizligi bo‘yicha qonun loyihasi muhokamaga chiqarilgan.
Bundan keyin kelajakda sun’iy intellekt insoniyatni yo‘q qilishi ehtimoli xavfi saqlanib qoladi. Shuning uchun hozirdan ehtiyot choralari kӯraverish kerak!
Eng qiziq savol esa boshqa: “ aqlli SI paydo bo‘lsa, uni qanday qilib inson manfaatiga sodiq holda ushlab turamiz?” Bu savolga hozircha hech kimda to‘liq javob yo‘q.
