Xubingerning bahosiga koʻra, sunʼiy intellekt rivojlanishi oqibatida insoniyat halokatga uchrashi ehtimoli 10 foizdan yuqori.
U bu fikrni Anthropicʼdan tadqiqotchi Jeykob Koksonning shov-shuvli ketishidan koʻp oʻtmay bildirgan. Kokson avval OpenAIʼda ham ishlagan.
Kokson Anthropic va OpenAIʼni oʻta kuchli, oʻzini oʻzi takomillashtira oladigan sunʼiy intellekt yaratishga toʻxtovsiz intilayotganlikda tanqid qilgan. Uning fikricha, kompaniyalar bu texnologik poygada insoniyat kelajagini juda katta xavf ostiga qoʻymoqda.
Tadqiqotchi kompaniya rahbarlari ommaviy axborot vositalarida sunʼiy intellektning kelajagi haqida ijobiy va ehtiyotkor bayonotlar bersa-da, ichki muhitda texnologiya oʻn yillik oxiriga qadar insoniyat uchun halokatli oqibatlarga olib kelishi mumkinligidan jiddiy xavotir mavjudligini taʼkidlagan.
Koksonning fikricha, kelajakda ancha kuchli sunʼiy intellekt modellari faqat matn yoki tasvir yaratish bilan cheklanib qolmaydi. Ular kompyuter tizimlarini buzish, himoya mexanizmlarini chetlab oʻtish hamda turli resurslarga mustaqil ravishda kirish imkoniga ega boʻlishi mumkin.
Evan Xubinger ham bu xavotirlarning asosi borligini tan olgan.
Uning soʻzlariga koʻra, nazariy jihatdan sunʼiy intellektning rivojlanishi barcha odamlarning halok boʻlishiga olib keladigan ssenariyni ham istisno qilib boʻlmaydi. Xubinger bunday natija ehtimolini shaxsan 10 foizdan yuqori deb baholagan.
Shu bilan birga, u Anthropic mazkur xavflarni kamaytirish va sunʼiy intellektni inson maqsadlari hamda qadriyatlariga moslashtirish uchun imkoni boricha ish olib borayotganini aytgan.
Biroq asosiy muammo shundaki, tadqiqotchilar hozircha superintellekt darajasiga yetgan sunʼiy intellektni ishonchli tarzda nazorat qilish va uning maqsadlarini inson manfaatlari bilan muvofiqlashtirishning kafolatlangan usulini bilmaydi.
Bu masala sunʼiy intellekt sohasida “alignment problem” - SIni inson maqsadlariga moslashtirish muammosi sifatida tanilgan.
Muammoning mohiyati shundaki, kelajakdagi juda kuchli modelga berilgan maqsad notoʻgʻri ifodalansa yoki tizim uni inson kutganidan boshqacha talqin qilsa, u oʻz vazifasini bajarish jarayonida odamlar manfaatlariga zid harakat qilishi mumkin.
Ayniqsa, sunʼiy intellekt mustaqil qaror qabul qilish, uzoq muddatli rejalar tuzish, tashqi kompyuter tizimlari bilan ishlash va oʻz imkoniyatlarini kengaytirish darajasiga yetsa, uning harakatlarini nazorat qilish ancha murakkablashishi mumkin.
Bu muammoga faqat Anthropic tadqiqotchilari eʼtibor qaratayotgani yoʻq.
Yaqinda OpenAIʼning bosh ilmiy xodimi Yakub Paxotskiy ham oʻta kuchli sunʼiy intellekt modellarini qanday qilib toʻliq nazorat ostida ushlash mumkinligi hozircha aniq emasligini aytgan.
U sunʼiy intellekt tizimlari yanada kuchayishidan oldin xavfsizlik boʻyicha aniq standartlar va texnik mexanizmlarni tezroq ishlab chiqish zarurligini taʼkidlagan.
Shu bilan birga, texnologiya kompaniyalari sunʼiy intellekt modellarining hisoblash quvvati va imkoniyatlarini oshirishda davom etmoqda.
Natijada sohada ikki jarayon bir vaqtning oʻzida kechmoqda: bir tomondan, kompaniyalar tobora kuchli va mustaqil modellarni yaratish uchun raqobat qilmoqda, ikkinchi tomondan esa tadqiqotchilar bunday tizimlar nazoratdan chiqib ketmasligini kafolatlash usullarini izlamoqda.
Xubingerning 10 foizdan yuqori degan bahosi esa ilmiy jihatdan isbotlangan prognoz emas, balki uning shaxsiy risk bahosi hisoblanadi. Shu sabab uni “Anthropic sunʼiy intellekt 10 foiz ehtimol bilan insoniyatni yoʻq qiladi, deb hisobladi” tarzida emas, balki “Anthropic tadqiqotchisi bunday xavfni 10 foizdan yuqori deb baholadi” shaklida berish aniqroq boʻladi.
Kun.uz