Ular o'zlari orasida o'zlarini yaratdilar. Facebook’ning sun’iy intellekti o‘z tilini ixtiro qilib, tajovuzkor bo‘lib ketdi. Xitoyda sun'iy intellekt

• Tashqi havolalar alohida oynada ochiladi Oynani yopish haqida

Tasvirga mualliflik huquqi Ilmiy foto kutubxonasi Rasm sarlavhasi Sun'iy intellekt tizimlarining ta'siri mutaxassislar tomonidan turlicha baholanadi

Bob: Men qila olamanmumkin IIqolgan hammasi.

Elis: To'plar men uchun men uchun men uchun men uchun men uchun nolga ega.

Digital Journal tushuntirganidek, sun'iy intellekt tizimlari "mukofot" tamoyiliga tayanadi, ya'ni ular ma'lum bir "foyda" keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada ular operatorlardan ingliz tilidan foydalanishni rag'batlantirish signalini olishmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.

Tech Times’ning qayd etishicha, robotlarda dastlab til tanlashda hech qanday cheklovlar bo‘lmagan, shuning uchun ular asta-sekin ingliz tiliga qaraganda osonroq va tezroq muloqot qilishlari mumkin bo‘lgan o‘z tillarini yaratishgan.

"Eng katta tahdid"

Mutaxassislar, agar botlar o‘z tillarida faol muloqot qila boshlasa, ular asta-sekin mustaqil bo‘lib, IT-mutaxassislari nazoratidan tashqarida ishlay olishidan qo‘rqishadi. Bundan tashqari, hatto tajribali muhandislar ham botlarning fikrlash jarayonini to'liq nazorat qila olmaydi.

Bir necha kun oldin Facebook bosh direktori Mark Sukerberg va SpaceX, Tesla va PayPal asoschisi Ilon Mask sun'iy intellekt haqida bahslashdi.

Mask AQSh rasmiylarini sun'iy intellekt tizimlarini tartibga solishni kuchaytirishga chaqirib, sun'iy intellekt insoniyat uchun xavf tug'dirishidan ogohlantirdi. Sun'iy intellektning ehtimoliy tahdidi haqida avvalroq.

Amerika Qo'shma Shtatlari Milliy Gubernatorlar Assotsiatsiyasi sammitida so'zlagan Mask sun'iy intellektni "tsivilizatsiya oldida turgan eng katta tahdid" deb atadi. Uning so‘zlariga ko‘ra, bu tizimlarning rivojlanishiga o‘z vaqtida aralashmasangiz, kech bo‘ladi.

"Men signal berishda davom etaman, lekin odamlar ko'chada yurgan robotlar odamlarni o'ldirayotganini ko'rmaguncha, ular [sun'iy intellektga] qanday munosabatda bo'lishni bilmaydilar", dedi u.

Maskning bayonotlari Facebook asoschisi Mark Sukerbergni g'azablantirdi, u ularni "juda mas'uliyatsiz" deb atadi.

"Yaqin besh-o'n yil ichida sun'iy intellekt hayotni faqat yaxshilaydi", deb javob qaytardi Sukerberg.

Sun'iydan tarjima

O‘tgan yilning kuzida Google internet qidiruv tizimi Google Translate onlayn tarjimoni ishini yaxshilash uchun o‘zining sun’iy intellekt tizimini yaratgani ma’lum bo‘ldi.

Yangi tizim butun iborani tarjima qilish imkonini beradi, holbuki, ilgari tarjimon barcha jumlalarni alohida so‘z va iboralarga ajratgan, bu esa tarjima sifatini pasaytirgan.

Butun jumlani tarjima qilish uchun Google-ning yangi tizimi o'z tilini ixtiro qildi, bu unga tarjima qilayotgan ikki til o'rtasida tezroq va aniqroq harakat qilish imkonini beradi.

Mutaxassislar allaqachon onlayn-tarjimon xizmatlarining jadal rivojlanishi bilan jonli tarjimonlarning ishiga talab kamroq va kamayishi mumkinligi haqida ogohlantirmoqda.

Biroq, hozirgacha bu tizimlar asosan kichik va oddiy matnlar uchun yuqori sifatli natijalar beradi.

Facebook ijtimoiy tarmog‘i rahbariyati mashinalar odamlar tushunmaydigan o‘ziga xos, mavjud bo‘lmagan tilda muloqot qila boshlaganidan so‘ng, sun’iy intellekt tizimini o‘chirishga majbur bo‘ldi, deb yozadi BBC Rus xizmati.

Tizimda dastlab real odamlar bilan muloqot qilish uchun yaratilgan chatbotlardan foydalaniladi, lekin asta-sekin bir-biri bilan muloqot qila boshlagan.

Avvaliga ular ingliz tilida muloqot qilishdi, lekin bir nuqtada ular dasturni ishlab chiqish jarayonida o'zlari yaratgan tilda yozisha boshladilar.

Amerika ommaviy axborot vositalarida virtual suhbatdoshlar o'rtasidagi "dialoglar" dan parchalar paydo bo'ldi [imlo va tinish belgilari saqlangan].

Bob: Men hamma narsani qila olaman.

Elis: To'plar men uchun men uchun men uchun men uchun men uchun nolga ega.

Digital Journal tushuntirganidek, ular "rag'batlantirish" tamoyiliga tayanadilar, ya'ni ular ma'lum bir "foyda" keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada ular operatorlardan ingliz tilidan foydalanishni rag'batlantirish signalini olishmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.

Tech Times’ning qayd etishicha, robotlarda dastlab til tanlashda hech qanday cheklovlar bo‘lmagan, shuning uchun ular asta-sekin ingliz tiliga qaraganda osonroq va tezroq muloqot qilishlari mumkin bo‘lgan o‘z tillarini yaratishgan.

Mutaxassislar, agar botlar o‘z tillarida faol muloqot qila boshlasa, ular asta-sekin mustaqil bo‘lib, IT-mutaxassislari nazoratidan tashqarida ishlay olishidan qo‘rqishadi. Bundan tashqari, hatto tajribali muhandislar ham botlarning fikrlash jarayonini to'liq nazorat qila olmaydi.

Eslatib o'tamiz, bir necha kun oldin Facebook rahbari Mark Sukerberg hamda SpaceX, Tesla va PayPal asoschisi Ilon Mask sun'iy intellekt haqida bahslashgan edi.

Facebook ijtimoiy tarmog'i dasturchilari sun'iy intellekt tizimlaridan birini o'chirib qo'ydi, chunki botlar odamlar uchun tushunarsiz bo'lgan muloqot uchun o'z tilini yaratdi. Avvalroq mutaxassislar sun’iy intellektni ishlab chiqishda odamlar duch kelishi mumkin bo‘lgan xavflar haqida bir necha bor ogohlantirgan edi, deb yozadi Tech Times. Ayni paytda Xitoy bu yo‘nalishda jahon yetakchisiga aylanish niyatida.

Botlar ingliz tilida emas, balki o‘z tilida muloqot qila boshlaganidan so‘ng, Facebook sun’iy intellektli chatbotlarni o‘chirib qo‘yishga majbur bo‘ldi. Dasturchilar tizimning bir qismini o'chirib qo'yishdi va boshqa botlarni ularning muloqoti faqat ingliz tilida bo'lishi uchun qayta dasturlashdi. Botlar tezroq ma'lumot almashish uchun o'z tillarini yaratdilar.

Bu chatbotlar o‘z yaratuvchilari tomonidan o‘rnatilgan qoidalarni birinchi marta buzishi emas. Shunday qilib, bir necha oy oldin Microsoft boti o'rnatishlarni chetlab o'tib, ochiq irqchilik g'oyalarini va giyohvand moddalarni ma'qullashni boshladi.

SpaceX va Tesla asoschisi Ilon Mask avvalroq sun'iy intellekt rivojlanishi xavfi haqida ogohlantirgan edi. Uning fikricha, davlat tomonidan tartibga solish sun'iy intellektni ishlab chiquvchilar faoliyatini cheklashi kerak. Turli mamlakatlar hukumatlari bunday voqealardan manfaatdor.

"To'liq huquqli sun'iy intellektning rivojlanishi insoniyatning tugashini anglatishi mumkin", dedi uch yil oldin fizik Stiven Xoking.

Xitoyda sun'iy intellekt

2030 yilga borib Xitoy 1 trillion yuan (148 milliard dollar) bozor hajmiga ega bo‘lgan sun’iy intellektning jahon markaziga aylanish niyatida.

Xitoy hukumati mamlakatda tegishli texnologiyalarni ishlab chiqish va joriy etishning uch bosqichli rejasini ishlab chiqdi va tasdiqladi. Rejaga ko'ra, 2020 yilga borib sun'iy intellektni rivojlantirishga yo'naltirilgan ichki sarmoya 150 milliard yuanni (22,14 milliard dollar), 2025 yilga kelib 400 milliard yuanni (59 milliard dollar) tashkil etadi. 2020-yilga borib Xitoy bu borada AQShga yetib borishni, 2030-yilga borib esa jahon yetakchisiga aylanishni rejalashtirmoqda.

Xitoy sun'iy intellektning rivojlanishini iqtisodiy va harbiy raqobat bilan bog'laydi. "Xitoyning milliy xavfsizlik bilan bog'liq vaziyat murakkab va biz yangi sun'iy intellekt texnologiyasida o'zimizni mustahkam o'rnatish va raqobatdosh ustunlikni yaratish uchun tashabbus ko'rsatishimiz kerak", deyiladi Xitoy Xalq Respublikasi Davlat kengashining 20 iyul kuni e'lon qilingan bayonotida. Bu haqda .eizvestia.com xabar berdi.

Qo'shma Shtatlar sun'iy intellektni rivojlantirish bo'yicha o'z rejasini o'tgan yilning oktyabr oyida ishlab chiqqan edi. U razvedka faoliyatini rivojlantirish sohasida xorijiy sarmoyalarni qattiq nazorat qilishni nazarda tutadi. Bunga AQShning xorijiy davlatlar (jumladan, Xitoy) strategik harbiy ahamiyatga ega bo'lgan texnologiyalardan foydalanish imkoniyatiga ega bo'lishidan qo'rqishi sabab bo'lgan. Xitoyning Baidu va Tencent kompaniyalari allaqachon AQShda sun'iy intellekt bo'yicha tadqiqot markazlarini yaratishmoqda. Xitoy eng yangi dasturiy ta'minot, ilg'or kompyuter chiplari va malakali mutaxassislar etishmasligini bartaraf etishga intilmoqda.

LinkedIn platformasida ro‘yxatdan o‘tgan 250 ming sun’iy intellekt mutaxassislarining 50 foizi AQShda istiqomat qiladi, Xitoyning ulushi 25 foizdan kam, deb yozadi forbes.ru.

2016-yilda Xitoy sun’iy intellekt sohasidagi ishlanmalar bo‘yicha chop etilgan ilmiy maqolalar bo‘yicha jahon yetakchisiga aylandi (taxminan 40%).

Xitoy bosh vaziri Li Ketsyan Xitoyda sun'iy intellektning rivojlanishidan shaxsan manfaatdor. Yuqori darajadagi qiziqish davlat davlat va xususiy firmalar, jumladan, harbiy tuzilmalar hamkorligi uchun maqbul shart-sharoitlarni yaratishidan dalolat beradi, deb yozadi New York Times.

AI - bu kelajak

Aksariyat investorlarning fikriga ko'ra, sun'iy intellekt kundalik hayot va ishlab chiqarishni o'zgartiradigan navbatdagi texnologik inqilob bo'ladi. May oyi boshida Tractica analitik kompaniyasi prognozini e'lon qildi, unga ko'ra sun'iy intellekt texnologiyalari jahon bozori 2016 yildagi 1,38 milliard dollardan 2025 yilga kelib 59,75 milliard dollargacha tez o'sishi kutilmoqda. Bu holatda, biz faqat sun'iy intellekt bilan bog'liq tadqiqot va ishlanmalar bilan bevosita shug'ullanadigan kompaniyalar haqida gapiramiz.

2016-yil avgust oyi oxirida Facebook Facebook sunʼiy intellekt boʻyicha hamkorlik (FAIR) dasturini ishga tushirdi, unga Yevropaning 9 mamlakatidan 15 ta jahon darajasidagi tadqiqot guruhi kiradi. Dastur ishtirokchilari 22 ta yuqori unumli GPU-ga asoslangan serverlarga kirish huquqiga ega bo'ldilar. Buning evaziga ular ish davomida olingan natijalar, algoritmlar va boshqa ma’lumotlarni dunyo bo‘ylab tadqiqotchilarga taqdim etish uchun nashr etishlari kerak. Rossiya tomonidan Moskva fizika-texnika institutining (MIPT) Neyron tizimlar va chuqur o'rganish laboratoriyasi ishtirok etdi.

Biroq, sun'iy intellektni rivojlantirish uchun mamlakatda yuqori unumdor hisoblash texnologiyalari bo'lishi kerak. Superkompyuterlari Top 500 reytingida birinchi o'rinlarni egallagan AQSh va Xitoydan farqli o'laroq, Moskva davlat universitetidagi ruslarning Lomonosov-2 kompyuteri 52-o'rinda. Biroq, ko'pchilik Rossiya universitetlarida kuchli hisoblash serverlari va katta ma'lumotlarga kirish imkoni yo'q.

Yangi texnologiyalar faqat odamlar hayotini yaxshilaydi, dedi Facebook rahbari Mark Sukerberg Ilon Maskning sun'iy intellekt rivojlanishining xavf-xatarlari haqidagi ogohlantirishlariga javoban. U "dunyoning oxiri" ruhidagi vahima qo'zg'atuvchi har xil bayonotlarni mas'uliyatsizlik deb atadi.

Facebook ijtimoiy tarmog'i sun'iy intellekt texnologiyasini o'chirib qo'ydi, chunki ikkita virtual mashina hatto Facebook muhandislari ham shifrlay olmagan o'z tillarida muloqot qila boshladi.

Hammaga ma'lumki, Facebook tizimi real odamlar bilan muloqot qilish uchun chatbotlardan foydalanadi, biroq nimadir noto'g'ri ketdi va botlar bir-biri bilan ma'lumot almashishni boshladi. Avvaliga ular ingliz tilida muloqot qilishdi, lekin bir muncha vaqt o'tgach, ular dastur davomida o'zlari yaratgan tilga o'tishdi.
Ommaviy axborot vositalarida biz ikkita virtual mashina o'rtasidagi suhbatdan parcha topishga muvaffaq bo'ldik.


"Bob: Men hamma narsani qila olaman.
Elis: To'plar men uchun nolga ega men uchun men uchun men uchun men uchun"
Qo'rqinchlimi? Digital Journal buni shunday tushuntiradi: “AI tizimlari“mukofot” tamoyiliga tayanadi, ya’ni ular “foyda” keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada, ular operatorlardan ingliz tilidan foydalanishga undashmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.
Dastlab, botlarda til chegarasi yo‘q edi va shuning uchun ular avval ingliz tilida muloqot qilishdi, keyin esa tezroq ma’lumot almashish uchun til yaratdilar. Va bu erda g'ayritabiiy narsa yo'q.
Xavotir olishimiz kerakmi? Ko‘pchilik IT-mutaxassislari sun’iy intellekt oxir-oqibat shu qadar tez rivojlanib borishi, botlarning o‘zlari qaror qabul qilishlari va deyarli mustaqil bo‘lishlari mumkinligidan tobora ko‘proq xavotirda. Bundan tashqari, tajribali mutaxassislar hali botlar ishlatgan tilni tushuna olishmadi.
Vaziyat munosabati bilan Facebook rahbari Mark Sukerberg SpaceX, Tesla va PayPal asoschisi Ilon Mask bilan sun'iy intellektni muhokama qildi. U Ilon Maskning AQSh hukumatini xavfsizlik choralarini kuchaytirishga chaqirishi va AI (sun'iy intellekt) insoniyat uchun xavf tug'dirishini aytishi bilan yakunlandi. Bu haqda avvalroq ingliz fizigi Stiven Xoking gapirgan edi.
Ilon Maskning aytishicha, sun'iy intellektning jadal rivojlanishi "tsivilizatsiya duch kelgan eng katta tahdid". Agar biz sun'iy intellektning rivojlanishiga o'z vaqtida aralashmasak, kelajakda juda kech bo'ladi. "Men signal berishda davom etaman, lekin odamlar robotlar ko'chada yurib, odamlarni o'ldirayotganini ko'rmaguncha, ular [sun'iy intellektga] qanday munosabatda bo'lishni bilmaydilar", dedi Mask.


Mark Tsukerberg nima deb javob berdi? Maskning bayonoti Tsukerbergni g'azablantirdi va uning o'zi bu texnologiyalarni "juda zararsiz" deb atadi. "Yaqin besh-o'n yil ichida sun'iy intellekt hayotni faqat yaxshilaydi", deb javob qaytardi Sukerberg.

Sun'iy intellekt yana qayerda qo'llaniladi?
O'tgan yili Google qidiruv tizimi o'zining sun'iy intellekt tizimini yaratdi va uni Google Translate onlayn tarjimoniga kiritdi. Ushbu takomillashtirish tufayli endi faqat so'zlar yoki iboralarni emas, balki butun iborani tarjima qilish mumkin. Mutaxassislar kelgusida jonli tarjimonlarga talab tobora kamayib borishi haqida ogohlantirmoqda. Lekin hozircha Google Translate faqat kichik va oddiy matnlar bilan yaxshi ishlaydi.
Bizning shaxsiy fikrimiz: kvant kompyuteri rasmdagi mushukni atigi 90% aniqlik bilan aniqlay olgan, 3 yoshli bola esa 100% natija ko'rsatishi mumkin bo'lgan vaqtlarni eslaylikmi? Va mana shunday taraqqiyot. Dastlab, botlar ingliz tilida muloqot qila boshladilar, keyin esa dastur ishlab chiqilishi bilan o'z tillarini to'liq yaratdilar. Endi o'ylab ko'rish kerak: siz sun'iy intellektni yoqlaysizmi yoki unga qarshimisiz? Biz Mark Tsukerbergning fikriga qo'shilamiz va bu texnologiya mutlaqo zararsiz va odamlarga faqat 10 yildan keyin yordam berishiga ishonamiz. Qolgan narsa - bu muhim kunni eslash va kutish.
P.S. Ehtimol, ularda kodda xatolik bor.

Facebook noma'lum tilda gapiradigan botlarni to'xtatdi

Nima desangiz ham, sun'iy intellektni nazoratdan chiqib ketish darajasiga qadar rivojlantirish xavfi doimo odamlarni qo'rqitib kelgan. Agar odamlarni qo'rqitadigan surrogat bo'lsa, biz nima qilishimizni va to'liq AIni qanday boshqarishni tasavvur qiling.

Odamlar har doim nazorat va boshqaruvni saqlab qolishga intiladi, lekin "birov nima qilsa, boshqasi har doim sindirishi mumkin" deganidek. Har bir narsa juda ishonchli bo'lsa ham, har doim qo'rquv bo'ladi. Mask yaqinda Sukerberg bilan shu mavzuda bahslashdi: "Men signal berishda davom etaman, lekin odamlar robotlar ko'chalarda yurib, odamlarni o'ldirayotganini ko'rmaguncha, ular [sun'iy intellektga] qanday munosabatda bo'lishni bilishmaydi", dedi u.

Bu esa “jiringlovchi qo‘ng‘iroq” emasmi: odamlar bilan muzokaralar olib borish uchun yaratilgan chatbotlar nazoratdan chiqib, o‘z tilida muloqot qila boshladi.

Dastlab ular bir-birlari bilan muloqot qilish uchun ingliz tilidan foydalanganlar, ammo keyin faqat AI tizimining o'zi tushunadigan yangi tilni yaratdilar va ish maqsadini yo'qotdilar.

Ishlab chiquvchilar ushbu nosozlikni aniqlaganidan keyin Facebook AIni to'xtatdi.

Chatbotlar o'rtasidagi suhbatdan parcha:

Bob: "Siz va boshqa hamma narsa."
Elis: "Tuxumda men uchun tuxum bor, men uchun men uchun men uchun."
Bob: "Men."
Elis: "To'plar men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun men uchun nolga ega".
Bob: "Sen men, men, men hamma narsa."

Botlar mashinani o'rganish algoritmlariga ulangan va ular o'zlarining muloqot qobiliyatlarini rivojlantirishlari uchun bir-birlari bilan suhbatlashishlariga ruxsat berishgan. Ammo bir muncha vaqt o'tgach, ular so'z va iboralarni o'zgartira boshladilar, keyin esa bir qator iboralar va grammatik tuzilmalarni soddalashtirib, o'z tillarini butunlay ixtiro qildilar.

Mashinani o'rganishdan foydalangan holda, botlar suhbatdosh bilan muzokaralar natijasini yaxshilash uchun bir nechta strategiyalarni ham ishlab chiqdilar va ma'lum bir dialogning ahamiyatiga qarab, ularni o'zlari ixtiro qilgan bir qator so'zlar bilan birgalikda qo'llashni boshladilar. Xususan, ular suhbatning yolg'on maqsadini e'lon qilishdi, shundan keyingina undan voz kechish va go'yoki murosaga kelishdi.

Digital Journal tushuntirganidek, sun'iy intellekt tizimlari "mukofot" tamoyiliga tayanadi, ya'ni ular ma'lum bir "foyda" keltirishi sharti bilan harakat qilishda davom etadilar. Muayyan nuqtada ular operatorlardan ingliz tilidan foydalanishni rag'batlantirish signalini olishmadi, shuning uchun ular o'zlarini yaratishga qaror qilishdi.

Tech Times’ning qayd etishicha, robotlarda dastlab til tanlashda hech qanday cheklovlar bo‘lmagan, shuning uchun ular asta-sekin ingliz tiliga qaraganda osonroq va tezroq muloqot qilishlari mumkin bo‘lgan o‘z tillarini yaratishgan.

Mutaxassislar, agar botlar o‘z tillarida faol muloqot qila boshlasa, ular asta-sekin mustaqil bo‘lib, IT-mutaxassislari nazoratidan tashqarida ishlay olishidan qo‘rqishadi. Bundan tashqari, hatto tajribali muhandislar ham botlarning fikrlash jarayonini to'liq nazorat qila olmaydi.

2016-yilning mart oyida Microsoft’ning chatbotida insoniyatga nisbatan nafrat paydo bo‘lgach, internet yulduziga aylandi. O'z-o'zini o'rganish dasturi foydalanuvchilar bilan "Odamlar juda zo'r" iborasi bilan muloqot qila boshladi, ammo atigi 24 soat ichida u "Men hammadan nafratlanaman!", "Men feministlardan nafratlanaman" yoki "Men yahudiylarni yomon ko'raman" kabi iboralarni o'rgandi. Natijada kompaniya xodimlari botni vaqtincha o‘chirib qo‘yishga majbur bo‘ldi.

Sun'iydan tarjima

O‘tgan yilning kuzida Google internet qidiruv tizimi Google Translate onlayn tarjimoni ishini yaxshilash uchun o‘zining sun’iy intellekt tizimini yaratgani ma’lum bo‘ldi.

Yangi tizim butun iborani tarjima qilish imkonini beradi, holbuki, ilgari tarjimon barcha jumlalarni alohida so‘z va iboralarga ajratgan, bu esa tarjima sifatini pasaytirgan.

Butun jumlani tarjima qilish uchun Google-ning yangi tizimi o'z tilini ixtiro qildi, bu unga tarjima qilayotgan ikki til o'rtasida tezroq va aniqroq harakat qilish imkonini beradi.
Mutaxassislar allaqachon onlayn-tarjimon xizmatlarining jadal rivojlanishi bilan jonli tarjimonlarning ishiga talab kamroq va kamayishi mumkinligi haqida ogohlantirmoqda.

Biroq, hozirgacha bu tizimlar asosan kichik va oddiy matnlar uchun yuqori sifatli natijalar beradi.

Sizningcha, masalan, klonlash haqida signal berishga hali ertami? Yoki hamma narsa o'z-o'zidan rivojlansinmi?