Ինչպես նա/դա կվարվի մեզ հետ․ պատմության շարունակություն․ «ՀարցուԳԻՏԱփորձ»

«Հիմա կան սարքավորումներ, որ երբ մտածում ես «վերև», ինքը հասկանում է, որ դու «վերև» ես մտածում, երբ մտածում ես «ներքև»՝ ինքը «ներքև» է հասկանում»

Մարդը ստեղծեց իր նմանին։ Ձեռքը վախով, բայց հետաքրքրությամբ կրակին մեկնող երեխայի պես մենք որոշեցին տեսնել՝ իսկ ի՞նչ, եթե նա մտածի մեզ համար։ Հիմա մտածում ենք ինչպես անել, որ մեր փոխարեն չմտածի։

«Պրոցեսը գնում է։ Եվ ընդհանրապես, առաջընթացը կանգնեցնել գործնականում հնարավոր չէ։ Լավ, թե վատ՝ դա տեղի է ունենում»։

Բարև։ Եթերում «ՀարցուԳԻՏԱփորձ» հաղորդումն է, ես Արուսյակ Կապուկչյանն եմ։ Այսօր խոսելու ենք բանական մարդու վերջին ամենախոշոր մարտահրավեր-օգնականի՝ արհեստական բանականության մասին։

***

Նախորդ շաբաթ «ՀարցուԳԻՏԱփորձ»-ը փորձեց հասկանալ՝ ինչպես վարվել նրա/դրա հետ։ Այսօր փորձենք հասկանալ՝ ինչպես նա/դա կվարվի մեզ հետ։ Լեզվական այս արգելքի համար՝ ներողություն. ես դեռ չգիտեմ՝ ինչ դերանուն օգտագործել Արհեստական բանականության մասին խոսելիս։ Պայմանական ընտրություն՝ նա։

Նա, օրինակ, կարող է մարդու ձայնից հասկանալ հարբածության աստիճանը՝ 98% ճշգրտությամբ։ Կարող է տալ խորհուրդ ու տվյալ, փաստ ու վերլուծություն։ Կարող է փրկել մարդուն՝ կարևոր գործ անելիս, կործանել նրան՝ ինքնասպանության հասցնելով։ Առաջին հայացքից՝ կարող է անել ամեն ինչ։

Բայց արդյո՞ք սա չափազանցված գնահատական չէ, մինչև ո՞ւր կարող է հասնել արհեստական բանականությունը, նա մեզ կփոխարինի՞, թե՞ կուժեղացնի. «ՀարցուԳԻՏԱփորձ»-ն այսօր այս հարցերի մասին է։

«2015-16 թթ. ԴՆԹ-ին մոդիֆիկացնող նոր տեխնոլոգիա էր ի հայտ եկել. սպիտակուցների ձևափոխման միջոցով փորձում էին ԴՆԹ-ի որոշակի հատվածի վրա անմիջական ազդել ու, օրինակ, էս կամ էն հիվանդության նախատրամադրվածությունն ուղղակի անջատել։ Սա բավականին ռիսկային տեխնոլոգիա էր, ու երբեք մարդկանց վրա չէր կիրառվել ու տեսանելի ապագայում պիտի չկիրառվեր, մինչև չինացի մի բժիշկ Չինաստանում գաղտնի էքսպերիմենտ արեց։ Երկու երեխաների վրա էս փորձը տեղի ունեցավ, երեխաները ծնվեցին, բայց ինչ հետևանքներ կունենա առողջական խնդիրների տեսանակյունից՝ դեռ անհայտ է»։

Փիլիսոփա Դավիթ Աքելյանի այս պատմությունը, առաջին հայացքից, որևէ կերպ չի առնչվում մեր այսօրվա զրույցի թեմային։ Բայց հիշեք այս պատմությունը՝ այն կարևոր է։ Այժմ՝ ուղիղ հարց-ուղիղ պատասխան: Արհեստական բանականությունը մի խումբ մարդկանց՝ հիացնում, մեկ այլ խմբի սարսափեցնում է. այն այսքան լայն դիապազոնով էմոցիայի արժանի՞ է:

«Հնչեց, որ նույնիսկ օգտագործողներն են սարսափում։ OpanAI-ի տնօրենը Կոնգրեսի լսումների ընթացքում ասում էր, որ խելահեղ արագությամբ է էս ամեն ինչը գնում ու հարկ կա ինչ-որ պահի հասկանալ, թե ոնց է էս ամենը տեղի ունենում ու ոնց կարելի է ադեկվատ արձագանքել էս ամենին։ Կարգավորումների տեսանկյունից, էթիկական որոշակի հարցեր ու ընդհանուր համատեքստ մշակելու առումով։ Էս խնդիրն անգամ առաջին ձեռքի պարագայում է զգացվում»։

Կառավարելիության միջավայրում վախն ավելի զուսպ է։ Թվում է՝ մենք մեր ստեղծածը ղեկավարել կարող ենք, մենք ենք տերն ու հրամայողը։ Դավիթ Աքելյանն ասում է՝ այժմ հրամանը տրված է, կան հստակ սահմաններ։

— Դաշտի կարգավորման համար մեծ աշխատանք է տարվում, ողջ աշխարհում հիմա ակտիվ ընթանում է տարբեր պետությունների մակարդակում, միջազգային որոշակի հարթակներում արհեստական ինտելեկտի կարգավորման առավել ընդհանուր չափանիշների և էթիկական սկզբունքների մշակումը և սա հենց էն փրկողակն է ու էն ուղղությունների հստակությունն է, որոնցից գործնականում շեղվելու հնարավորություն պիտի արհեստական ինտլեկտը չունենա։
— Եվ չի էլ ունենա՞ իրականում, չի՞ կարող հատել իր առջև դրված մարդկային սահմանները։
— Հենց սահմանների մասին պետք է նախ խոսենք, հասկանանք՝ սահմանների տակ ինչ նկատի ունենք։ Էս դեպքում սահմանները ոչ թե ուղղակի օրենքներ են, որոնք չաթը գիտի ու կդառնա մի քիչ ավելի վատը, եթե անցի, այլ դրանք գործնականում սահմանափակող սահմաններ են, այսինքն՝ եթե մենք տալիս ենք ուսուցանման որոշակի մոդել, ինքը դրա շրջանակից դուրս չի կարա գնա։

Արհեստական բանականությունը, ըստ ամենայնի, իսկապես ինքնուրույն չի անի այնպիսի քայլեր, որոնց համար մենք, օրինակ, նրան ամոթանք տալու առիթ կունենանք։ Բայց Չինաստանի մի լաբորատորիայում չինացի մի գիտնական հիմա ուսումնասիրում է այն երեխաներին, որոնց հետ արել է արգելված փորձը՝ հատելով որոշած սահմանները:

— Արդյո՞ք ինչ-որ մի չինացի գիտնական աշխարհի մի կետում, օրինակ՝ Մասկը, որը ասում էր՝ եկեք դանդաղեցնենք ընթացքը, հանկարծ մի օր չի որոշի տալ «իսկ եթե սենց անենք՝ ի՞նչ կլինի» հարցը, ու չի որոշի, ասենք, մի փոքրիկ կիսաբաց հատված թողնել էդ սահմաներից դուրս գալու համար։
— Քրեագիտության մեջ մի շատ հետաքրքիր սկզբունք կա, երբ տեղի է ունենում հանցագործություն, առաջին հերթին ոչ թե քրեագետները նայում են, թե ով կցանկանար դա անել, այլ թե ով կարող էր դա անել։ Հիմա նույնն էլ էս պարագայում, երբ խոսում ենք այն մասին, որ ինչ-որ մեկը կարող է տրամագծորեն շեղել մարդկության ընթացը, ինչ-որ մեծ խնդիրներ ի հայտ բերել, դրանք չեմ կարծում անսահման թվով մարդիկ են։ Որոշակի կարողությունների, հնարավորությունների տեր մարդիկ են։ Բնականաբար դա որպես մտավախություն, վարկած միշտ էլ կա, բայց դա հնարավոր է մեղմել, եթե մենք գիտենք՝ ումից վտանգ սպասել։

«Կարա ամենապարզը տեղի ունենա, ինչը արդյունաբերական հեղափոխության ժամանակ կատարվեց. ինչ-որ տիպի գործերը պարզապես ավտոմատացվեցին ու էդ մարդիկ ուզած-չուզած անցան ավելի ինտելեկտուալ գործերի՝ ցածր ինտելեկտուալ գործը ավտոմատացվեցին, վերացան»։

ԵՊՀ-ում արհեստական բանականություն ուսումնասիրել սովորեցնող մագիստրոսական ծրագրի ղեկավար Կարեն Քեռյանը կարծում է՝ մենք նրան զարգացնելուն զուգահեռ ավելի մեծ համառությամբ, մեզ պետք է զարգացնենք, տեղի է ունենալու հերթական զտումը։ Դիմանալու համար էլ ավելի բարձր ինտելեկտուալ աշխատանք անելու կարողություն է պետք։ Մեկ այլ ելք էլ կա. մենք արհեստական բանականության գերազանցությունը չտեսնելու տալու համընդհանուր որոշում կկայացնենք:

«Դիցուկ իրավաբանության մեջ էլ անցնի, բայց չուզենք էդ համակարգը հանձնենք իրենց, դրա համար էդ պահենք, զուտ որ հանկարծ մենք մեր գլուխը չուտենք։ Դրա մասին էլ ամերիկյան դատական վերնախավը խոսում է, որ իբր մեր գործն էդքան փոխարինելի չի, մենք շատ էմոցիաներ կարող ենք տեսնել, կարող ենք տեսնել էդ մարդը թարթեց, թե չթարթեց, աչքը փախցրեց, թե չփախցրեց։ Ուրիշ հարց է, որ դա ավելի շատ որոշելիք է. այնուամենայնիվ, եթե նույնիկ նա ավելի լավը լինի, թողնե՞նք, թե՞չէ»։

Կարեն Քեռյանը սա պատրաստվելու լավագույն ժամանակն է համարում։ Մարդը պիտի մտածի չփոխարինվելու, պետությունները՝ փոխարինված մարդկանց կարիքները հոգալու սոցիալական ծրագրեր մշակելու մասին։

— Մեր հեռախոսը հարյուր բան փոխարինել է՝ օրացույցն էլ պատից չեն կախում, զարթուցիչ էլ կողքը չեն դնում, որ տետր ունեիր, որի մեջ նոթեր էիր անում, տետրն էլ է վերանում, դուք կարող ա ձայնագրիչ ունենայիք, էդ էլ կա։ Պարզ է, որ դրանց պրոֆեսիոնալները դեռ առանձին գործում են, ասենք պրոֆեսիոնալ ապարատը դեռ կա, պրոֆեսիոնալ ձայնագրիչը դեռ կա:
— Պրոֆեսիոնալ մարդիկ կմնան։
-20-30 տարի առաջ Word-ի ֆունկցիաները ճանաչող մարդիկ կարող է լավ տարբերվող մարդիկ լինեին, որովհետև բոլորը մեքենագրող են ու հիմա հանկարծ մեկը հայտնվել է, որ կարում ա համակարգչով ինչ-որ հետաքրքիր ֆոնտերով գրել, հիմա էլ ոչ մի հետաքրքիր բան չկա, ստանդարտ պիտի կարողնաս դա անել։

Ո՞ւր կհասնի արհեստական բանականությունը. պատասխանի երկու տարբերակ կա՝ մեզ փոխարինելուն կամ կատարելագործելուն։ Ընդ որում՝ սա մի որոշում է, որը մենք պետք է կայացնենք առանց նրա օգնության։ Իսկ մենք, ճիշտն ասած, շատ ժամանակ չունենք:

— Կան հիմա բարդ սարքավորումներ, որ նույնիսկ լեզվից անկախ, երբ դու մտածում ես «վերև», ինքը հասկանում է, որ դու «վերև» ես մտածում, երբ մտածում ես «ներքև»՝ ինքը «ներքև» է մտածում։
— Հիմա կա՞ դա։
— Հա՜, հիմա կա։

Մոտ մեկ շաբաթ առաջ Իլոն Մասկի ամերիկյան Neuralink նեյրոգիտական ընկերությունը կատարել է մարդուն՝ ուղեղի իմպլանտի տեղադրման առաջին վիրահատությունը։ Իմպլանտը թույլ է տալիս կառավարել հեռախոսը կամ համակարգիչը, իսկ դրանց միջոցով գրեթե ցանկացած սարք՝ օգտագործելով մարդու մտքերը։ Նրա առաջին տերերը կլինեն նրանք, ովքեր չեն կարող շարժել իրենց վերջույթները։

Մարդկության գիտելիքը, փորձառությունը ամրագրված է ինչ-որ տեղ. ժայռապատկեր, գիրք, հոդված, հրապարակում։ Հիմա այն արհեստական բանականության «ուղեղում է»։ Մարդը ստեղծեց իր նմանին, տվեց նրան իր գիտելիքը, և այն մարդու պես սխալական դարձավ։

— Էս համատեքստում սա էնքան էլ վախենալու չի, դու հասկանում ես, որ ինչքան մենք ենք սխալական, տասն անգամ ավելի սխալական է չաթը, որովհետև փորձառությունը, որից վերցնում, սովորում է, շատ ավելի մեծ է։ Ինչքան շատ փորձառություն, էնքան շատ սխալներ,- ասում է Դավիթ Աքելյանը։
— Բայց նաև էդքան շատ գիտելիք, որովհետև մենք սխալական ենք, որոշ հարցերում՝ ճիշտ, մենք միայն մեր ճիշտը գիտենք, մեր աշխարհընկալումը մեր իմացած լավի, գեղեցիկի, ճշտի սահմաններում է, իսկ արհեստական բանականությունն ունի միլիոնավոր լավի, գեղեցիկի, ճշտի բազաներ։ Հետևաբար միայն դրանով ինքը պիտի որ որքան խոցելի լինի մեր բոլորի թուլությունների և թերությունների հաշվին, նույնքան առավել լինի մեր բոլորի հանրագումարային առավելությունների հաշվին։
— Առաջին հայացքից՝ հա, նման տպավորույթուն կարող է ստղծվել։ Բայց էստեղ որպես փրկողակ գալիս են էն կարգավորումները, էթիկական չափանիշները, կրիտերիաները, որոնք դրվում են նման տեխնոլոգիաները մշակող ընկերությունների, թիմերի առաջ։

Ինչպես նա/դա կվարվի մեզ հետ. «ՀարցուԳԻՏԱփորձ»-ի այսօրվա հարցը սա էր։ Այն վերջնական ու միանշանակ, սիրտ հանգստացնող կամ նյարդեր լարող պատասխան չունի։ Ունի միայն հուշում՝ առաջընթացն անկասելի է, իսկ ավելի լավը դառնալու այլընտրանքը մի բան է, որը ոչ ոքիս դուր չի գա։