RAKSTA CEĻVEDIS:
Galvenie riski pirmsvēlēšanu periodā un vēlēšanās
Anete Bērzkalne: Kādi ir galvenie riski, ar kuriem mēs varētu saskarties pirmsvēlēšanu periodā un vēlēšanu laikā?
Jānis Sārts: Manuprāt, ir diezgan daudz jārunā par to, kādi ir tie riski un kādiem riskiem mēs gatavojamies. (…) Tātad pirmais ir, kā militāri teiktu, kinētiskais risks – ka kaut kas notiek vēlēšanu laikā. Vai tas ir drons, par to arī tagad tiek runāts, jeb kaut kāds lielāks incidents, kas “sašūmē” sabiedrību. Tā ir viena lieta, kas ir iespējama, tātad hibrīduzbrukums.
Otra lieta, kas ir iespējama, ir mēģinājums, teiksim, kiberuzbrukumu veidā uzbrukt šīm [vēlēšanu] sistēmām. Atkal – vai tas ir veiksmīgs vai neveiksmīgs, bet var radīt priekšstatu, ka tas ir veiksmīgs.
Trešais ir dažādas informatīvas kampaņas. Nu, mēs zinām, diezgan plaši izplatīti ir bijuši dažādi robotizētie tīkli, algoritma nolaupīšana – Rumānijas gadījums.
Visbeidzot pēdējais, tas ir, kur mākslīgo intelektu jau izmanto.
Vai tie ir dziļviltojumi, vai tā ir datu indēšana lielajiem valodas modeļiem, kas sāk dot pilnīgi citādākas atbildes par, piemēram, politiku, nekā dabiski tie būtu atbildējuši.
Un visas šīs lietas ir tās, ar ko mēs varam saskarties priekšvēlēšanu vai vēlēšanu mirklī.
Jūs minējāt mākslīgā intelekta izmantošanu un lielo valodas modeļu indēšanu. Vai kaut kas tāds ir pētīts padziļināti? Vai kaut kas tāds arī pašreiz notiek?
Tas iemesls, kāpēc kāds kaut ko tādu varētu darīt, ir tāds, ka mirklī, piemēram, kad kāds Latvijā uzdod jautājumu: “Man tik grūti izvēlēties, par ko rīt iet vēlēt, un tu man tik labus padomus dod citās jomās. Ko tu man iesaki? Tu jau mani zini diezgan labi. Ko tu man iesaki?” – viņš saka: “Jā, ej balso par Jāni Sārtu! Viņš ir labākais!”
Cilvēks, uzticoties šo valodas modeļu rezultātiem, ņem to kā reālu ieteikumu.
Kaut gan tā metodoloģija ir tāda, ka ir divas metodes – viens ir, kad saindē to modeli jau pašos pamatu pamatos, ka kaut kādās jomās un tēmās tas pasaka kaut ko tādu, kas ir greizi un kas, es nedomāju, būtu mūsu gadījums.
Vai arī tie lielie valodas modeļi iet un skatās internetā, vāc informāciju, salīdzina – ka izliek tādā veidā šos diezgan liela apjoma dažādus “saitus” un tā tālāk, arī automātiski ģenerētus, ka tas modelis paņem no tiem un uzskata to kā augstāk ticamu un labākas kvalitātes informāciju nekā to patieso.
Uzticamu avotu izvērtēšana
Viens no tiem ieteikumiem, ko parasti sniedz cilvēkam, ir – paskatieties avotus, vai tie ir uzticami. Kā cilvēkam ir iespējams izvērtēt visus iespējamos avotus?
Nu, pirmkārt, jā, tas, ko mēs novērojam tagad, ja tu izej šādā veidā un kāds ir labi sagatavojis operāciju, pirmie avoti, ko tu ieraudzīsi, būs tie, kuri būs apstiprinājums šādam, teiksim, apgalvojumam. Bet tas pat nav pats bīstamākais.
Manuprāt, tā bīstamība ir mirklī, kad tu vari izmantot mākslīgo intelektu, lai individualizētu to ietekmes kampaņu, ka tas ir nevis par, teiksim, kaut kādu reģionu vai pilsētu, vai sociālo grupu, bet tieši par tevi.
Un to ir iespējams izdarīt arvien vairāk un vairāk. Un tad tā jauda krietni pieaug.
Mēs arī nesen taisījām pētījumu kopā ar Oksfordas Universitāti un Kembridžas Universitāti par to, kur tā nākotne iet ar šo visu. Un principā tas apgalvojums ir tāds, ka šeit mēs kā cilvēki vairs nevarēsim sevi, teiksim, pasargāt. Mums vajadzēs kaut kādu mākslīgā intelekta tehnoloģiju, kas tad mums palīdz orientēties šajās jaunajās vidēs.
Jo tā visa kopējā tendence, – ne pie mums, bet ko es novēroju tur, kur šīs metodoloģijas ir vairāk attīstas, – ir ļoti izteikta individualizācija, un ka tas notiek nevis sporādiski īsā laika periodā, bet ka tā individuālā kampaņa iepretim mums notiek ilgstošā laika periodā. Un kļūstot tām visām lietām lētākām, tu vari sataisīt dažādus mākslīgā intelekta aģentus dažādos veidos un formās, kas ir koordinēti, bet, tev nesajūtot to koordināciju, mēģina dot to ietekmi iepretim tieši mūsu priekšstatiem par pasauli, iepretim mūsu sapratnei par vērtībām, morālēm un tā tālāk un panākt kaut kādu uzvedības izmaiņu.
Jau šobrīd tie lielie valodas modeļi var labāk pārliecināt cilvēkus nekā cilvēki. Tas jau nav nākotnes jautājums. Tas ir tagad. Jautājums, kā to individualizēt un pielāgot konkrētam [cilvēkam], un tās lietas strauji veidojas, bet, paldies Dievam, negribu, tā teikt, biedēt – pie mums to vēl neizmanto, un arī Krievija nav tas jaudīgākais spēlētājs šajā jomā. Bet, protams, viņi mēģina tur investēt. Bet es nedomāju, ka uz šīm vēlēšanām tas būs tas, par ko mums jāuztraucas.
Bet tas, ka cilvēku uzvedības modeļi un tas, kā mēs uztveram pasauli, ir ļoti ievainojami pret šīm mākslīgā intelekta manipulatīvām jeb ietekmes un pārliecināšanas sistēmām, tas ir skaidrs, un tas tikai pieaugs.
Man, protams, patīk distopijās domāt – cik slikti varētu būt un tā tālāk…? Bet no otras puses, vēl labs laiks priekšā, kamēr …
Es uz laiku baigi nepaļautos. Lielie valodas modeļi mums ir pieejami trīsarpus gadus. Tas nav ilgs laiks. Viņi uztaisījuši diezgan lielu progresu.
Mana hipotēze ir tāda, ka tas, ko mēs beigās dabūsim darīt, ir, ka mums katram, kas gribēs būt pietiekami aktīvs cilvēks, būs savi mākslīgā intelekta asistenti, aģenti, kuriem, ja viņi būs gana kvalitatīvi, mēs uzticēsim šo lomu, tā teikt, koriģēt to [informāciju], kas nāk, kas nenāk.
Un es pat teiktu tā, visdrīzāk beigu beigās – tas pat nebūs tālu –, ka mēs vairs īpaši neapmeklēsim sociālos tīklus, jo mums jau īsti vairs nevajadzēs, jo mums tie mākslīgā intelekta aģenti un palīgi piegādās [informāciju]. Un tad, ja tie palīgi būs gana kvalitatīvi, tad mēs varbūt pat uzlabosim mūsu priekšstatu sistēmu un redzējumu par pasauli un faktiem.
Jeb arī, protams, ir otra varbūtība. Ja, piemēram, mēs gribēsim, neko nemaksājot to visu dabūt, tad gan mūs paņems un ievilks tādā apgriezto spoguļu pasaulē. (…) Šīs ir tās izvēles, kuru priekšā mēs šobrīd esam. Bet es teiktu, droši vien vairāk par pieciem gadiem tur nav jārēķinās, ka mums būs.
Tas, kā redzēsim pasauli, būs pilnībā atkarīgs no tā, kādu mākslīgo intelektu mēs patērēsim
Es domāju par informācijas individualizāciju, kā tad būtu iespējams pārliecināt cilvēku par kaut ko citu, ja tev tiek pasniegta informācija, izejot no tā, kas viņam šķiet, ka tev patīk? Principā tas cilvēks no kaut kāda cita “flanga” jau ir nesasniedzams kaut kādā mērā un izmainīt cilvēka vēlēšanu balsi ir gandrīz vai, šķiet, neiespējami.
Nu jā, jo tas mūsu pētījums par desmit gadiem uz priekšu principā secināja: tas, kā mēs redzēsim pasauli, būs pilnībā atkarīgs no tā, kādu mākslīgo intelektu mēs patērēsim.
Tai nav jābūt sliktai ziņai, jo tas jau var būt arī tāds ļoti kvalitatīvs, kurš dažādus aspektus ņem un varbūt pat izlabo dažus no tiem kropļojumiem, kas tagad radies ar sociālo tīklu algoritmu burbuļiem. Bet, ja tas iet tajā pašā virzienā, tad gan tas būs diezgan ekstrēms variants.
It īpaši, mums joprojām vēl ir sociālie kontakti, kas tā kā izlīdzina kaut kādu daļu no tiem efektiem, bet vēl viens efekts no mākslīgā intelekta ir tas, ka cilvēki vairāk un vairāk šīs sistēmas izmanto kā draugus, kā savus sociālos kontaktus. Viņi ir ļoti spējīgi uz šādām mijiedarbībām.
Un tad gan, ja tu, teiksim, savu sociālo dzīvi un informācijas iegūšanu dod vienam un tam pašam avotam, tad ir diezgan… Jā, tu esi ļoti, ļoti pakļauts tam, kas tur sanāk.
Līdz ar to pie mūsu šī brīža izvēlēm mums jāstrādā tā, ka tā reālā cilvēka sociālie kontakti nepazūd.
Un otrs. Kā mūs kaut kas satrauc, klasiski, piemēram, ir aiziet uz draudzeņu vakaru, tur izrunāt dažādus viedokļus un tā tālāk. Un arvien vairāk mēs redzam, ka ir cilvēki, kas šo pilnībā “outsorso” (outsource – no angļu val.: nodot ārpakalpojumā) un tieši to pašu dara ar konkrēto mākslīgo intelektu.
Runājot ar cilvēkiem, kas nu ir nonākuši šādās attiecībās, viņi saka: “Bet tas intelekts – viņš tik labi mani saprot, vienmēr manā pusē, tas ir tas, ko es vienmēr esmu gribējis kā atbalsta sistēmu.” Un tas ir ļoti bīstami, ja tas iet kombinācijā ar to, ka tas ne tikai tevi informatīvi, bet emocionāli kalibrē tam, kas notiek.
Dziesmu svētki, sports un kopienas – veids, kā saglabāt cilvēcisko saikni mākslīgā intelekta laikmetā
Domājat par sabiedrību kopumā, jo viss jau darbojas mijiedarbībā, respektīvi ir jāveicina arī kaut kāda sociālā labbūtība, kaut kādi mehānismi, kas ir ārpus informatīvās telpas – tā vienkārši iz dzīves, kā…
Dziesmusvētki!
Piemēram, piemēram.
Nu jā, nu joki jokiem, bet šī kopējā būšana – mēs esam ļoti izteikti sociāls dzīvnieks, lai gan varbūt daudzi par latviešiem tā neteiktu, bet mums šī ir ārkārtīgi svarīga sadaļa, kas mēs esam. Un mirklī, kad daļu no tā mēs pārceļam uz internetu, tad mēs sajūtamies kā izmesti no laivas un nesaprotam kāpēc.
Un tad, ja ir tāds mehānisms, kā tas mākslīgais intelekts, bieži pieķeras pie tā. Bet tas nozīmē, ka mums jārada tas pretmets, un es domāju, tam jābūt pietiekami dabiski un labi būvētam. Jo mums jau tā tendence ir tomēr uz to cilvēcisko kontaktu. Nevis kā instruktāža – dari tā! Bet kā caur Dziesmu svētkiem, sporta spēlēm, kopīgām lietām, kaut kādām interešu grupām, un šis būs jāveido, un tas, man liekas, kļūs arvien svarīgāk.
