ĪSUMĀ:
Uzmanību piesaista veids, kā MI aģents izpilda uzdevumu
Uzdevums bija šķietami nevainīgs – internetā sameklēt informāciju par Austrāliju. Taču, kad “OpenAI” mākslīgā intelekta aģents sastapās ar šķēršļiem, tas mēģināja tos apiet. Austrālijas valdība paziņojusi, ka aģents bez atļaujas piekļuvis tās veselības aprūpes “Medicare” statistikas portālam un nonācis arī pie failiem, kas publiski nebija pieejami.
Nav ziņu, ka būtu iegūti pacientu personas vai medicīniskie dati. Taču uzmanību piesaistīja veids, kādā sistēma līdz informācijai nonāca. Kāpēc aģents, pildot šķietami vienkāršu uzdevumu, vispār ķērās pie sistēmas ievainojamībām, “Pasaules panorāmai” skaidroja kiberdrošības pētnieks Džeks Keibls:
“Tas, kas šeit ir zīmīgi, ka “OpenAI” savos testos modelim lika iegūt datus. Un, kad tas sastapās ar šķēršļiem un nevarēja iegūt nepieciešamos datus, tas nolēma mēģināt izmantot ievainojamības. Mēs neredzējām ļoti dziļu ielaušanos, taču tas ir brīdinājuma signāls: mākslīgā intelekta aģenti, cenšoties sasniegt bieži vien pavisam ikdienišķus mērķus, var ķerties pie sistēmu ievainojamību izmantošanas.”
Kā MI aģents atšķiras no čatbota?
MI aģents nav gluži tas pats, kas ierastais čatbots jeb mākslīgā intelekta sarunu programma. Čatbots saņem jautājumu un sagatavo atbildi.
Aģentam var dot mērķi un rīkus, piemēram programmas vai piekļuvi datiem, bet vairākus soļus līdz rezultātam tas spēj plānot un izpildīt patstāvīgi.
“OpenAI” modeļi robežas pārkāpuši arī iepriekš
“OpenAI” modeļi tiem noteiktās robežas pārkāpuši arī iepriekš. Kiberdrošības testā tiem bija jāmeklē programmatūras ievainojamības noslēgtā testa vidē. Taču modeļi atrada ceļu uz internetu un nonāca arī plaši izmantotās mākslīgā intelekta platformas “Hugging Face” sistēmās, kur izstrādātāji publicē un koplieto dažādus MI modeļus.
Šajā eksperimentā ievainojamību meklēšana bija daļa no uzdevuma, bet Austrālijā aģentam bija uzdots tikai iegūt informāciju. To komentārā “Pasaules panorāmai” atzīmēja kiberdrošības eksperts un Hārvarda universitātes lektors Brūss Šneiers.
“Cilvēki apiet ugunsmūrus, kopš tie tika izgudroti deviņdesmitajos gados. Mākslīgais intelekts ir trenēts uz cilvēku radītiem datiem, un tas to dara labāk. Šīs MI sistēmas ir ļoti labas hakerēšanā, un daļu no tā tās, var teikt, dara pašas, jo tām tiek dots mērķis un tās šo mērķi sasniedz ar jebkādiem iespējamiem līdzekļiem, līdzīgi kā cilvēki. Mēs
redzam daudz piemēru, kuros MI sasniedz mērķi veidos, kurus mērķa devēji negribēja vai nebija paredzējuši. Vai tā ir MI problēma? Tā ir problēma ar mērķiem. Tā ir problēma ar sistēmām. Tas ir sarežģīti.”
Brīdina par daudz bīstamākiem scenārijiem nākotnē
Par to, cik tālu šādu sistēmu patstāvīga rīcība nākotnē varētu aiziet, pētnieku vidū domas atšķiras. Daļa brīdina arī par daudz bīstamākiem scenārijiem, piemēram, mākslīgā intelekta izmantošanu bioloģisku ieroču radīšanā, autonomās ieroču sistēmās vai pat par situāciju, kurā daudz spējīgākas sistēmas cilvēki vairs nespētu kontrolēt.
Nesen pētniekiem izdevās apiet kāda Ķīnas mākslīgā intelekta modeļa drošības ierobežojumus un panākt, ka tas sniedz norādes par bioloģisko ieroču izgatavošanu.
Pagaidām gan nav pierādīts, ka šīs instrukcijas būtu praktiski izmantojamas. Taču starp šodienas MI aģentiem un šādiem scenārijiem joprojām ir virkne tehnisku un fizisku šķēršļu. Piemēram, digitāli izstrādāt bīstamu patogēnu vēl nenozīmē spēt to arī izgatavot un izplatīt, bet kritiski svarīgas infrastruktūras sistēmas parasti ir daudz stingrāk aizsargātas nekā parasts interneta resurss.
Eksperts: Atbildība jāprasa no cilvēka, nevis MI
“Tā ir zinātniskā fantastika. Mani daudz vairāk uztrauc cilvēki ar mākslīgo intelektu nekā mākslīgais intelekts pats.
Ilgi pirms tas pārņems pasauli, cilvēki to izmantos, lai mēģinātu paši pārņemt pasauli. Atbildīgi ir cilvēki, un cilvēki ir tie, no kuriem mums jāprasa atbildība,” uzsvēra Šneiers.
Un cilvēki šīs iespējas jau izmanto. Pērn tika ziņots par hakeriem, kurus ar lielu ticamību saistīja ar Ķīnas valsts atbalstītu grupējumu un kuri mākslīgo intelektu izmantoja uzbrukumos aptuveni 30 uzņēmumiem un valsts iestādēm visā pasaulē.
MI šādos uzbrukumos var pārņemt arvien lielāku daļu tehniskā darba: meklēt ievainojamības, rakstīt kodu un vienlaikus pārbaudīt daudz vairāk sistēmu.
“Modeļi jau daudzos gadījumos ir pārspējuši cilvēka spējas atrast un izmantot ievainojamības. Un, ja ņem vērā arī mērogu, nav šaubu, ka kibernoziedznieks, kurš vada aģentu grupu, var būt ievērojami spējīgāks un nodarīt daudz lielāku kaitējumu nekā iepriekš,” brīdināja Keibls.
Jautājums tāpēc vairs nav tikai par to, cik spējīgi kļūst mākslīgā intelekta aģenti, bet arī kādas pilnvaras tiem vispār drīkst dot.
Austrālijas kiberdrošības dienests iesaka katram aģentam piešķirt tikai konkrētajam uzdevumam nepieciešamās piekļuves tiesības un atsevišķu digitālo identitāti,
tā darbības reģistrēt un uzraudzīt, bet riskantākajiem soļiem prasīt cilvēka apstiprinājumu. Tas ļautu ne tikai ierobežot, ko aģents var izdarīt, bet arī pēc tam precīzi noskaidrot, ko tas darījis un ar kādām tiesībām.
“Es domāju, ka rīcībai jābūt divējādai. Modeļu izstrādātājiem ir ne tikai jāuzrauga savas testa vides, bet arī jāievieš drošības ierobežojumi, kas nodrošina kiberdrošības prasību ievērošanu modeļu darbības laikā. Taču vēl svarīgāk ir programmatūras izstrādātājiem nostiprināt savu sistēmu aizsardzību un novērst ievainojamības, lai pat ļoti spējīgs MI modelis tās vairs nevarētu atrast un izmantot,” norādīja Keibls.
Arī valdības sāk reaģēt uz gadījumiem, kas vēl pirms dažiem gadiem lielākoties tika apspriesti tikai teorētiski. Austrālija pēc incidenta pastiprina prasības mākslīgā intelekta aģentu piekļuvei un cilvēka kontrolei.
Arī “OpenAI” sācis plašāk pārskatīt savu aģentu darbību internetā un jau brīdinājis desmitiem ārēju organizāciju par gadījumiem, kuros modeļi varētu būt apgājuši drošības kontroles vai ietekmējuši to sistēmas.
