Lācis lēkā uz batuta – šāds un līdzīgi video ne reizi vien saviļņojuši sociālo mediju lietotājus. Komentāros cilvēki spriež, vai tas tiešām noticis. Taču video radījis mākslīgais intelekts. Kiberdrošības eksperti norāda, ka galvenā problēma nav tikai tehnoloģija. Tā ir mūsu gatavība noticēt tam, ko redzam.
“Šķiet, ka pamatā ir uzskats – ticēt visam, ko redzam. Mums tas ir jāapšauba. Manuprāt, mums jābūt kritiskākiem, uztverot informāciju. Mākslīgais intelekts noteikti paātrinās to, kā mēs uztveram pasauli,” spriež uzņēmuma “Palo Alto Networks” drošības vadītājs ziemeļu reģionā Jespers Olsens.
Mākslīgo intelektu izmanto arī militāro tehnoloģiju jomā
Mākslīgais intelekts var padarīt maldinošu saturu pārliecinošāku un izplatīt to ātrāk. Tas paver iespējas krāpniekiem, bet apdraudējums neaprobežojas ar viltus attēliem. Šādus rīkus arvien biežāk izmanto arī kiberdrošībā – gan uzbrukumos, gan aizsardzībā.
Īpašas bažas rada tehnoloģijas loma agrīnās brīdināšanas un izlūkošanas sistēmās, kā arī iespēja, ka kritiskos brīžos cilvēks zaudēs kontroli pār lēmumiem, tostarp kodolieroču jomā.
“Mums nevajadzētu maldīties – mākslīgais intelekts jau ir plaši integrēts militārajā jomā. Jau šobrīd tas tiek izmantots izlūkdatu analīzē un mērķu identificēšanā, bezpilota lidaparātos, kiberuzbrukumos, informācijas operācijās un citur.
Lēmumu pieņemšanas cikli saīsinās, sasniedzot mašīnu darbības ātrumu, un cilvēka spriedumiem atvēlētā telpa kļūst arvien šaurāka,” stāsta ANO Atbruņošanās pētniecības institūta direktors Robins Geiss.
“Manuprāt, mākslīgais intelekts, tāpat kā jebkura cita tehnoloģija, paver plašas iespējas, taču vienlaikus rada arī ievērojamus riskus ikvienam. Tas attiecas arī uz kibernoziedzniekiem – tostarp ļoti prasmīgiem grupējumiem, kurus, iespējams, atbalsta atsevišķas valstis,” norāda Olsens.
Foto: CHINE NOUVELLE/SIPA Ķīnā robots veido rotaļlietu no gaisa balona
Šobrīd visi cenšas izpētīt šo tehnoloģiju potenciālu. Ja reiz kibernoziedznieki un uzbrucēji izmanto tehnoloģijas, lai novērstu cilvēcisko faktoru kā vājo vietu, mums ir jārod veidi, kā rīkoties līdzīgi arī aizsardzības pusē, norāda eksperts.
“Ja mēs turpināsim visos procesos iesaistīt cilvēkus, mēs būsim lēnāki par tiem, kuri cilvēkus no lēmumu pieņemšanas ķēdes izslēdz, vai ne? Mēs jau redzam, ka kibernoziedznieki eksperimentē ar mākslīgo intelektu un izmanto to arvien plašāk,” atzīst Olsens.
Olsens norāda, ka uzbrucēji var mēģināt izmantot arī pašu organizāciju ieviestos MI rīkus. Turklāt arvien vairāk cilvēku mākslīgā intelekta rīkiem atklāj personiskas detaļas, augšupielādē dokumentus un pieslēdz savus kontus, par to ne vienmēr aizdomājoties.
MI regulējumu nevar atstāt tikai tehnoloģiju uzņēmumu ziņā
Uzņēmums “Anthropic” ziņojis, ka testu un iekšējās lietošanas laikā mākslīgā intelekta “Claude” aģenti vairākos gadījumos rīkojušies neparedzēti. Turklāt reālās vietnēs un sistēmās. “Anthropic” paziņoja, ka šajos gadījumos nav konstatēta ietekme uz klientu datiem vai uzņēmuma sistēmām. Uzņēmuma līdzdibinātājs paudis, ka lēmumus par MI regulējumu nevar atstāt tikai tehnoloģiju uzņēmumu ziņā.
“Man šķiet pārsteidzoši, ka rotaļlietas, ko pērku saviem bērniem, tiek regulētas stingrāk nekā superintelekta sistēma, pie kuras strādāju savā pamatdarbā. Precēm, ko iegādājos bērniem, ir marķējums. Tām ir vienoti testēšanas standarti,” norāda “Anthropic” līdzdibinātājs Džeks Klārks.
Līdzīgas bažas izskan arī Eiropā.
“Ņemot vērā, ka pēdējos mēnešos un vasaras gaitā mākslīgais intelekts ir ļoti strauji attīstījies, esam novērojuši gadījumus, kad MI aģenti izkļūst no savas vides, ievieto ļaunprātīgu kodu un izmanto sociālo manipulāciju pret cilvēkiem. Šādi incidenti grauj uzticēšanos MI un apdraud sabiedrības drošību,” secina Eiropas Komisijas priekšsēdētājas izpildvietniece Henna Virkunena.
