Tehisaruagendid jõuavad infosüsteemidesse: nende kontrollimiseks luuakse mitu turvataset
Eestis tegeletakse mitme suure tehisaruprojektiga, mille üks eesmärk on muuta tehisaruagentide kasutamine infosüsteemides turvalisemaks ja kontrollitavamaks. Ühe arendatava lahenduse keskmes on võimalus tuvastada, millal tegutseb infosüsteemis inimese asemel tehisaruagent.
Foto: ERR
Tehisaruagent on tarkvaraline lahendus, millele inimene saab anda kindlad ülesanded, käsklused ja piirangud. Agent võib seejärel tegutseda inimese eest erinevates infosüsteemides ning täita talle määratud ülesandeid.
Arendatava lahenduse üks olulisemaid eesmärke on tagada, et infosüsteemid suudaksid eristada inimest ja tema nimel tegutsevat tehisaruagenti. See peaks aitama vähendada riske olukorras, kus tehisaru kasutamine muutub järjest autonoomsemaks.
Kontroll toimuks kolmel tasandil
Lahenduse puhul nähakse ette kolm erinevat kontrolltasandit.
Esimene kontroll toimub juba tehisaruagendi loomisel. Agent programmeeritakse täitma konkreetseid ülesandeid ning selle tegevusele määratakse piirangud.
Teine kontrolltase jääb inimese enda kätte. Näiteks panka või terviseportaali kasutades saaks inimene määrata, milliseid toiminguid tema tehisaruagent teha tohib ja millised volitused talle konkreetses infosüsteemis antakse.
Kolmas kontrolltase oleks teenusepakkujal ehk infosüsteemi haldajal. Süsteem peab suutma tuvastada, et sinna siseneb inimese asemel tehisaruagent. Kui agendi tegevus tundub kahtlane, ebatavaline või ohtlik, oleks teenusepakkujal võimalik selle ligipääs peatada.
Eesmärk on suurendada turvalisust
Kuigi tehisaruagentide järjest suurem iseseisvus võib inimestes tekitada küsimusi ja hirme, on arendatava süsteemi eesmärk just nende riskide vähendamine.
Oluline põhimõte on, et tehisaruagent ei saaks infosüsteemides märkamatult ja piiranguteta tegutseda. Kontroll jaguneks agendi looja, kasutaja ja teenusepakkuja vahel.
Selline mitmetasandiline lähenemine peaks võimaldama tehisaruagentide võimalusi kasutada viisil, kus inimesel ja infosüsteemide haldajatel säilib kontroll nende tegevuse üle.
Veel samal teemal
