Pakosta ja Russell arutasid tehisaru agentide ohjamist

Tallinn Digital Summiti avapaneelis arutasid justiits- ja digiminister Liisa Pakosta ning California Berkeley ülikooli arvutiteaduste professor Stuart Russell tehisaru agentide reguleerimist ja ohjamist. Pakosta rõhutas, et riiklike teenuste puhul tuleb tema sõnul seada esikohale riiklik suveräänsus ja eelarveline kontroll.

Pakosta hoiatas, et kui riik ostab teenuseid välismaistelt tehnoloogiaettevõtetelt, kelle käes on tehisaru agentide täielik kontroll, võib ohtu sattuda riigi sõltumatus. Ta tõi võrdluseks tavapärase töösuhte, kus sõlmitakse leping ja raha jääb põhimõtteliselt Eestisse. Tehisaru agendi puhul võidakse tema sõnul tasuda iga tegevuse eest eraldi ning teenuse hind võib juba järgmisel päeval kahe nulli võrra suureneda.

Pakosta sõnul pakub Eesti juba ligikaudu 260 tehisarul põhinevat avalikku teenust. Tundlike andmete töötlemisel ei saa tema hinnangul aga valimatult tugineda välismaistele lahendustele, millega võivad kaasneda turvariskid. Eesti on tema sõnul otsustanud tundlike andmete töötlemiseks ehitada oma süsteemid ning nõuda uute lahenduste kasutuselevõtul ranget riskihindamist. Minister kirjeldas avaliku sektori agentidele seatavaid piiranguid: „Usalduse tagamiseks rakendatakse avalikus sektoris agentide puhul äärmiselt kitsast tunnelit, mis tähendab, et tehisaru agendid on piiratud tegema vaid seda, mis on neile rangelt lubatud.“ Ta kinnitas, et tehisarule ei anta riigis õigust inimese eest digiallkirja panna.

Russell hoiatas, et praegused tehisaru agendid on tema sõnul juba võimelised iseseisvalt korraldama riikliku taseme küberrünnakuid või keerukaid väljapressimisi. Ta võrdles kontrolli alt väljumise ohtu nõiaõpilase looga ning leidis, et lihtsast stopp-nupust ei piisa.

Pakosta ja Russell võrdlesid tehisaru ohutuse tagamist tuumaenergia reguleerimisega. Russell ei pidanud tehnoloogiaettevõtete eneseregulatsiooni toimivaks lahenduseks ning nõudis kohustuslikku väljalaske-eelset testimist ja toote turuletoomise keeldu, kui test annab ohtliku tulemuse. Pakosta nõustus kiirete ja rahvusvaheliste reeglite vajalikkusega.