ES likumdevēji apspriedīs to, kā mākslīgā intelekta (MI) sistēmas būtu jāklasificē, ņemot vērā to faktiskos vai potenciālos riskus, ko tās rada saskaņā ar jauno MI aktu.
MI akts ir ES priekšlikums par mākslīgā intelekta tehnoloģijas regulēšanu, pamatojoties uz tās potenciālajiem riskiem. Priekšlikuma pamatā ir augsta riska kategorija, kas nozīmē stingrākas prasības attiecībā uz robustumu (spēja izturēt vai pārvarēt nelabvēlīgus apstākļus, tostarp digitālās drošības riskus) un riska pārvaldību no MI izstrādātāja puses.
Eiropas Parlamenta (EP) deputāti, kas iesaistīti šajā lietā, apsprieda šo būtisko priekšlikuma aspektu politiskajā sanāksmē trešdien (1. februārī). Saskaņā ar EURACTIV rīcībā nonākušo darba kārtību, debatēs galvenā uzmanība tika pievērsta punktam, kurā definēts MI riska klasifikācijas process.
Darba kārtībā ir iekļauts līdzreferentu Brando Benifei un Dragos Tudorache iespējamais kompromiss. Vadošie EP deputāti jau pagājušajā nedēļā ierosināja kompromisa tekstu, taču jaunajā versijā ir iekļautas būtiskas izmaiņas, kas varētu pavērt ceļu uz kopīgu vienošanos.
Sagaidāms, sanāksmē likumdevēji oficiāli apstiprinās kompromisus par prasībām attiecībā uz augsta riska MI sistēmām un pasākumiem inovācijas veicināšanai.
Augsta riska klasifikācija
Sākotnējā regulas variantā augsta riska MI tika klasificēts, pamatojoties uz kritisko jomu sarakstu, kurās tiek izmantota šī tehnoloģija. Tajā ieskaitot tādas nozares kā tiesībaizsardzība vai veselības aprūpe. Pagājušās nedēļas kompromisā līdzreferenti ierosināja padarīt šo procesu mazāk automātisku.
Citiem vārdiem sakot, MI izstrādātājiem tiktu dota iespēja pašiem izvērtēt, vai viņu sistēma rada būtisku kaitējuma risku cilvēku veselībai, drošībai vai pamattiesībām. Vārds “būtisks” tika pievienots no iepriekšējā teksta kopā ar definīciju.
“Būtisks risks” ir risks nodarīt kaitējumu potenciāli ietekmējamo fizisko personu veselībai un drošībai, pamattiesībām, kas ir būtisks pēc tā smaguma, intensitātes, iestāšanās varbūtības/iespējamības, ietekmes ilguma un tā spējas ietekmēt indivīdu, personu kopumu vai konkrētu personu grupu,” teikts tekstā.
Ja MI izstrādātāji uzskata, ka nepastāv būtisks risks, tiem būs jāiesniedz pieteikums par izņēmuma piešķiršanu attiecīgās valsts uzraudzības iestādei vai ES birojam, ja sistēma tiks palaista vairāk nekā vienā Eiropas tirgū.
Pēc tam attiecīgā iestāde uzsāks regulatīvu dialogu ar pakalpojumu sniedzēju, un tai trīs mēnešu laikā ir jāsniedz pamatots lēmums.
Jebkurā gadījumā MI sistēma vienmēr tiks klasificēta kā augsta riska sistēma, ja tā ir produktu drošības komponents, uz kuriem attiecas ES nozaru tiesību akti paredzot, ka produktam ir jāveic trešās puses atbilstības novērtēšanas pārbaude. Piemēram, ja MI sistēma tiek izmantota, lai nodrošinātu rotaļlietas vai lifta drošību.
Zīmīgi, ka drošības komponenta definīcija ir mainīta, attiecinot to tikai uz risku, kas saistīts ar iespējamu MI sistēmas kļūdu vai nepareizu darbību attiecībā uz cilvēku veselību un drošību, kamēr īpašuma drošība netika iekļauta.
Augsta riska saraksta grozīšana
III pielikumā ir iekļauts augsta riska MI lietojumu kritisko jomu saraksts, lai Eiropas Komisija varētu to atjaunot, ņemot vērā tehnoloģiju un tirgus attīstību. Zem katras augsta riska jomas ir norādīti konkrēti izmantošanas gadījumi, piemēram, sistēmas, ko izmanto, lai izglītības nozarē pieņemtu studentus augstskolās.
Lai panāktu jaunāko kompromisu, ES izpildvarai būtu jāpiešķir pilnvaras ar deleģēto aktu palīdzību papildināt vai grozīt jomu un izmantošanas gadījumu sarakstu. Tāpat Komisija varētu svītrot no saraksta lietojuma gadījumus, bet ne kritiskās jomas, ja uzskata, ka tās vairs nav piemērojamas.
