Kādas konkrētas problēmas rada AI funkcijas bloķēšanu ES

Galvenās datu problēmas

1. Biometrisko datu lietojums:
- AI sistēmu izmantošana biometriskajai identifikācijai un masveida uzraudzībai ir radījusi ievērojamu satraukumu pilsoniskās sabiedrības grupās. Šīs tehnoloģijas tiek uztvertas kā invazīvas un ar tām var tikt pārkāptas personas privātuma tiesības, tādēļ tiek prasīts pilnībā aizliegt, jo tās var tikt ļaunprātīgi izmantotas novērošanas kontekstā[1][2].

2. Prognozējošā policijas darbība:
- Tiek pārbaudītas arī AI lietojumprogrammas, kas atvieglo prognozējošu policijas darbu, pamatojoties uz profilēšanu. Lai gan šīs sistēmas ir atzītas par augsta riska sistēmām, ES ir izvēlējusies tās pilnībā neaizliegt, atsaucoties uz valsts drošības vajadzībām. Tā vietā tiem būs jāveic rūpīgs atbilstības novērtējums, tostarp Ietekmes uz pamattiesībām novērtējums (FRIA)[2][3]. Tomēr šo novērtējumu efektivitāte joprojām ir neskaidra, jo īpaši attiecībā uz to, kurš ir kvalificēts to veikšanai un cik visaptveroši tie būs[2].

3. Pārredzamība un atbildība:
- Likumā ir uzsvērta nepieciešamība pēc pārredzamības AI darbībās, jo īpaši augsta riska sistēmām. Uzņēmumiem ir jāuztur detalizēti žurnāli par sava AI lēmumu pieņemšanas procesiem un jānodrošina, ka lietotāji tiek informēti par saskarsmi ar šādām sistēmām. Tas ir ļoti svarīgi pārskatatbildības nodrošināšanai, taču tas rada izaicinājumus īstenošanai, jo īpaši nodrošinot, ka visas ieinteresētās personas saprot savus pienākumus saskaņā ar jaunajiem noteikumiem[1][3].

4. Neobjektivitāte un diskriminācija:
- Bažas par neobjektivitāti AI sistēmās ir būtiskas, jo šīs tehnoloģijas var iemūžināt vai saasināt pastāvošo sabiedrības nevienlīdzību. ES ir noteikusi, ka mākslīgā intelekta izstrādātājiem izstrādes posmā ir jāņem vērā iespējamās novirzes un jāīsteno pasākumi to mazināšanai[4][5]. Šīs prasības mērķis ir aizsargāt pamattiesības, taču tā rada jautājumus par objektīvu rezultātu sasniegšanas iespējamību sarežģītos AI modeļos.

5. Cilvēku uzraudzība:
- Vēl viens būtisks likuma aspekts ir prasība par cilvēku uzraudzību visā AI sistēmas dzīves ciklā. Tas ietver arī to, lai vajadzības gadījumā operatori varētu iejaukties, kas apgrūtina pilnībā automatizētu sistēmu ieviešanu[2]. Notiek arī debates par to, kā būtu jāpiešķir atbildība, ja AI sistēmas rada kaitējumu, jo īpaši ņemot vērā to darbības sarežģītību[2].

Secinājums

ES pieeju mākslīgā intelekta regulēšanai raksturo liels uzsvars uz indivīda tiesību aizsardzību un ētikas standartu nodrošināšanu. Tomēr problēmas, ko rada datu privātums, neobjektivitāte un atbildība, joprojām ir nozīmīgi šķēršļi, kas jānovērš, tiesību aktiem virzoties uz īstenošanu līdz 2026. gadam. Līdzsvars starp inovāciju veicināšanu un pamattiesību aizsardzību būs ļoti svarīgs AI nākotnes ainavas veidošanā pasaulē. Eiropā.