#ArtificialIntelligence - ES įstatymai turėtų nustatyti saugias ribas didelės rizikos programoms, sako #EESC

Biometrinis atpažinimas, skirtas emocijoms sekti, stebėti ir aptikti, neturėtų turėti vietos į žmogų orientuotame Europos požiūryje į dirbtinį intelektą (AI), sakoma. Europos ekonomikos ir socialinių reikalų komitetas (EESRK). atsakymas į Europos Komisijos baltąją knygą dėl AI, priimtas EESRK plenarinėje sesijoje liepos mėn.

Europos Komisija pasiūlė, kad dirbtinio intelekto taikomoji programa būtų laikoma pavojinga, jei ji susijusi ir su didelės rizikos sektoriumi (sveikatos priežiūra, transportu, energetika ir kai kuriomis viešojo sektoriaus dalimis), ir su didelės rizikos naudojimu, išskyrus kelias išimtis: dar reikia apibrėžti. Komisija siūlo kalbėti apie didelės rizikos dirbtinį intelektą, kuriam būtų taikomi specialūs reglamentai ir valdymo struktūros, tik jei šios dvi sąlygos bus įvykdytos.

EESRK mano, kad šis apibrėžimas gali sukelti potencialiai pavojingų spragų. Komiteto teigimu, „Facebook“ politinė reklama yra puikus pavyzdys.

"Reklama yra mažos rizikos sektorius, o "Facebook" naujienų kaupimo funkcija gali būti vertinama kaip mažos rizikos naudojimas. Tačiau, - teigia nuomonės pranešėja Catelijne Muller, - per rinkimų kampanijas matėme, kad netikrų naujienų ir padirbtų klastočių plitimas Facebook AI pagalba gali turėti daug neigiamų pasekmių ir daryti įtaką žmonių balsavimui, trukdant net iš už Europos ribų.

Ar turėtų būti išimčių ir kiek jų turėtų būti? EESRK mano, kad užuot sudaręs išimčių sąrašą, būtų geriau sudaryti bendrų savybių, kurios būtų laikomos didelės rizikos, sąrašą, neatsižvelgiant į sektorių.

Daugelis programų turi didelį poveikį pagrindinėms teisėms, pabrėžia M. Muller, ne tik žmonių privatumui, bet ir, pavyzdžiui, jų teisei demonstruotis arba prisijungti prie sąjungos.

Tamsioji biometrinio atpažinimo pusė

reklama

Veido ir biometrinis atpažinimas yra viena iš pagrindinių sričių, kurioje dirbtinis intelektas paliečia pagrindines teises. Jį gali būti leidžiama naudoti asmens tapatybės nustatymo tikslais – tai iš tiesų reglamentuoja Bendrasis duomenų apsaugos reglamentas.

Tačiau plačiai paplitęs dirbtinio intelekto pagrįsto biometrinio atpažinimo naudojimas stebėjimui arba žmogaus elgesiui ar emocijoms sekti, vertinti ar skirstyti į kategorijas turėtų būti uždraustas. Tuo labiau, kad nėra jokių mokslinių įrodymų, kad pagal biometrinius duomenis galėtume atskirti žmogaus jausmus, pabrėžia Mulleris.

COVID-19 sekimo ir sekimo programos

EESRK taip pat perspėja, kad nekontroliuojamas sekimo ir sekimo technologijų antplūdis mūsų visuomenėje atsidurtų daug greičiau ir su daug mažiau tikrinimu nei anksčiau, siekiant kovoti su koronaviruso protrūkiu.

„Kovos su pandemija metodai ir metodai turėtų būti tokie pat patvarūs, veiksmingi, skaidrūs ir paaiškinami, kaip ir bet kuri kita DI technika bet kurioje kitoje situacijoje“, – sako EESRK pranešėjas. "Jie turėtų gerbti žmogaus teises, etikos principus ir teisės aktus. Jie taip pat turėtų būti savanoriški, nes, norime to ar nenorime, daugelis per krizę įdiegtų technikų taps nuolatinėmis".

EESRK tikisi, kad Komisija atsižvelgs į jos indėlį, kaip tai padarė remdamasi rekomendacijomis, kurias EESRK pateikė nuo novatoriška nuomonė apie AI 2017 m, kuri pirmą kartą propagavo „žmogaus vadovaujamą“ požiūrį į dirbtinį intelektą Europoje.

fonas

Šios Baltoji knyga apie AI, kuri yra plataus DI priemonių paketo dalis, paskelbta Europos Komisijos komunikate Formuojant Europos skaitmeninę ateitį, siūlo:

• Priemonės, skirtos racionalizuoti mokslinius tyrimus, skatinti bendradarbiavimą tarp valstybių narių ir paskatinti investicijas į dirbtinį intelektą;
• būsimos ES dirbtinio intelekto reguliavimo sistemos politikos galimybės, daug dėmesio skiriant didelės rizikos taikomosioms programoms.

2020 m. vasario mėn. Komisija pradėjo viešąsias konsultacijas dėl Baltosios knygos, kuri truko iki birželio 14 d., ir surinko daugiau nei 1 200 atsakymų į klausimynus ir apie 700 rašytinių pareiškimų. Šiuo metu Komisija apdoroja šiuos duomenis ir netrukus paskelbs ataskaitą.

Europos skaitmeninės ateities formavimas apibūdina veiksmus, kurių Europos Komisija planuoja imtis siekdama užtikrinti, kad Europa būtų tinkama skaitmeniniam amžiui – vienam svarbiausių Ursulos von der Leyen prioritetų einant Europos vykdomosios valdžios pirmininkės pareigas. Jis grindžiamas trimis pagrindiniais ramsčiais:

• Žmonėms naudinga technologija;
• sąžininga ir konkurencinga skaitmeninė ekonomika ir
• atvira, demokratiška ir tvari visuomenė.

EESRK pateikė savo patarimus „Europos skaitmeninės ateities formavimas" , taip pat priimtas EESRK liepos mėn. plenariniame posėdyje, kuriame pateikiama viena pagrindinė rekomendacija:

"Daugelis skaitmeninės transformacijos greitis reiškia, kad nežinome, kokios naujovės bus kitą mėnesį. Todėl turime būti lankstūs ir prisitaikantys. Tam reikalingas nuolatinis visų dalyvaujančių šalių dialogas. EESRK, kaip organizuotos pilietinės visuomenės balsas, visuomenė, turėtų būti jos dalis, todėl prašome Komisijos užmegzti tokį nuolatinį dialogą“, – sakė nuomonės pranešėjas Ulrichas Sammas.

Pasidalinkite šiuo straipsniu: