IBM više neće imati u ponudi softver za opšte svrhe prepoznavanja i analize lica, naveo je CEO IBM-a Arvind Krišna u pismu upućenom Kongresu SAD. Kompanija takođe neće nadalje razvijati niti istraživati ovu tenologjiu, kako IBM navodi u brojnim medijima.

“IBM se čvrsto protivi i neće odobravati upotrebu bilo koje tehnologije [za prepoznavanje lica], uključujući tehnologiju koju nude drugi dobavljači, za masovni nadzor, rasno profilisanje, ugrožavanje osnovnih ljudskih prava i sloboda, ili bilo koju svrhu koja nije u skladu sa našim vrednostima i Principima poverenja i transparentnosti,” naveo je Krišna u pismu. “Verujemo da je sada trenutak da započnemo nacionalni dijalog o tome da li i kako tehnologija za prepoznavanje lica treba da bude upotrebljena u domaćim agencijama za sprovođenje zakona.”

Softver za prepoznavanje lica je umnogome unapređen tokom protekle decenije zahvaljujući napredovanju u oblasti veštačke inteligencije. U isto vreme, tehnologija koju često pružaju privatne kompanije sa slabom regulativom ili federalnim nadzorom je pokazala da pati od predrasuda u pogledu starosti, rase i etniciteta, što alate može načiniti nepouzdanim za sprovođenje zakona i bezbednosti, te uroditi potencijalnim zloupotrebama ljudskih prava.

Tokom 2018-te, istraživanje koje potpisuju Joy Buolamwini i Timnit Gebru otkrilo je po prvi put meru do koje se mnogi komercijalni sistemi za prepoznavanje lica (uključujući i IBM-ov) odlikuju predrasudama. Ovaj rad i dalje studije autora su vodile ka opštem kriticizmu ovih algoritama i stalnim pokušajima da se predrasude isprave.

U decembru 2019-te, studija Nacionalnog Instituta za standarde i tehnologiju otkriva “empirijske dokaze postojanja širokog niza tačnosti u demografskim razlikama većine aktuelnih algoritama za prepoznavanje lica koje smo evaluirali”, na primer. Tehnologija je takođe dospela pred nišan zbog svoje uloge u ugrožavanju privatnosti.

Treba primetiti da NIST studija nije obuhvatila tehnologiju iz Amazona, koja je jedna od malobrojnih tehnoloških kompanija koja predstavnicima sprovođenja zakona prodaje softver za prepoznavanje lica. Ipak je Rekognition, naziv programa, takođe bio kritikovan zbog svoje preciznosti. U 2018-toj, Američka Unija grašanskih sloboda je pronašla da je Rekognition netačno spojio 28 članova Kongresa sa licima odabranim među 25 hiljada javnih fotografija lica.

Još jedna kompanija, Clearview AI, doživela je strogo propitivanje počev od ove godine kada je otkriveno da je njihov alat za prepoznavanje lica, napravljen sa više od 3 milijarde slika prikupljenih delom sa stranica društvenih medija, bio u širokoj upotrebi među sektorom privatnih kompanija i agencija za sprovođenje zakona. Clearview je od tada dobio brojne sudske naloge zabrane i usred je velikog broja tužbi povodom privatnosti. Facebook je takođe dobio naredbu u Januaru da plati 550 miliona dolara za namirivanje tužbe zbog nezakonite upotrebe tehnologije za prepoznavanje lica.

IBM je pokušao da pomogne u ovim problemima sa predasudama u prepoznavanju lica, objavljujući javno skup podataka 2018-te, dizajniran da pomogne u smanjivanju predrasuda kao deo podataka za treniranje modela prepoznavanja lica. Ali ispostavilo se da je IBM takođe delio druge skupove podataka od gotovo milion fotografija u januaru 2019-te koje su preuzete sa platforme Flickr bez saglasnosti fotografisanih osoba — iako su fotografije deljene pod licencom Creative Commons. IBM je objavio u to vreme da bi ovom skupu podataka pristupali jedino verifikovani istraživači i da bi uključivao samo slike koje su bile javno dostupne. Kompanija je takođe izjavila da pojedinci mogu da se odjave i isključe iz ovog skupa podataka.

U svom pismu, Krišna se takođe založio za reformu policije, tvrdeći da više slučajeva neprimerenog ponašanja policije treba staviti pod nadležnost federalnog suda i da bi Kongres trebalo da načini promene u kvalifikovanoj doktrini imuniteta, između ostalih mera. Dodatno, Krišna je rekao da “treba da napravimo otvorenije i podjednake puteve za sve Amerikance kako bi dobili tržišno vredne veštine i obuku”, a predložio je da Kongres razmotri skaliranje P-TECH modela škole nacionalno i proširi dostupnost Pell stipendija.

Šta rukovodioci treba da znaju o veštačkoj inteligenciji