Moratorij za razpoznavanje obraza Amazon – The New York Times

Moratorij za razpoznavanje obraza Amazon – The New York Times

SEDEŽ – Amazon je v sredo dejal, da traja eno leto, da lahko policija uporabi svoje orodje za prepoznavanje obraza, kar je glavni znak vse večje zaskrbljenosti, da lahko tehnologija vodi do nepoštenega ravnanja z Afroameričani.

Tehnični velikan v svoji kratki objavi na spletnem dnevniku o spremembi ni obrazložil, odločitev pa je prispela med nacionalnimi protesti proti rasizmu in pristranskosti policije. Amazonova tehnologija je bila v preteklosti kritizirana zaradi napačnega prepoznavanja barvnih ljudi.

V njegovem objava na blogu, podjetje je dejal upal je, da bo moratorij na njegovo službo Rekogservation “Kongresu lahko dal dovolj časa, da vzpostavi ustrezna pravila” za etično uporabo obraznega prepoznavanja.

Napoved je za Amazon, vodilni ponudnik programske opreme za prepoznavanje obraza za kazenski pregon, močno spremenila. Amazon se je bolj kot druga velika tehnološka podjetja uprl pozivom, da upočasni njegovo uvajanje. V preteklosti je Amazon rekel, da so bila njegova orodja natančna, vendar so jih raziskovalci zlorabili.

IBM je v ponedeljek sporočil, da bo prenehal prodajati izdelke za prepoznavanje obraza, in lani vodilni proizvajalec policijskih kamer na priporočilo neodvisnega odbora za etiko je prepovedal uporabo prepoznavanja obraza na svojih izdelkih, ki je dejal, da tehnologija “trenutno ni dovolj zanesljiva, da bi lahko etično upravičila njegovo uporabo”. Google se je zavzel za začasno prepoved tehnologije.

Ameriška zveza civilnih svoboščin je Amazonu pozdravila izjavo, da “končno prizna nevarnosti, ki jih priznavanje predstavlja črno-rjavim skupnostim in širšim državljanskim pravicam”. Vendar je dejal, da mora podjetje podaljšati moratorij na kazensko pregon, dokler kongres ne sprejme zakona, ki ureja tehnologijo.

“Tehnologija prepoznavanja obrazov daje vladam brez primere moč, da nas vohunijo kamor koli gremo,” Nicole Ozer, direktorica za tehnologijo in državljanske svoboščine, A.C.L.U. iz Severne Kalifornije, je zapisano v izjavi. “To spodbuja zlorabe policije. To tehnologijo nadzora je treba ustaviti. “

Organi pregona uporabljajo tehnologijo prepoznavanja obrazov za prepoznavanje osumljencev in pogrešanih otrok. Sistemi delujejo tako, da poskušajo primerjati podatke obraznega vzorca s fotografij ali videoposnetkov s podatki iz baz podatkov, kot so zapisi vozniških dovoljenj. Organi so uporabili tehnologijo za pomoč pri identifikaciji osumljenca med množičnim streljanjem časopisa lani v Annapolisu, Md.

Toda skupine za državljanske svoboščine so opozorile, da se tehnologija lahko uporablja na daljavo za skrivno identifikacijo posameznikov – na primer protestnikov, ki se udeležujejo protestov – ki Američane hladijo svobodo izražanja ali preprosto omejujejo njihove sposobnosti da se anonimno v javnosti lotijo ​​svojega posla. Nekatera mesta, med njimi San Francisco in Cambridge v Massachusettsu, so tehnologijo prepovedala.

Ta teden so demokrati v hiši uvedli zakon o policijski reformi, ki bi prepovedal uporabo tehnologije za prepoznavanje obraza s policijskimi zapisovalnimi napravami. Nekateri zakonodajalci že dolgo skrbijo o tehnologiji in sprašujejo proizvajalce in javne organe, ki uporabljajo njihove izdelke, kako vpliva na državljanske pravice in zasebnost.

Zagovorniki državljanskih svoboščin so leta 2018 sprožili akcijo za prepoved uporabe prepoznavanja obraza s strani organov pregona, potem ko so v poročilu akademskih raziskovalcev ugotovili rasno pristranskost v sistemih. Poročilo je ugotovilo, da sta obrazni tehnologiji, ki sta jih izdelali IBM in Microsoft, lahko na fotografijah približno 100% pravilno prepoznali spol belih moških. Toda sistemi so bili veliko manj natančni v svoji zmožnosti prepoznavanja spola temnopoltih žensk.

IBM in Microsoft sta hitro izboljšala svoje sisteme. Amazon se je znašel pod drobnogledom.

Dve leti je podjetje A.C.L.U. vodil akcijo, s katero je Amazon spodbudil, naj preneha prodajati tehnologijo organom kazenskega pregona. Skupina je pridobila dokumente z uporabo zakonov o odprtih informacijah od policije, ki je pokazala, kako je Amazon agresivno tržil svojo tehnologijo do kazenskega pregona.

A.C.L.U. preizkusili so tudi Amazonovo tehnologijo tako, da so uporabili glave glave članov Kongresa in jih primerjali z bazo javno dostopnih posnetkov. Skupina je poročala, da se je tehnologija Amazon napačno ujemala z 28 aretiranimi kongresniki, kar predstavlja 5-odstotno stopnjo napak med zakonodajalci. Takrat je Amazon izpodbijal te ugotovitve, rekoč, da je skupina svoj sistem uporabljala drugače kot stranke kazenskega pregona.

Jimmy Gomez, demokrat iz Kalifornije in eden od napačno opredeljenih zakonodajalcev v A.C.L.U. test, je dejal, da se je s tem vprašanjem srečal Amazon skoraj desetkrat. Povedal je, da je Amazon manj odprt za kritike kot njegovi tehnološki kolegi.

“Po mojem mnenju so se izognili kakršni koli odgovornosti za svojo tehnologijo,” je v sredo po napovedi družbe dejal Gomez. “Vedno so imeli izgovor.”

Gomez, ki je podpredsednik odbora za nadzor in reforme Parlamenta, je dejal, da je vesel, da Amazon ustavi policijsko prodajo.

“Amazonka lahko začuti, da ameriški narod ne želi hrepenenja, ko gre za reševanje nesorazmerij,” je dejal. “Želijo konkretne ukrepe.”

Amazon je leta 2016 predstavil Rekogservation kot poceni in “zelo razširljiv” način za prepoznavanje slik, vključno z ljudmi, v velikih bazah podatkov. Kmalu zatem se je začelo sproži policijo na orodju za pomoč pri preiskavah in organi pregona so začeli uporabljati tehnologijo.

V intervjuju za PBS ‘Frontline’ v začetku tega leta je Andy Jassy, ​​generalni direktor Amazon Web Services, dejal, da ne misli, da podjetje ve, koliko policijskih oddelkov so uvajali tehnologijo.

Lani jeseni je Jeff Bezos, izvršni direktor Amazona, dejal, da podjetje pripravlja zakon o zasebnosti za prepoznavanje obraza. Vendar je dejal, da bo Amazon vmesno še naprej prodajal orodja.

“To je odličen primer nečesa, kar ima res pozitivne namene, zato ne želite zavirati,” je dejal gospod Bezos. “Hkrati obstaja veliko tveganje zlorabe s tovrstno tehnologijo, zato želite predpise.”

Povedal je, da bi pozdravil “dobre predpise” glede tega vprašanja. “Menim, da bi takšna stabilnost zdrava za celotno industrijo,” je dejal.

G. Bezos ni navedel podrobnosti o posledicah predlagane zakonodaje podjetja.

Gomez je dejal, da še ni videl nobene vzorčne zakonodaje, ki jo je predlagal Amazon, in dodal: “To bi bila novica.”

Karen Weise je poročala iz Seattla, Natasha Singer pa iz New Yorka. David McCabe je prispeval k poročanju v Washingtonu.

Aygen

Related Posts

Dodaj odgovor

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja

Read also x