Mai multi britanici au fost dati afara din magazine dupa ce au identificati gresit ca hoti de AI
Categoria:
stiri
6
Mai multi britanici au fost dati afara din magazine dupa ce au identificati gresit ca hoti de AI
Ian Clayton, un pensionar de 67 de ani din Chester, fost specialist in sanatate si securitate in munca, a intrat intr-un magazin si a fost abordat brusc de o angajata cu o atitudine severa.
Scuzati-ma, puteti sa lasati tot jos si sa parasiti magazinul chiar acum?, i-a spus aceasta.
Clayton povesteste ca a ramas socat, iar abia cand era condus grabit spre iesire, trecand pe langa casele de marcat, a intrebat ce a facut.
Ati aparut in sistemul nostru numit Facewatch ca hot din magazine. Este un afis in geam.
Clayton este doar unul dintre mai multi oameni care au povestit pentru The Guardian ca au fost identificati in mod eronat drept hoti de magazine care folosesc Facewatch, un sistem de recunoastere faciala live implementat in tot mai multe magazine din Marea Britanie pentru combaterea furturilor din retail.
Pe site-ul companiei se afirma ca sistemul care utilizeaza inteligenta artificiala are o rata de acuratete de 99,98 si ca luna trecuta a trimis 50. 288 de alerte privind infractori cunoscuti catre magazine. Insa cei identificati gresit spun ca, fie din cauza tehnologiei, fie a erorilor umane, au fost scosi din magazine fara explicatii si fara sa stie cum sa conteste decizia sau sa-si demonstreze nevinovatia.
Clayton spune ca, dupa incident, a incercat sa sune la numarul afisat pe posterul Facewatch, insa a fost intampinat de un mesaj automat care spunea ca firma nu preia apeluri si ca trebuie sa trimita email.
Abia dupa ce a depus o cerere oficiala de acces la datele personale, conform legislatiei privind protectia datelor, a aflat ca fusese asociat in mod gresit cu un presupus furt dintr-o vizita anterioara.
A fost ca si cum eram vinovat pana la proba contrarie. Este un sentiment ingrozitor. Iti lasa un gol in stomac, spune el. Pare ceva desprins din Orwell. Suntem inregistrati constant si introdusi in astfel de sisteme, dar ar trebui sa fim acolo? Acum sunt hiperconstient de camerele video peste tot.
Ulterior, magazinul care l-a dat afara i-a oferit scuze si un voucher de 100 de lire ca gest de bunavointa, fara admiterea vreunei responsabilitati, cu conditia pastrarii confidentialitatii incidentului. Clayton a refuzat.
Pe masura ce recunoasterea faciala este extinsa atat in politie, cat si in retail, comisarii britanici pentru biometrie avertizeaza ca supravegherea legala este mult in urma dezvoltarii rapide a tehnologiei.
Anul trecut, Ministerul de Interne britanic a recunoscut ca sistemele de recunoastere faciala au sanse mai mari sa identifice gresit persoane de culoare sau asiatice comparativ cu persoanele albe, precum si femei mai des decat barbati.
Un alt caz este cel al lui Jennie Sander, in varsta de 48 de ani, din Birmingham.
Femeia facea cumparaturi intr-un magazin B&M cand un agent de securitate i-a spus ca sistemul Facewatch a semnalat-o si ca trebuie sa o insoteasca prin magazin pentru a se asigura ca nu fura.
Am fost devastata. Erau multi oameni in jur si m-am simtit umilita. I-am spus ca vreau sa plec, iar el m-a escortat afara, povesteste ea.
Ajunsa acasa, Sanders a inceput sa se documenteze despre Facewatch si a aflat ca informatiile sunt partajate intre mai multi retaileri.
M-am gandit: o sa fiu tratata ca hot in fiecare magazin. Nu o sa mai pot face cumparaturi fizic niciodata.
Pentru a afla de ce figura in sistem, i s-a cerut sa trimita o copie a pasaportului catre Facewatch.
Ulterior a aflat ca fusese introdusa in baza de date pentru un presupus furt al unei sticle de vin din B&M, incident despre care spune ca nu a avut loc niciodata. Magazinul i-a comunicat ca nu mai detine nicio proba, inclusiv imaginile CCTV din ziua respectiva.
Numele ei a fost sters din sistem, iar compania i-a oferit un voucher de 25 de lire.
Ea afirma ca a depus plangere la Information Commissioner’s Office (ICO), autoritatea britanica pentru protectia datelor, insa la sapte luni dupa sesizare inca nu primise niciun raspuns.
Facewatch sustine ca aceste cazuri sunt extrem de rare si ca sistemul este conceput pentru a sprijini, nu pentru a inlocui, decizia umana.
Taguri & Cuvinte Cheie:
Mai multi britanici au fost dati afara din magazine dupa ce au identificati gresit ca hoti de AI
multi britanici fost
multi # britanici # fost