Companiile tehnice și-au studiat liniștit fotografiile pentru a-și îmbunătăți sistemele de recunoaștere facială. Și iată cum au făcut-o.
Recunoașterea facială este o tehnologie puternică care amenință serios libertățile civile. Este, de asemenea, o afacere înfloritoare. Astăzi, multe startup-uri și giganti tehnologici vând sisteme de recunoaștere facială hotelurilor, comercianților de retail și chiar școlilor și taberelor de vară. Această afacere este în plină expansiune datorită noilor algoritmi care pot identifica oamenii cu o precizie mult mai mare decât acum cinci ani. Pentru a-și îmbunătăți algoritmii, ei au fost instruiți pe miliarde de fețe, uneori fără permisiunea nimănui. Prin urmare, șansele sunt bune ca chipul tău să facă parte dintr-un „kit de instruire” într-unul din aceste sisteme sau să se afle într-o bază de date a clienților unei companii.
Metodele de colectare a informațiilor utilizate de companii pot surprinde consumatorii. De exemplu, în cel puțin trei cazuri, companiile au primit milioane de imagini prin intermediul aplicațiilor foto pentru smartphone-uri. Acum, sistemul de recunoaștere a feței este slab reglementat, astfel încât oamenii nu au aproape nicio modalitate de a restricționa utilizarea fețelor lor în scopuri comerciale.
În 2018, o cameră foto a identificat fețele pasagerilor care se grăbeau într-un avion în apropiere de Washington, Columbia. Dar, de fapt, atât avionul cât și pasagerii au făcut parte dintr-o simulare creată de Institutul Național de Standarde și Tehnologie (NIST) pentru a demonstra modul în care datele ar putea fi colectate „în teren”. Fețele folosite în acest experiment vor face parte dintr-o competiție NIST în care companii din întreaga lume își testează sistemele de recunoaștere a feței.
În simularea situației aeronavei, voluntarii au fost de acord să-și folosească fețele. Acesta a fost cazul în etapele incipiente ale sistemelor de recunoaștere facială - cercetătorii au încercat să includă în mod constant oameni în seturile lor. Acum, este puțin probabil ca afacerea să se deranjeze și să ceară permisiunea.
Potrivit Cercetării de piață Viitorul, companiile (inclusiv lideri precum Face ++ și Kairos) se angajează să fie numărul 1 într-o industrie care crește cu 20% anual, ajungând la 9 miliarde de dolari până în 2022. Modelul de afaceri al acestor jucători se bazează pe software licențiat pentru un număr tot mai mare de clienți - de la agențiile de aplicare a legii la universități - care îl folosesc în propria dezvoltare.
În competiție, câștigătorii sunt acele produse ale căror algoritmi sunt capabili să detecteze fețele cu exactitate și fără erori. La fel ca în cazul tuturor inteligenței artificiale, construirea unui sistem de recunoaștere a feței presupune acumularea unei cantități mari de date pentru antrenament. În timp ce companiile pot utiliza date aprobate de guvern și universitate (cum ar fi baza de date Yale facial), aceste kituri de pregătire sunt suficient de mici pentru a nu conține mai mult de câteva mii de fețe.
Video promotional:
Aceste kituri oficiale au și alte dezavantaje. Multe persoane le lipsește diversitatea rasială și condițiile diferite - umbre, pălării, produse cosmetice - care modifică percepția unei persoane în lumea reală. Un sistem natural de recunoaștere a feței necesită mai multe imagini. Mult mai mult.
„O sută nu este suficientă, o mie nu este suficient. Avem nevoie de milioane de imagini. Dacă nu pregătiți sistemul să recunoască oamenii cu ochelari și culori diferite ale pielii, nu veți obține rezultate bune”, spune Peter Trepp, directorul FaceFirst, o companie din California care ajută comercianții să identifice infractorii din magazinele lor.
Cerere pentru acest lucru
Le. În mod special, aplicația a forțat-o să trimită link-uri sponsorizate către toate persoanele de contact cu utilizatorii, o tactică cunoscută în Silicon Valley drept „hacking-ul de creștere”. Utilizatorii s-au plâns și pentru furtul de date.
"Imediat după instalare, aplicația colectează toate telefoanele din lista de contacte și începe să le trimită mesaje … Și apoi descarcă toate fotografiile și le copiază în stocarea în cloud", a scris Greg Miller, proprietarul unui studio foto din Texas, într-un review din 2015 pe Facebook.
Patru ani mai târziu, Miller a fost îngrozit să descopere că fotografiile sale erau încă stocate la EverRoll, dar acum o companie cu un sistem de recunoaștere facială.
„Nu, nu știam despre asta și nu sunt în totalitate de acord cu asta”, s-a plâns Miller către Fortune. „Acest tip de supraveghere este o problemă reală. Confidențialitatea a dispărut și asta mă sperie foarte mult.
Doug Ely, CEO al Ever AI, susține că compania nu transferă informații din baza sa de date nicăieri, iar fotografiile sunt folosite doar pentru a antrena sistemul. El a mai adăugat că compania este asemănătoare cu o rețea de socializare care poate fi abandonată în orice moment. Eli a negat că Ever AI intenționează să devină o companie de recunoaștere facială din start, spunând că oprirea aplicației este o decizie de management. Clienții AI AI folosesc acum datele sale în scopuri proprii, inclusiv gestionarea sistemelor de identificare a angajaților, vânzare cu amănuntul, precum și telecomunicații și forțele de ordine.
Ever AI nu este singura companie de recunoaștere facială care a oferit o aplicație de fotografie. Orbeus, un startup cu sediul în San Francisco, cumpărat de Amazon în 2016 (care nu a fost anunțat), a oferit, de asemenea, popularul spațiu de stocare PhotoTime.
Potrivit unui fost angajat Orbeus, apelul start-up-ului la Amazon a fost inteligența artificială pe care a dezvoltat-o și vasta sa serie de fotografii ale oamenilor din locuri publice.
„Amazon căuta astfel de oportunități. Au cumpărat totul și apoi au închis cererea”, spune un angajat care dorește să rămână anonim, invocând un acord de neinformare.
PhotoTime nu mai există, deși Amazon continuă să vândă un alt produs Orbeus cunoscut sub numele de marca Rekognition. În afaceri și în aplicarea legii, este utilizat ca sistem de recunoaștere a feței.
Amazon a refuzat să dezvăluie detalii despre dacă aplicația foto Orbeus a fost utilizată pentru a antrena Rekognition, afirmând doar că preia date din diverse surse. Compania a adăugat că nu folosește datele utilizatorilor din aplicația Prime pentru a antrena sisteme de identitate.
Real Networks este o altă companie care utilizează aplicații pentru a-și antrena sistemul. Cu sediul în Seattle și cunoscut pentru playerul video din anii 90, compania este acum concentrată pe recunoașterea fețelor copiilor din școli. În același timp, compania oferă o aplicație familială numită RealTimes, despre care criticii spun că colectează date despre fețele utilizatorilor.
„Aplicația vă permite să creați prezentări video din fotografii. Imaginează-ți că mama trimite o astfel de prezentare bunicii, iar sistemul folosește aceste fotografii pentru antrenament. Sună înfiorător , spune Claire Gavry, profesor la Universitatea Georgetown, care a publicat o lucrare care a avut un impact major asupra tehnologiei de recunoaștere facială.
Rețelele reale au confirmat că aplicația era folosită pentru a îmbunătăți recunoașterea facială, dar a adăugat că au fost utilizate alte surse de informații.
În toate cazurile în care companiile au folosit date din propriile lor aplicații foto pentru a-și antrena sistemele, nu au solicitat permisiunea utilizatorului, ci au primit acordul ascuns prin acorduri de utilizator.
Dar acest lucru este deja destul de mult în comparație cu ceea ce fac alte companii. Potrivit lui Patrick Grother, care organizează competiția NIST, este bine ca companiile care colectează date faciale să scrie programe care „prind” imagini de pe site-uri precum SmugMug sau Tumblr. În aceste cazuri, nici măcar nu este asumat permisiunea utilizatorului.
Această abordare de auto-ajutor a fost evidențiată într-un raport recent al NBC News în care a descris cum IBM a descărcat peste un milion de imagini faciale de la Flickr, ca parte a unui studiu AI. (John Smith, care supraveghează tehnologiile de inteligență artificială în departamentul de cercetare IBM, a spus că „datele personale sunt protejate” și că lucrările sunt în curs cu cei care doresc să elimine informațiile personale din baza de date).
Toate acestea ridică întrebări cu privire la protecția datelor cu caracter personal de către companiile care le colectează și necesitatea controlului de stat în acest domeniu. Acest subiect se va agrava doar cu extinderea în continuare a sistemelor de recunoaștere facială în societate, precum și în mediul întreprinderilor mari și mici.
De la magazine la școli
Sistemele de recunoaștere facială nu sunt noi. Cele mai simple versiuni ale acestor programe au existat încă din anii 1980, când matematicienii americani au început să definească fețele ca o serie de valori numerice și au folosit modele probabilistice pentru a găsi potriviri. Securitatea Tampa, Florida a folosit-o la Super Bowl din 2001 și a fost folosită în cazinouri de ani buni. Dar mulți s-au schimbat în ultimii ani.
„Sistemul de recunoaștere a feței trece printr-o revoluție”, spune Patrick Grother, adăugând că schimbarea se remarcă cel mai mult în calitatea crescândă a imaginilor. „Tehnologia de bază s-a schimbat. Evoluțiile vechi au fost înlocuite cu sisteme noi, mult mai eficiente."
Revoluția recunoașterii feței a fost determinată de doi factori care s-au schimbat mult și au extins domeniul de aplicare al tehnologiei inteligenței artificiale. Primul este apariția învățării profunde, un sistem de recunoaștere a modelului care seamănă în principiu cu creierul uman. Al doilea este un surplus record de date care pot fi stocate și analizate la costuri scăzute, folosind cloud computing.
Nu este surprinzător, primele companii care au profitat din plin de aceste evoluții au fost Google și Facebook. În 2014, acesta din urmă a lansat un program numit DeepFace, care poate determina cu o acuratețe de 97,24% că două fețe aparțin aceleiași persoane - un rezultat similar este demonstrat de oameni la un astfel de test. Un an mai târziu, Google, cu programul său FaceNet, a obținut o precizie de 100% (conform firmei de securitate Gemalto).
Astăzi, mulțumită în mare parte pentru accesul la baze de date mari de date faciale, acești și alți giganti tehnologici (cum ar fi Microsoft) sunt cei care conduc calea recunoașterii faciale. Dar tot mai multe start-up-uri arată rezultate ridicate, străduindu-se, de asemenea, să își ocupe nișa pe piața în creștere a programelor de identificare facială.
Există mai mult de o duzină de astfel de companii numai în Statele Unite, inclusiv Kairos și FaceFirst. Potrivit cercetătorilor de piață de la PitchBook, Silicon Valley câștigă rapid tracțiunea în sector, cu investiții semnificative în ultimii ani. PitchBook estimează investiția totală din ultimii trei ani la 78,7 milioane USD. Acestea nu sunt cifre fantastice conform standardelor Valley, dar reflectă încrederea capitalistilor de risc că câteva start-up-uri vor crește în curând în companii mari.
Activitatea capitalului de risc în industria de recunoaștere a feței din Statele Unite.
Noi modele de afaceri axate pe recunoașterea feței sunt încă în curs de dezvoltare. Acest lucru este vizibil mai ales în software-ul pentru întreprinderi autorizat. Potrivit Crunchbase, veniturile anuale pentru companii precum Ever AI și FaceFirst sunt modeste, variind de la 2 milioane USD la 8 milioane USD. Amazon și alți giganți tehnologici nu dezvăluie astfel de cifre.
Pentru o lungă perioadă de timp, cei mai interesați utilizatori ai sistemelor de recunoaștere a feței au fost agențiile de aplicare a legii. Dar acum multe companii, inclusiv WalMart, folosesc astfel de programe pentru a obține mai multe informații despre cumpărătorii din magazinele lor.
De exemplu, FaceFirst, din California, își oferă sistemele către sute de comercianți, inclusiv magazine second-hand și farmacii. Potrivit directorului general al companiei, mulți clienți folosesc tehnologia pentru a detecta furtul, dar un număr tot mai mare dintre cei care încearcă să o folosească în alte scopuri, inclusiv găsirea clienților VIP și identificarea angajaților.
Pentru o lungă perioadă de timp, cei mai interesați utilizatori ai sistemelor de recunoaștere a feței au fost agențiile de aplicare a legii.
Se pare că Amazon caută, de asemenea, într-o gamă largă de activități pentru oportunități de aplicare a sistemelor de recunoaștere a feței. Pe lângă lucrările cu secțiile de poliție, gigantul de retail ajută hotelurile să accelereze procesele de check-in, potrivit mai multor surse.
„Companii din întreaga lume vin pe Amazon și spun:„ Aceasta este exact ceea ce vrem să facem”. Și înțelegeți că este o zonă minunată. Toată lumea este interesată de asta”, spune o sursă anonimă care s-a alăturat Amazon atunci când a achiziționat Orbeus, o companie de recunoaștere facială.
Pentru Amazon, această activitate nu a fost fără consecințe controversate. În iulie trecută, Uniunea Americană pentru Libertăți Civile (ACLU) a testat sistemele companiei comparând fețele tuturor membrilor Congresului cu o bază de date a infractorilor. Testul a arătat 28 de meciuri false, cu majoritatea erorilor datorate culorii pielii participanților la experiment. Drept urmare, Uniunea a solicitat interzicerea utilizării sistemului de recunoaștere a feței în agențiile de aplicare a legii. Cu toate acestea, Amazon a insistat să vândă sistemului polițiștilor și serviciilor de imigrare și executare vamală din SUA.
Apoi, unii membri ai Congresului, inclusiv reprezentantul Jerrold Nadler și senatorul Ron Weeden, au solicitat Biroului de Audit să investigheze utilizarea programelor de recunoaștere facială. Companiile principale sunt, de asemenea, preocupate de aceste sisteme. În special, președintele Microsoft, Brad Smith, a cerut în decembrie reglementarea unor astfel de tehnologii la nivel de stat.
Însă, pe măsură ce preocupările cresc, utilizarea sistemelor de recunoaștere facială se extinde doar pe măsură ce companiile găsesc tot mai multe utilizări pentru acestea. De exemplu, Real Networks, un dezvoltator de aplicații de fotografie de familie, oferă software-ul școlilor din toată țara gratuit. Compania vorbește despre clienții săi de sute de școli. Într-un interviu acordat revistei Wired, CEO-ul Real Networks, Rob Glaser, a declarat că a lansat proiectul ca o soluție imparțială la litigiile privind siguranța școlii și controlul armelor. Site-ul companiei poziționează în prezent acest produs ca o tehnologie care permite organizatorilor de evenimente să „recunoască fiecare fan, client, angajat sau invitat”, chiar dacă chipul lor este ascuns.
Tehnologia unică recunoaște fețele chiar și în colorarea sau machiajul intensiv. Sistemul distinge și identifică fețele într-o varietate de condiții de iluminare.
Real Networks nu este singura companie care vizează piața copiilor. O startup cu sediul în Texas, numită Waldo, oferă tehnologie similară sutelor de școli, precum și ligi sportive pentru copii și tabere de vară. În practică, acest lucru implică utilizarea unor astfel de sisteme pentru scanarea imaginilor realizate de camerele video sau de fotografi oficiali și potrivirea suplimentară a fețelor copiilor cu o bază de date cu imagini oferite de părinți. Părinții pot refuza oricând să participe.
Potrivit CEO-ului Waldo, Rodney Rice, școlile iau zeci de mii de fotografii în fiecare an, iar puține dintre ele ajung în albume anuale. Recunoașterea feței, a spus el, este un mod eficient de a răspândi rămășițele către cei care au nevoie de ele.
„Pentru prețul floricelelor sau al hârtiei brune, puteți comanda aceste fotografii pentru bunicii copiilor dvs.”, spune Rice, explicând că Waldo a încheiat un acord de distribuire a veniturilor cu școlile publice. În prezent, serviciile companiei sunt utilizate în peste 30 de state ale Statelor Unite.
Creșterea lui Waldo și FaceFirst arată modul în care afacerile normalizează recunoașterea facială care părea să fie science fiction până de curând. Și odată cu proliferarea unor astfel de tehnologii, mai multe companii vor colecta fotografii ale fețelor tale - fie pentru a instrui algoritmi, fie pentru a găsi clienți și criminali - chiar dacă riscul de eroare și abuz crește doar.
Viitorul feței tale
În 2017, a fost lansat un episod din serialul de televiziune tehno-distopic Black Mirror, în care o mamă agitată se îngrijorează de un tânăr nechibzuit care petrece timp cu fiica ei. Pentru a afla cine este, ea încarcă o fotografie cu el la un serviciu de identificare a consumatorilor. Programul își arată rapid numele și locul de muncă, iar femeia merge să se ocupe de el.
Scenariul cândva fictiv pare acum destul de real. În timp ce majoritatea preocupărilor cu privire la recunoașterea facială s-au concentrat pe utilizarea acestei tehnologii în organizațiile guvernamentale, utilizarea acesteia în rândul companiilor comerciale și chiar a persoanelor (în stilul „Oglindă Neagră”) prezintă riscuri evidente pentru datele personale.
Pe măsură ce mai multe companii încep să vândă sisteme de recunoaștere facială, iar fețele noastre se termină în mai multe baze de date, software-ul ar putea câștiga popularitate în rândul jurnaliștilor și al utilizatorilor. Comercianții cu amănuntul și proprietarii pot folosi pentru a identifica clienții și chiriașii nedoritori pentru a refuza în mod liniștit locuințele și serviciile.
„Oricine are o cameră video într-o zonă dens populată poate începe să colecteze baze de date de imagini și apoi să folosească acest software analitic pentru a vedea dacă imaginile pe care le captează se potrivesc cu datele dvs.”, spune Jay Stanley, analist la ACLU.
Există, de asemenea, riscul de atacuri de hackeri. Andrei Barisevich, din Gemini Advisors, o firmă de cibersecuritate, spune că a văzut profiluri de vânzare pe site-urile de tip darknet furate din baza de date națională biometrică din India. Nu a observat astfel de informații despre americani, dar a adăugat: „Este doar o chestiune de timp”. Scurgerea datelor clienților de la un hotel sau magazin poate ajuta infractorii să comită fraudă sau furt de identitate.
Întrucât tehnologia este distribuită fără prea mult control guvernamental, responsabilitatea limitării utilizării sale greșite revine numai furnizorilor de software. Într-un interviu pentru Fortune, directorii generali ai startup-urilor de recunoaștere facială au spus că sunt pregătiți pentru astfel de amenințări. Unii, inclusiv CEO-ul FaceFirst, au descris răspândirea unor astfel de sisteme în China ca fiind periculoasă.
De asemenea, liderii au sugerat două abordări pentru reducerea abuzului. Prima este să lucrați îndeaproape cu cumpărătorii software-ului pentru a vă asigura că acesta este utilizat corect. De exemplu, Ever AI, Doug Eli, spune că compania sa are un standard mai ridicat decât Amazon, care susține că oferă instrumentul său de reîncărcare pentru aproape oricine.
Ca răspuns la o întrebare despre controlul abuzurilor, Amazon a furnizat o declarație lansată anterior de Matt Wood, care conduce informații artificiale la Amazon Web Services. Wood subliniază că este politica companiei care interzice activitățile dăunătoare și ilegale.
O altă posibilă garanție a siguranței datelor este utilizarea unor măsuri tehnice pentru a asigura imposibilitatea de a pirata bazele de date cu date „frontale”.
Rodney Rice, CEO Waldo, spune că fețele sunt stocate ca hașe alfanumerice. Aceasta înseamnă că, chiar și în cazul unei scurgeri de date, confidențialitatea nu va fi compromisă, întrucât un hacker nu poate decripta hash-urile și le poate folosi. Acest punct de vedere a fost susținut de alții.
Rice se teme că definiția legislativă a regulilor de utilizare a tehnologiilor „faciale” ar putea face mai mult rău decât bine. „Lăsând un copil să-și dea seama și să creeze reguli este ridicol”, spune el.
Între timp, unele companii de software de recunoaștere facială adoptă tehnici noi care pot reduce nevoia de date mari pentru instruire. Acesta este cazul, de exemplu, cu Kairos, un start-end startup din Miami care, printre altele, funcționează cu o gamă largă de hoteluri. Potrivit lui Stephen Moore, șeful securității companiei, Kairos creează fețe „sintetice” pentru a simula o gamă largă de emoții și iluminare. Astfel de "fețe artificiale" reduc utilizarea datelor faciale din lumea reală atunci când creează produse tehnologice.
Toate aceste măsuri - supravegherea utilizatorilor de sistem, protecție puternică a datelor și instrumente sintetice de învățare - pot atenua unele dintre problemele de confidențialitate asociate cu utilizarea afacerilor fețelor noastre. În același timp, Trepp FaceFirst consideră că anxietatea va scădea odată cu o privire mai atentă asupra sistemului. El susține chiar că scenele de recunoaștere facială din filmul de știință Minority Report din 2002 vor începe să se simtă normal.
„Milenarii sunt mult mai dispuși să comunice informații. Această lume [din Minority Report] este din ce în ce mai aproape de a noastră”, spune el. - Dacă faci totul bine, atunci cred că oamenilor le va plăcea și va fi o experiență pozitivă. Nu va fi atât de înfricoșător."
Altele, inclusiv ACLU, sunt mai puțin optimiste. Cu toate acestea, în ciuda discuțiilor în creștere din jurul tehnologiei, nu există practic nimic în acest moment care să limiteze utilizarea feței tale. Singurele excepții sunt în trei state - Illinois, Texas și Washington DC - care necesită un anumit grad de consimțământ înainte de a folosi chipul altcuiva. Aceste legi nu sunt utilizate cu adevărat în practică decât în Illinois, unde consumatorii pot întreprinde acțiuni legale pentru aplicarea acestui drept.
Legea din Illinois este în prezent obiectul unui proces de apel cu profil înalt care implică Facebook, care susține că accesul la crawling-ul digital nu este supus restricțiilor privind obținerea fețelor. În 2017, Facebook și Google au lansat o campanie de lobby fără succes pentru a-i convinge pe parlamentarii din Illinois să înmoaie legea. La sfârșitul lunii ianuarie, susținătorii legii au fost susținuți de Curtea Supremă din Illinois, când a decis că consumatorii pot acționa în judecată utilizarea neautorizată a biometriei lor, chiar dacă nu s-a făcut un rău real.
Alte state permit, de asemenea, posibilitatea adoptării propriilor legi cu privire la biometrie. La nivel federal, legiuitorii au acordat până în prezent puține atenții. Acest lucru s-ar putea schimba, însă, întrucât senatorii Brian Schatz și Roy Blount au introdus în această lună legislație care ar impune companiilor să obțină permisiunea înainte de a utiliza recunoașterea facială în locuri publice sau de a împărtăși datele faciale cu orice terță parte.
Claire Garvey, cercetător în Georgetown, susține legi pentru controlul acestor sisteme. Dar ea spune că parlamentarii au avut greutăți să țină pasul cu tehnologia.
„Una dintre provocările recunoașterii feței este adoptarea lor incredibil de rapidă, datorită bazelor de date existente. Fațetele noastre s-au luminat mult”, spune ea. „Spre deosebire de amprentele digitale, care au avut reguli de colectare a datelor, nu există încă o reglementare pentru tehnologiile de recunoaștere facială.
De Jeff John Roberts
Tradus de: Ekaterina Egina
Editat de: Sergey Razumov
