Tehnična podjetja so tiho preučila vaše fotografije, da bi izboljšala svoje sisteme prepoznavanja obraza. In tukaj je, kako so to storili.
Prepoznavanje obraza je močna tehnologija, ki resno ogroža državljanske svoboščine. To je tudi uspešen posel. Danes številni zagonski in tehnološki velikani prodajajo sisteme prepoznavanja obrazov hotelom, trgovcem na drobno in celo šolam ter poletnim kampom. To podjetje je v razcvetu, zahvaljujoč novim algoritmom, ki lahko prepoznajo ljudi s precej večjo natančnostjo kot pred petimi leti. Za izboljšanje svojih algoritmov so bili usposobljeni na milijardah obrazov, včasih brez dovoljenja nikogar. Zato obstaja velika verjetnost, da je vaš obraz del "kompleta za usposabljanje" v enem od teh sistemov ali pa je v zbirki podatkov kupcev nekega podjetja.
Načini zbiranja informacij, ki jih uporabljajo podjetja, lahko potrošnike presenetijo. Tako so na primer podjetja v vsaj treh primerih prek aplikacij za pametne telefone prejela milijone slik. Zdaj je sistem prepoznavanja obrazov slabo urejen, zato ljudje skoraj nimajo možnosti omejiti uporabe svojih obrazov v komercialne namene.
Leta 2018 je kamera prepoznala obraze potnikov, ki hitijo po letalu v bližini Washingtona v Columbiji. Toda letalo in potniki so bili del simulacije, ki jo je ustvaril Nacionalni inštitut za standarde in tehnologijo (NIST), da bi prikazali, kako se lahko zbirajo podatki "na terenu". Obrazi, uporabljeni v tem poskusu, bodo del tekmovanja NIST, v katerem podjetja z vsega sveta preizkušajo svoje sisteme prepoznavanja obrazov.
Pri simulaciji razmer na letalu so se prostovoljci strinjali z uporabo svojih obrazov. Tako je bilo v zgodnjih fazah sistemov prepoznavanja obraza - raziskovalci so poskušali dosledno vključevati ljudi v svoje sklope. Zdaj se posel verjetno ne bo motil in prosil za dovoljenje.
Po podatkih Future Research Market, podjetja (vključno z vodilnima, kot sta Face ++ in Kairos), želijo postati številka 1 v industriji, ki letno raste za 20% in do leta 2022 doseže 9 milijard dolarjev. Poslovni model teh igralcev temelji na licenčni programski opremi za vse večje število strank - od organov kazenskega pregona do univerz - ki jih uporabljajo pri svojem razvoju.
Na tekmovanju so zmagovalci tisti izdelki, katerih algoritmi lahko zaznajo obraze natančno in brez napak. Kot pri vseh umetnih inteligencah tudi pri gradnji sistema prepoznavanja obrazov gre za nabiranje velike količine podatkov za trening. Medtem ko podjetja lahko uporabljajo vladne in univerzitetno odobrene podatke (kot je Yale Facial Database), so ti kompleti za usposabljanje dovolj majhni, da ne vsebujejo več kot nekaj tisoč obrazov.
Promocijski video:
Ti uradni kompleti imajo tudi druge pomanjkljivosti. Mnogim manjka rasne raznolikosti in različni pogoji - sence, klobuki, kozmetika - ki spreminjajo percepcijo človeka v resničnem svetu. Naravni sistem prepoznavanja obrazov zahteva več slik. Veliko več.
"Sto ni dovolj, tisoč ni dovolj. Potrebujemo milijone slik. Če ne usposobite sistema, da prepozna ljudi z očali in različnimi barvami kože, ne boste dosegli dobrih rezultatov, "pravi Peter Trepp, direktor FaceFirst-a, kalifornijskega podjetja, ki trgovcem pomaga prepoznati kriminalce v njihovih trgovinah.
Vloga za to
le. Zlasti je aplikacija prisilila, da je pošiljala sponzorirane povezave do vseh stikov z uporabniki, taktiko, ki je v Silicijski dolini znana kot "hekerska rast". Uporabniki so se pritožili tudi zaradi kraje podatkov.
"Takoj po namestitvi aplikacija zbere vse telefone s seznama stikov in jih začne pošiljati besedila … In nato naloži vse vaše fotografije in jih kopira v oblak," je v pregledu 2015 na Facebooku zapisal Greg Miller, lastnik fotografskega studia v Teksasu.
Štiri leta pozneje je Miller zgrožen ugotovil, da so njegove fotografije še vedno shranjene v podjetju EverRoll, zdaj pa podjetje s sistemom prepoznavanja obraza.
"Ne, nisem vedel zanj in se s tem popolnoma ne strinjam," se je Miller pošalil Fortune. »Ta vrsta nadzora je resnična težava. Zaupnosti ni več in to me zelo prestraši."
Doug Ely, izvršni direktor Ever AI, trdi, da podjetje nikjer ne prenaša informacij iz svoje baze podatkov, fotografije pa se uporabljajo samo za treniranje sistema. Dodal je še, da je podjetje naklonjeno družabnemu omrežju, ki ga je mogoče kadar koli opustiti. Eli je zanikal, da bi Ever AI že od vsega začetka želel postati podjetje za prepoznavanje obrazov, in zatrdil, da je zaustavitev aplikacije odločitev o upravljanju. Odjemalci, ki jih je kdaj uporabljal AI, uporabljajo njegove podatke za svoje namene, vključno z upravljanjem sistemov za identifikacijo zaposlenih, maloprodajo, pa tudi telekomunikacijami in kazenskim pregonom.
Ever AI ni edino podjetje za prepoznavanje obrazov, ki je nekoč ponujalo aplikacijo za fotografiranje. Orbeus, zagon podjetja iz San Francisca, ki ga je Amazon kupil leta 2016 (ki ni bil napovedan), je ponudil tudi priljubljeno shrambo PhotoTime.
Po besedah nekdanjega Orbeusovega uslužbenca je zagon startupa na Amazon ležal v njegovih tehnologijah umetne inteligence in v velikem številu fotografij ljudi na javnih mestih.
»Amazon je iskal take priložnosti. Kupili so vse in nato zaprli aplikacijo, «pravi zaposleni, ki je želel ostati anonimen in navaja sporazum o nerazkrivanju podatkov.
PhotoTime ne obstaja več, čeprav Amazon še naprej prodaja še en Orbeusov izdelek, znan kot blagovna znamka Rekogservation. V podjetjih in kazenskem pregonu se uporablja kot sistem prepoznavanja obrazov.
Amazon ni želel razkriti podrobnosti o tem, ali je bila fotografija programa Orbeus uporabljena za treniranje ponovnega vžiga, pri čemer je navedla le, da je dobivala podatke iz različnih virov. Družba je dodala, da uporabniških podatkov iz aplikacije Prime ne uporablja za usposabljanje identitetnih sistemov.
Real Networks je drugo podjetje, ki uporablja aplikacije za usposabljanje svojega sistema. Podjetje s sedežem v Seattlu in nekoč znano po svojem video predvajalniku iz 90. let 20. stoletja se zdaj osredotoča na prepoznavanje obrazov otrok v šolah. Hkrati podjetje ponuja družinsko aplikacijo RealTimes, za katero kritiki pravijo, da zbira podatke o obrazih uporabnikov.
„Aplikacija omogoča ustvarjanje video predstavitev iz fotografij. Predstavljajte si, da mama takšno predstavitev pošlje babici, sistem pa te fotografije uporabi za trening. Sliši se grozljivo, pravi Claire Gavry, profesorica na univerzi Georgetown, ki je objavila prispevek, ki je močno vplival na tehnologijo prepoznavanja obraza.
Real Networks je potrdil, da aplikacijo uporabljajo za izboljšanje prepoznavnosti obraza, vendar so dodali, da se uporabljajo tudi drugi viri informacij.
V vseh primerih, ko so podjetja uporabila podatke iz svojih lastnih aplikacij za fotografije za usposabljanje svojih sistemov, niso zaprosili za uporabniško dovoljenje, temveč so z uporabniškimi pogodbami prejeli skrito privolitev.
A to je že precej v primerjavi s tistimi, ki jih počnejo druga podjetja. Po besedah Patricka Grotherja, ki vodi tekmovanje NIST, je v redu, da podjetja, ki zbirajo podatke o obrazu, pišejo programe, ki "zgrabijo" slike s spletnih mest, kot sta SmugMug ali Tumblr. V teh primerih uporabniškega dovoljenja niti ne domnevamo.
Ta pristop za samopomoč je bil poudarjen v nedavnem poročilu NBC News, v katerem je podrobno opisano, kako je IBM v okviru študije AI prenesel več kot milijon slik obraza s Flickr-ja. (John Smith, ki v IBM-ovem raziskovalnem oddelku nadzira tehnologije umetne inteligence, je dejal, da so "osebni podatki zaščiteni" in da poteka delo s tistimi, ki želijo odstraniti osebne podatke iz baze podatkov).
Vse to sproža vprašanja glede varstva osebnih podatkov s strani podjetij, ki jih zbirajo, in potrebe po državnem nadzoru na tem področju. Ta tema bo postala resnejša samo z nadaljnjim širjenjem sistemov prepoznavanja obraza v družbi, pa tudi v okolju velikih in malih podjetij.
Od trgovin do šol
Sistemi za prepoznavanje obraza niso novost. Najpreprostejše različice takšnih programov obstajajo že od osemdesetih let prejšnjega stoletja, ko so ameriški matematiki začeli definirati obraze kot vrsto številskih vrednosti in za iskanje ujemanj uporabljali verjetnostne modele. Tampa na Floridi je varnost uporabljala na Super Bowlu leta 2001, v igralnicah pa ga uporabljajo že leta. A v zadnjih nekaj letih se je marsikaj spremenilo.
"Sistem prepoznavanja obrazov doživlja nekaj podobnega revoluciji," pravi Patrick Grother in doda, da je sprememba najbolj opazna pri vse večji kakovosti slik. "Osnovna tehnologija se je spremenila. Stara dogajanja so nadomestili novi, veliko bolj učinkoviti sistemi."
Revolucijo prepoznavanja obrazov sta vodila dva dejavnika, ki sta močno spremenila in razširila področje tehnologije umetne inteligence. Prva je pojav globokega učenja, sistema prepoznavanja vzorcev, ki načeloma spominja na človeške možgane. Drugi je rekorden presežek podatkov, ki jih je mogoče shraniti in analizirati z nizkimi stroški z uporabo računalništva v oblaku.
Ni presenetljivo, da sta prvi podjetji, ki sta v celoti izkoristili to dogajanje, Google in Facebook. Leta 2014 je slednji izdal program, imenovan DeepFace, s katerim lahko z natančnostjo 97,24% ugotovimo, da dva obraza pripadata isti osebi - ljudje pri takšnem testu pokažejo podoben rezultat. Leto pozneje je Google s svojim programom FaceNet dosegel 100-odstotno natančnost (po podatkih varnostnega podjetja Gemalto).
Danes so ti in drugi tehnološki velikani (kot Microsoft) v veliki meri zahvaljujoč dostopu do velikih baz podatkov o obrazu vodilni pri prepoznavnosti obraza. Toda vse več start-up kaže visoke rezultate, prav tako si prizadevajo zasedati svojo nišo na rastočem trgu programov za identifikacijo obraza.
Samo v ZDA je več kot ducat takšnih podjetij, med njimi tudi Kairos in FaceFirst. Kot trdijo tržni raziskovalci iz PitchBook-a, Silicijeva dolina hitro pridobiva oprijem v tem sektorju, v zadnjih nekaj letih pa znatne naložbe. PitchBook ocenjuje, da je skupna naložba v zadnjih treh letih znašala 78,7 milijona dolarjev. To po standardih Valley ni fantastično, vendar odražajo zaupanje tveganih kapitalistov, da bodo številni start-up start-up kmalu prerasli v velika podjetja.
Dejavnost tveganega kapitala v industriji prepoznavanja obrazov v Združenih državah Amerike.
Še vedno se pojavljajo novi poslovni modeli, osredotočeni na prepoznavanje obrazov. To je še posebej opazno pri licenčni programski opremi za podjetja. Glede na Crunchbase so letni prihodki za podjetja, kot sta Ever AI in FaceFirst, skromni in se gibljejo od 2 do 8 milijonov dolarjev, Amazon in drugi tehnološki velikani pa takih številk ne razkrivajo.
Dolgo časa so bili najbolj zainteresirani uporabniki sistemov prepoznavanja obrazov organi pregona. Toda zdaj mnoga podjetja, tudi WalMart, uporabljajo takšne programe, da dobijo več informacij o kupcih v svojih trgovinah.
Na primer, kalifornijska družba FaceFirst ponuja svoje sisteme za stotine trgovcev na drobno, vključno z rabljenimi trgovinami in lekarnami. Po besedah izvršnega direktorja podjetja veliko strank uporablja tehnologijo za odkrivanje tatvin, vendar je vse več tistih, ki jih poskušajo uporabiti v druge namene, vključno z iskanjem VIP strank in identifikacijo zaposlenih.
Dolgo časa so bili najbolj zainteresirani uporabniki sistemov prepoznavanja obrazov organi pregona.
Zdi se, da Amazon tudi v številnih svojih dejavnostih išče možnosti za uporabo sistemov prepoznavanja obrazov. Poleg sodelovanja s policijskimi postajami maloprodajni velikan hotelom pomaga, da glede na različne vire pospešijo postopke prijave.
"Podjetja z vsega sveta prihajajo v Amazon in pravijo:" To je točno tisto, kar želimo storiti. " In razumete, da je to čudovito območje. Vsi ga zanimajo, «pravi anonimni vir, ki se je Amazonu pridružil pri nakupu Orbeusa, podjetja za prepoznavanje obrazov.
Za Amazon ta dejavnost ni bila brez spornih posledic. Ameriška zveza civilnih svoboščin (ACLU) je julija lani testirala sisteme družbe, tako da je primerjala obraze vseh članov Kongresa z bazo podatkov o kriminalcih. Test je pokazal 28 lažnih ujemanj, največ napak zaradi barve kože udeležencev eksperimenta. Zato je Unija pozvala k prepovedi uporabe sistema prepoznavanja obrazov v organih pregona. Vendar je Amazon vztrajal pri prodaji sistema policistom in ameriškim priseljevanjem in carinskim izvrševanjem.
Nato so nekateri člani kongresa, vključno s poslancem Jerroldom Nadlerjem in senatorjem Ronom Weedenom, od revizijskega urada zaprosili, naj razišče uporabo programske opreme za prepoznavanje obraza. Vodilne družbe so prav tako zaskrbljene zaradi teh sistemov. Predsednik Microsofta Brad Smith je decembra zlasti pozval k ureditvi takšnih tehnologij na državni ravni.
A čeprav se zaskrbljenost povečuje, se uporaba sistemov za prepoznavanje obraza le širi, saj podjetja zanje vse več uporabljajo. Na primer, Real Networks, razvijalec programov za družinsko fotografiranje, brezplačno ponuja svojo programsko opremo za šole po vsej državi. Podjetje govori o več sto šolah kot svojih strankah. V intervjuju za revijo Wired, izvršni direktor Real Networks Rob Glaser je dejal, da je projekt sprožil kot nepristransko rešitev sporov glede varnosti v šoli in nadzora pištole. Na spletnem mestu podjetja je ta izdelek pozicioniran kot tehnologija, ki organizatorjem dogodkov omogoča, da "prepoznajo vsakega oboževalca, kupca, zaposlenega ali gosta", tudi če je njihov obraz skrit.
Edinstvena tehnologija prepozna obraze tudi pri barvanju ali intenzivnem ličenju. Sistem razlikuje in prepoznava obraze v različnih svetlobnih pogojih.
Real Networks ni edino podjetje, ki je namenjeno otroškemu trgu. Teksaški zagon, imenovan Waldo, ponuja podobno tehnologijo na stotine šol, pa tudi otroških športnih lig in poletnih kampov. V praksi to pomeni uporabo takšnih sistemov za skeniranje slik, posnetih z video kamerami ali uradnimi fotografi, ter nadaljnje usklajevanje otroških obrazov s bazo slik, ki jih priskrbijo starši. Starši lahko vedno zavrnejo sodelovanje.
Po besedah izvršnega direktorja Walda Rodneyja Ricea šole vsako leto posnamejo na desetine tisoč fotografij in le malo jih je na koncu v letnih albumih. Prepoznavanje obrazov je, je dejal, učinkovit način za širjenje ostankov tistim, ki jih potrebujejo.
"Za ceno kokic ali rjavega papirja lahko te fotografije naročite za stare starše svojih otrok," pravi Rice in pojasnjuje, da ima Waldo sporazum o delitvi dohodka z javnimi šolami. Trenutno se storitve družbe uporabljajo v več kot 30 zveznih državah ZDA.
Vzpon Waldo in FaceFirst kaže, kako podjetja normalizirajo prepoznavanje obraza, ki se je do nedavnega zdelo kot znanstvena fantastika. In s širjenjem takšnih tehnologij bo več podjetij zbiralo fotografije vaših obrazov - bodisi za usposabljanje algoritmov bodisi za iskanje strank in kriminalcev - tudi če tveganje za napake in zlorabe le narašča.
Prihodnost vašega obraza
Leta 2017 je izšla epizoda tehno-distopijske TV-serije Črno ogledalo, v kateri razburjena mati skrbi za nepremišljenega mladeniča, ki preživi čas s hčerko. Da bi ugotovila, kdo je, mu naloži fotografijo v službo za identifikacijo potrošnikov. Program hitro pokaže njegovo ime in kraj dela, ženska pa se gre ukvarjati z njim.
Nekoč izmišljeni scenarij se zdaj zdi čisto realen. Medtem ko se večina skrbi glede prepoznavanja obraza osredotoča na uporabo te tehnologije v vladnih organizacijah, njena uporaba med komercialnimi podjetji in celo posamezniki (v slogu "Črnega ogledala") predstavlja očitna tveganja za osebne podatke.
Ko več podjetij začne prodajati sisteme za prepoznavanje obraza in se naši obrazi zatekajo v več baz podatkov, bi programska oprema lahko pridobila na popularnosti med voajerji in zalezovalci. Prodajalci in najemodajalci ga lahko uporabijo za prepoznavanje nezaželenih strank in najemnikov, da tiho zanikajo stanovanje in storitve.
"Vsakdo, ki ima videokamero v gosto poseljenem območju, lahko začne zbirati podatkovne baze in nato s to analitično programsko opremo preveri, ali se slike, ki jih zajemajo, ujemajo z vašimi podatki," pravi Jay Stanley, analitik na ACLU.
Obstaja tudi nevarnost hekerskih napadov. Andrei Barisevich iz podjetja za spletno varnost Gemini Advisors pravi, da je videl profile za prodajo na spletnih straneh darkneta, ukradenih iz indijske nacionalne biometrične baze podatkov. Takšnih informacij o Američanih ni opazil, dodal pa je: "Le vprašanje časa je." Spuščanje podatkov o strankah iz hotela ali trgovine lahko kriminalistom pomaga storiti goljufijo ali krajo identitete.
Ker se tehnologija distribuira brez večjega vladnega nadzora, so za omejevanje njene zlorabe odgovorni izključno proizvajalci programske opreme. V intervjuju za Fortune so generalni direktorji startupov za prepoznavanje obrazov dejali, da so pripravljeni na tovrstne grožnje. Nekateri, vključno s izvršnim direktorjem FaceFirst-a, so širjenje takšnih sistemov na Kitajskem označili za nevarno.
Voditelji so predlagali tudi dva pristopa k omejevanju zlorab. Prvi je tesno sodelovanje s kupci programske opreme, da se zagotovi njena pravilna uporaba. Na primer, Doug Eli iz Ever AI pravi, da ima njegovo podjetje višji standard kot Amazon, za katerega trdi, da je njegovo orodje za ponovno zajetje skoraj vsem.
Kot odgovor na vprašanje o nadzoru zlorabe je Amazon podal predhodno izjavo Matt Wood-a, ki vodi umetno inteligenco pri Amazon Web Services. Wood poudarja, da politika podjetja prepoveduje škodljive in nezakonite dejavnosti.
Drugo možno jamstvo varnosti podatkov je uporaba tehničnih ukrepov za zagotovitev nemogoče vdora v baze podatkov "sprednjih" podatkov.
Rodney Rice, izvršni direktor Walda, pravi, da so obrazi shranjeni kot alfanumerične šipe. To pomeni, da tudi v primeru puščanja podatkov zaupnost ne bo ogrožena, saj heker ne bo mogel dešifrirati heš in jih uporabljati. To stališče so podprli tudi drugi.
Rice se boji, da bi zakonodajna opredelitev pravil za uporabo "obraznih" tehnologij lahko naredila več škode kot koristi. "Pustiti otroku, da to dojame in oblikuje pravila, je smešno," pravi.
Medtem nekatera podjetja za programsko opremo za prepoznavanje obrazov sprejemajo nove tehnike, ki lahko zmanjšajo potrebo po velikih podatkih za usposabljanje. Tako je na primer s Kairosom, vrhunskim startupom iz Miamija, ki med drugim sodeluje s široko ponudbo hotelov. Po besedah Stephena Moora, vodje za varnost v podjetju, Kairos ustvarja "sintetične" obraze, ki simulirajo široko paleto čustev in osvetlitve. Takšni "umetni obrazi" zmanjšujejo uporabo obraznih podatkov iz resničnega sveta pri ustvarjanju tehnoloških izdelkov.
Vsi ti ukrepi - nadzor nad uporabniki sistema, močno varovanje podatkov in sintetična učna orodja - lahko ublažijo nekatere težave glede zasebnosti, povezane s poslovno uporabo naših obrazov. Trepp FacePrita obenem meni, da se bo tesnoba zmanjšala s podrobnejšim pogledom na sistem. Trdi celo, da se bodo prizori prepoznavanja obrazov iz znanstveno-fantastičnega filma iz leta 2002 Minority Report začeli počutiti normalno.
»Milenijci so veliko bolj pripravljeni na izmenjavo informacij. Ta svet [iz poročila o manjšini] je vse bližje našemu, «pravi. - Če naredite vse pravilno, potem mislim, da bo ljudem všeč in bo to pozitivna izkušnja. Ne bo tako strašljivo."
Drugi, vključno z ACLU, so manj optimistični. Kljub vse večji razpravi o tehnologiji pa na tem mestu praktično nič ne omejuje uporabe vašega obraza. Edine izjeme so v treh zveznih državah - Illinois, Teksas in Washington DC -, ki zahtevajo določeno stopnjo soglasja, preden uporabljajo obraz nekoga drugega. Ti zakoni se v praksi ne uporabljajo, razen v Illinoisu, kjer lahko potrošniki pravno ukrepajo za uveljavitev te pravice.
Zakon o Illinoisu je trenutno predmet obsežnega pritožbenega sojenja, ki vključuje Facebook, ki trdi, da digitalno pajkanje ni predmet omejitev pri pridobivanju obrazov. Leta 2017 sta Facebook in Google sprožila neuspešno lobistično kampanjo, da bi prepričala zakonodajalce v Illinoisu, naj zakon omilijo. Konec januarja je zagovornike zakona podprlo vrhovno sodišče v Illinoisu, ko je razsodilo, da lahko potrošniki tožijo zaradi nepooblaščene uporabe njihovih biometričnih podatkov, tudi če resnična škoda ni bila storjena.
Druge države dopuščajo tudi možnost sprejemanja lastnih zakonov o biometriji. Na zvezni ravni so zakonodajalci doslej temu posvečali malo pozornosti. To pa bi se lahko spremenilo, saj sta senatorja Brian Schatz in Roy Blount ta mesec uvedla zakonodajo, ki bi zahtevala, da podjetja pridobijo dovoljenje, preden uporabijo prepoznavo obraza na javnih mestih ali delijo obrazne podatke s katero koli tretjo osebo.
Claire Garvey, raziskovalka iz Georgetowna, podpira zakone za nadzor teh sistemov. A pravi, da so se zakonodajalci težko držali tehnologije.
»Eden od izzivov prepoznavanja obrazov je njihovo neverjetno hitro sprejetje, zahvaljujoč obstoječim bazam podatkov. Naši obrazi so bili veliko osvetljeni, «pravi. "Za razliko od prstnih odtisov, za katere že dolgo veljajo pravila zbiranja podatkov, še vedno ni nobenih predpisov za tehnologije prepoznavanja obrazov."
Avtor Jeff John Roberts
Prevedla: Ekaterina Egina
Uredil: Sergej Razumov