Tehnikaettevõtted on teie fotosid vaikselt uurinud, et oma näotuvastussüsteeme parendada. Ja siin on, kuidas nad seda tegid.
Näotuvastus on võimas tehnoloogia, mis ohustab tõsiselt kodanikuvabadusi. See on ka edukas äri. Tänapäeval müüvad paljud idufirmad ja tehnikahiiglased näotuvastussüsteeme hotellidele, jaemüüjatele ja isegi koolidele ning suvelaagritesse. See äri õitseb tänu uutele algoritmidele, mis suudavad inimesi tuvastada palju suurema täpsusega kui viis aastat tagasi. Nende algoritmide täiustamiseks on neid koolitatud miljardeid nägusid, mõnikord ilma kellegi loata. Seetõttu on hea, et teie nägu on mõne sellise süsteemi osa "koolituskomplektist" või mõne ettevõtte kliendibaasis.
Ettevõtete kasutatavad teabe kogumise meetodid võivad tarbijaid üllatada. Näiteks on ettevõtted vähemalt kolmel juhul saanud nutitelefonide fotorakenduste kaudu miljoneid pilte. Nüüd on näotuvastussüsteem halvasti reguleeritud, nii et inimestel pole peaaegu võimalust oma nägude kasutamist ärilistel eesmärkidel piirata.
2018. aastal tuvastas kaamera Columbias Washingtoni lähedal lennukist alla kiirustanud reisijate näod. Kuid tegelikult olid nii lennuk kui ka reisijad osa riikliku standardite ja tehnoloogia instituudi (NIST) loodud simulatsioonist, et näidata, kuidas andmeid saab koguda väljal. Selles katses kasutatud näod saavad osa NIST-i võistlusest, kus kogu maailma ettevõtted proovivad oma näotuvastussüsteeme.
Lennuki olukorra simuleerimisel nõustusid vabatahtlikud oma nägu kasutama. See oli nii näotuvastussüsteemide varases staadiumis - teadlased üritasid inimesi oma komplektidesse järjepidevalt kaasata. Nüüd ei vaeva tõenäoliselt ettevõtted ennast ega küsi luba.
Turu-uuringu tuleviku andmetel võistlevad ettevõtted (sealhulgas sellised juhid nagu Face ++ ja Kairos) populaarsuselt valdkonnas, mis kasvab igal aastal 20%, jõudes 2022. aastaks 9 miljardi dollarini. Nende mängijate ärimudel põhineb litsentseeritud tarkvaral üha suuremale hulgale klientidele - alates õiguskaitseasutustest kuni ülikoolideni -, kes kasutavad seda oma arenduses.
Konkursil võidavad need tooted, mille algoritmid suudavad nägusid täpselt ja vigadeta tuvastada. Nagu kogu tehisintellekti puhul, hõlmab ka näotuvastussüsteemi ülesehitamine treenimiseks suure hulga andmeid. Kuigi ettevõtted saavad kasutada valitsuse ja ülikooli poolt heaks kiidetud andmeid (näiteks Yale'i näoandmebaas), on need koolituskomplektid piisavalt väikesed, et sisaldada vaid paar tuhat nägu.
Reklaamvideo:
Neil ametlikel komplektidel on ka muid puudusi. Paljudel inimestel puudub rassiline mitmekesisus ja erinevad tingimused - varjud, mütsid, kosmeetika - muudavad inimese ettekujutust reaalses maailmas. Looduslik näotuvastussüsteem nõuab rohkem pilte. Palju muud.
„Sadast ei piisa, tuhandest ei piisa. Vajame miljoneid pilte. Kui te ei koolita süsteemi prillide ja erinevate nahavärvidega inimeste äratundmiseks, ei saavutata te häid tulemusi,”ütleb Peter Trepp, Californias asuva ettevõtte FaceFirst direktor, mis aitab jaemüüjatel oma kauplustes kurjategijaid tuvastada.
Taotlus selleks
le. Rakendus sundis seda saatma sponsoreeritud linke kõigile kasutajakontaktidele - see taktika on Silicon Valleys tuntud kui "kasvu häkkimine". Kasutajad kaebasid ka andmete varguse üle.
"Vahetult pärast installimist kogub rakendus kõik telefonid kontaktide loendist ja hakkab neile tekstisõnumeid saatma … Ja siis laadib see alla kõik teie fotod ja kopeerib need pilvesalvestusse," kirjutas Texase fotostuudio omanik Greg Miller 2015. aasta ülevaates Facebookis.
Neli aastat hiljem tundis Miller õudust, kui avastas, et tema fotosid hoitakse endiselt EverRollis, kuid nüüd näotuvastussüsteemiga ettevõttes.
"Ei, ma ei teadnud sellest ja ma pole sellega täiesti nõus," kurtis Miller Fortune'ile. „Selline jälgimine on tõeline probleem. Konfidentsiaalsus on kadunud ja see hirmutab mind väga."
Ever AI tegevjuht Doug Ely väidab, et ettevõte ei edasta oma andmebaasist teavet kuhugi ja fotosid kasutatakse ainult süsteemi koolitamiseks. Ta lisas ka, et ettevõte sarnaneb sotsiaalvõrgustikuga, millest saab igal ajal loobuda. Eli eitas, et Ever AI kavatses algusest peale hakata näotuvastusega ettevõtteks, öeldes, et rakenduse sulgemine oli juhtimisotsus. Kunagi on AI kliendid kasutanud selle andmeid nüüd oma eesmärkidel, sealhulgas töötajate identifitseerimissüsteemide haldamiseks, jaemüügiks, telekommunikatsiooniks ja õiguskaitseks.
Kunagi AI pole ainus näotuvastusega ettevõte, kes kunagi fotograafiarakendust pakkus. Orbeus, San Franciscos asuv startup, mille Amazon ostis 2016. aastal (mida ei kuulutatud), pakkus ka populaarset PhotoTime'i salvestusruumi.
Orbeuse endise töötaja sõnul oli startupi apellatsioon Amazonile tema välja töötatud tehisintellekti ja selle tohutu hulga avalikes kohtades asuvate inimeste fotode kohta.
“Amazon otsis selliseid võimalusi. Nad ostsid kõik ära ja sulgesid seejärel rakenduse,”räägib anonüümseks jääda soovinud töötaja, viidates mitteavaldamise kokkuleppele.
PhotoTime enam ei eksisteeri, ehkki Amazon jätkab teise Orbeuse toote, mida tuntakse kaubamärgina Rekognition, müüki. Ettevõtluses ja õiguskaitses kasutatakse seda näotuvastussüsteemina.
Amazon keeldus avaldamast üksikasju selle kohta, kas fotorakendust Orbeus kasutati Rekognitioni koolitamiseks, kinnitades vaid, et ta võtab andmeid erinevatest allikatest. Ettevõte lisas, et ta ei kasuta Prime'i rakenduse kasutajaandmeid identiteedisüsteemide koolitamiseks.
Real Networks on teine ettevõte, mis kasutab rakendusi oma süsteemi koolitamiseks. Seattle'is asuv ja 90ndatest tuntud videomängijaga kuulus ettevõte keskendub nüüd koolides laste nägude äratundmisele. Samal ajal pakub ettevõte pererakendust nimega RealTimes, mis kriitikute sõnul kogub andmeid kasutajate nägude kohta.
“Rakendus võimaldab teil fotodest videoesitlusi luua. Kujutage ette, et ema saadab sellise esitluse vanaemale ja süsteem kasutab neid fotosid koolituseks. See kõlab jube hästi,”ütleb Georgetowni ülikooli professor Claire Gavry, kes avaldas paberi, millel on olnud suur mõju näotuvastustehnoloogiale.
Real Networks kinnitas, et rakendust kasutati näotuvastuse parandamiseks, kuid lisas, et kasutatakse ka muid teabeallikaid.
Kõigil juhtudel, kui ettevõtted kasutasid oma süsteemide koolitamiseks oma fotorakenduste andmeid, ei küsinud nad kasutaja luba, vaid said varjatud nõusoleku kasutajalepingute kaudu.
Kuid see on juba üsna palju võrreldes sellega, mida teised ettevõtted teevad. NIST-i võistlust korraldava Patrick Grotheri sõnul on näoandmeid koguvate ettevõtete jaoks sobilik kirjutada programme, mis “haaravad” pilte sellistelt saitidelt nagu SmugMug või Tumblr. Nendel juhtudel ei eeldata isegi kasutaja luba.
Seda eneseabi lähenemist tõsteti esile hiljutises NBC Newsi raportis, milles kirjeldati üksikasjalikult, kuidas IBM laadis AI uuringu käigus Flickrist alla miljoni näopildi. (IBMi teadusosakonnas tehisintellekti tehnoloogiaid valvav John Smith ütles, et "isikuandmed on kaitstud" ja töö toimub nendega, kes soovivad isiklikku teavet andmebaasist eemaldada).
Kõik see tekitab küsimusi isikuandmete kaitse kohta neid koguvate ettevõtete poolt ja vajaduse kohta selles valdkonnas riikliku kontrolli järele. See teema muutub tõsisemaks alles näotuvastussüsteemide edasise leviku korral ühiskonnas, aga ka suurte ja väikeste ettevõtete keskkonnas.
Kauplustest koolideni
Näotuvastussüsteemid pole uued. Selliste programmide lihtsaimad versioonid on olnud umbes alates 1980. aastatest, kui Ameerika matemaatikud hakkasid nägusid defineerima numbriliste väärtuste seeriana ja kasutasid vastete leidmiseks tõenäosusmudeleid. Tampa, Florida turvalisus kasutas seda 2001. aasta Super Bowlis ja seda on kasiinodes kasutatud juba aastaid. Kuid viimase paari aasta jooksul on palju muutunud.
"Näotuvastussüsteem läbib midagi revolutsiooni taolist," ütleb Patrick Grother ja lisab, et muutus on kõige paremini märgatav piltide kasvavas kvaliteedis. “Selle aluseks olev tehnoloogia on muutunud. Vanad arendused on asendatud uute, palju tõhusamate süsteemidega."
Näotuvastuse revolutsiooni vedasid kaks tegurit, mis on tehisintellekti tehnoloogia ulatust oluliselt muutnud ja laiendanud. Esimene on sügava õppimise teke, mustrituvastussüsteem, mis põhimõtteliselt sarnaneb inimese ajuga. Teine on rekordiline andmete ülejääk, mida saab pilvandmetöötluse abil odavalt säilitada ja analüüsida.
Pole üllatav, et esimesed ettevõtted, kes neid arenguid täiel määral ära kasutasid, olid Google ja Facebook. Viimane avaldas 2014. aastal programmi nimega DeepFace, mis suudab 97,24% täpsusega kindlaks teha, et kaks nägu kuuluvad samale inimesele - inimesed näitavad sellises testis sarnast tulemust. Aasta hiljem saavutas Google oma FaceNeti programmiga 100% täpsuse (turvaettevõtte Gemalto andmetel).
Tänapäeval, tänu suurele osalisele juurdepääsule näoandmete suurtele andmebaasidele, on need ja muud tehnikahiiglased (näiteks Microsoft) näotuvastuses teejuhid. Kuid üha enam idufirmasid näitab kõrgeid tulemusi, üritades ka hõivata oma niši kasvaval näotuvastusprogrammide turul.
Ainuüksi USA-s on selliseid ettevõtteid üle tosina, sealhulgas Kairos ja FaceFirst. PitchBook'i turu-uurijate sõnul on Silicon Valley sektoris kiiresti haardumas, viimaste aastate jooksul on tehtud suuri investeeringuid. PitchBook hinnangul oli viimase kolme aasta koguinvesteering 78,7 miljonit dollarit. Need pole Valley standardite järgi fantastilised numbrid, kuid kajastavad riskikapitalistide kindlustunnet, et mitmed eesliinil olevad idufirmad kasvavad peagi suurteks ettevõteteks.
Riskikapitali tegevus näotuvastustööstuses Ameerika Ühendriikides.
Näo tuvastamisele keskenduvaid uusi ärimudeleid on alles tekkimas. See on eriti märgatav litsentsitud ettevõtte tarkvara puhul. Crunchbase'i andmetel on selliste ettevõtete nagu Ever AI ja FaceFirst iga-aastased tulud tagasihoidlikud, ulatudes 2 miljonist dollarist 8 miljoni dollarini. Amazon ja teised tehnikahiiglased selliseid andmeid ei avalda.
Pikka aega olid näotuvastussüsteemide kõige huvitatud kasutajad õiguskaitseorganid. Kuid nüüd kasutavad paljud ettevõtted, sealhulgas WalMart, selliseid programme, et saada rohkem teavet oma kauplustes ostjate kohta.
Näiteks pakub Californias asuv FaceFirst oma süsteeme sadadele jaemüüjatele, sealhulgas kasutatud asjade kauplustele ja apteekidele. Ettevõtte juhi sõnul kasutavad paljud kliendid varguste tuvastamiseks seda tehnoloogiat, kuid üha rohkem on neid, kes proovivad seda kasutada muudel eesmärkidel, sealhulgas VIP-klientide leidmiseks ja töötajate tuvastamiseks.
Pikka aega olid näotuvastussüsteemide kõige huvitatud kasutajad õiguskaitseorganid.
Näib, et Amazon otsib ka laias valikus oma tegevusi näotuvastussüsteemide rakendamise võimaluste osas. Lisaks politseijaoskondadega töötamisele aitab jaemüügi hiiglane eri allikate sõnul hotellidel registreerimisprotsesse kiirendada.
"Ettevõtted kogu maailmast tulevad Amazonase juurde ja ütlevad:" See on täpselt see, mida me teha tahame. " Ja saate aru, et see on suurepärane piirkond. Kõik tunnevad selle vastu huvi,”ütleb anonüümne allikas, kes ühines näotuvastusega ettevõtte Orbeus ostmisel Amazoniga.
Amazoni jaoks pole see tegevus olnud vaieldamatute tagajärgedeta. Mullu juulis testis Ameerika kodanikuvabaduste liit (ACLU) ettevõtte süsteeme, võrreldes kõigi kongressi liikmete nägusid kurjategijate andmebaasiga. Test näitas 28 vale kokkulangevust, enamus vigu katses osalenute nahavärvist. Selle tulemusel kutsus liit üles keelustama näotuvastussüsteemi kasutamine õiguskaitseasutustes. Amazon nõudis aga süsteemi müümist politseinikele ning USA sisserände- ja tolliametitele.
Seejärel palusid mõned kongressi liikmed, sealhulgas rep. Jerrold Nadler ja senaator Ron Weeden, kontrollikojalt uurida näotuvastustarkvara kasutamist. Juhtivad ettevõtted tunnevad muret ka nende süsteemide pärast. Eelkõige nõudis Microsofti president Brad Smith detsembris selliste tehnoloogiate reguleerimist riigi tasandil.
Kuid isegi murede kasvades näotuvastussüsteemide kasutamine ainult laieneb, kuna ettevõtted leiavad nende jaoks üha rohkem kasutusvõimalusi. Näiteks perefotograafiarakenduste arendaja Real Networks pakub oma tarkvara tasuta koolidele üle kogu riigi. Ettevõte räägib oma klientidena sadadest koolidest. Intervjuus ajakirjale Wired ütles Real Networks tegevjuht Rob Glaser, et ta käivitas projekti erapooletu lahendusena vaidlustele kooliohutuse ja relvakontrolli üle. Ettevõtte veebisait positsioneerib seda toodet praegu tehnoloogiana, mis võimaldab ürituste korraldajatel “ära tunda kõik fännid, kliendid, töötajad või külalised”, isegi kui nende nägu on peidetud.
Ainulaadne tehnoloogia tunneb nägusid ära isegi värvimisel või intensiivsel meigimisel. Süsteem eristab ja tuvastab nägusid erinevates valgustingimustes.
Real Networks pole ainus laste turule suunatud ettevõte. Texases asuv idufirma Waldo pakub sarnast tehnoloogiat sadadele koolidele, aga ka laste spordiliigadele ja suvelaagritele. Praktikas tähendab see selliste süsteemide kasutamist videokaamerate või ametlike fotograafide tehtud piltide skannimiseks ning laste nägude täiendavat sobitamist vanemate pakutavate piltide andmebaasiga. Vanemad võivad osalemisest alati keelduda.
Waldo tegevjuhi Rodney Rice'i sõnul teevad koolid igal aastal kümneid tuhandeid fotosid ja vähesed neist jõuavad aastaalbumiteni. Tema sõnul on näotuvastus tõhus viis ülejääkide levitamiseks neile, kes neid vajavad.
“Hüpikkorni või pruuni paberi hinna eest saate tellida need fotod oma laste vanavanematele,” ütleb Rice, selgitades, et Waldo on sõlminud riigikoolidega tulude jagamise lepingu. Praegu kasutatakse ettevõtte teenuseid enam kui 30 USA osariigis.
Waldo ja FaceFirsti tõus näitab, kuidas ettevõtted normaliseerivad näotuvastust, mis kuni viimase ajani tundus ulme. Ja tänu selliste tehnoloogiate levikule kogub rohkem ettevõtteid teie nägudest fotosid - kas algoritmide koolitamiseks või klientide ja kurjategijate leidmiseks - isegi siis, kui vigade ja kuritarvitamise oht ainult kasvab.
Teie näo tulevik
2017. aastal ilmus tehno-düstoopilise telesarja Black Mirror episood, milles ärritunud ema muretseb hoolimatu noormehe pärast, kes veedab aega oma tütrega. Et teada saada, kes see on, laadib naine foto temast üles tarbija tuvastamise teenusesse. Programm näitab kiiresti tema nime ja töökohta ning naine läheb temaga tegelema.
Kunagi väljamõeldud stsenaarium näib nüüd üsna reaalne. Kui enamik näotuvastusega seotud muredest on keskendunud selle tehnoloogia kasutamisele valitsusorganisatsioonides, kujutab selle kasutamine äriettevõtete ja isegi üksikisikute seas (stiilis "Must peegel") ilmselget ohtu isikuandmetele.
Kuna üha rohkem ettevõtteid hakkab müüma näotuvastussüsteeme ja meie näod satuvad rohkematesse andmebaasidesse, võib tarkvara populaarsust koguda nii voyeuride kui ka jälitajate seas. Jaemüüjad ja üürileandjad saavad seda kasutada soovimatute klientide ja üürnike tuvastamiseks, et nad keelduksid vaikselt elamutest ja teenustest.
"Igaüks, kellel on videokaamera tihedalt asustatud piirkonnas, võib hakata pildiandmebaase koguma ja seejärel seda analüütilist tarkvara kasutama, et näha, kas nende jäädvustatud pildid vastavad teie andmetele," ütleb ACLU analüütik Jay Stanley.
Samuti on häkkerirünnakute oht. Küberjulgeolekuettevõtte Gemini Advisors esindaja Andrei Barisevitš ütleb, et on näinud India riiklikust biomeetrilisest andmebaasist varastatud tumnetisaididel müüdavaid profiile. Ta ei märganud ameeriklaste kohta sellist teavet, kuid lisas: "See on vaid aja küsimus." Kliendiandmete lekitamine hotellist või kauplusest võib aidata kurjategijatel pettusi või identiteedivargusi toime panna.
Kuna tehnoloogiat levitatakse ilma suure valitsusepoolse kontrollita, lasub selle väärkasutuse piiramise eest ainuüksi tarkvara müüjad. Intervjuus Fortune'ile ütlesid näotuvastusega alustavate ettevõtete tegevjuhid, et on sellisteks ohtudeks valmis. Mõned, sealhulgas FaceFirsti tegevjuht, kirjeldasid selliste süsteemide levikut Hiinas ohtlikuks.
Samuti soovitasid juhid väärkohtlemise ohjeldamiseks kahte lähenemisviisi. Esimene on teha tarkvara ostjatega tihedat koostööd, et tagada selle korrektne kasutamine. Näiteks Ever AI Doug Eli sõnul on tema ettevõttel kõrgemad standardid kui Amazonil, mis tema sõnul pakub selle tunnustamise tööriista peaaegu kõigile.
Vastusena kuritarvituste kontrolli küsimusele esitas Amazon varem avaldatud avalduse Matt Woodilt, kes haldab Amazon Web Services'is tehisintellekti. Wood juhib tähelepanu, et kahjulikke ja ebaseaduslikke tegevusi keelab just ettevõtte poliitika.
Teine võimalik andmete turvalisuse tagatis on tehniliste meetmete kasutamine eesmiste andmete andmebaaside häkkimise võimatuse tagamiseks.
Waldo tegevjuht Rodney Rice ütleb, et nägusid hoitakse tähtnumbriliste räsina. See tähendab, et isegi andmete lekke korral ei kahjustata konfidentsiaalsust, kuna häkker ei saa räsi dekrüpteerida ja neid kasutada. Seda seisukohta toetasid ka teised.
Rice kardab, et "näotehnoloogia" kasutamise eeskirjade seaduslik määratlemine võib teha rohkem kahju kui kasu. "Jätta lapsele see välja mõelda ja reegleid luua on naeruväärne," ütleb ta.
Samal ajal võtavad mõned näotuvastustarkvara tootvad ettevõtted kasutusele uusi tehnikaid, mis võivad vähendada koolituse jaoks suurandmete vajadust. Nii on see näiteks Miamist pärit esiotsa Kairosi puhul, mis töötab muu hulgas paljude hotellidega. Ettevõtte turvajuhi Stephen Moore sõnul loob Kairos "sünteetilisi" nägusid, et simuleerida mitmesuguseid emotsioone ja valgustust. Sellised "kunstlikud näod" vähendavad tehnoloogiatoodete loomisel reaalsest maailmast pärit näoandmete kasutamist.
Kõik need meetmed - süsteemi kasutajate jälgimine, tugev andmekaitse ja sünteetilised õppevahendid - võivad leevendada mõnda meie nägude ärikasutusega seotud privaatsusprobleeme. Samas usub FaceFirst's Trepp, et ärevus väheneb süsteemi lähemalt uurides. Ta väidab isegi, et näotuvastusstseenid 2002. aasta ulmefilmis Minority Report hakkavad tundma end normaalselt.
“Millennials on palju rohkem nõus teavet jagama. See maailm [vähemusraportist] läheneb meiega üha lähemale,”ütleb ta. - Kui teete kõik õigesti, siis arvan, et inimestele meeldib see ja see on positiivne kogemus. See pole nii hirmus."
Teised, sealhulgas ACLU, on vähem optimistlikud. Vaatamata kasvavale diskussioonile tehnoloogia ümber pole aga praegu midagi sellist, mis teie näo kasutamist piiraks. Ainsad erandid on kolmes osariigis - Illinois, Texas ja Washington DC -, mis vajavad enne kellegi teise näo kasutamist teatud nõusolekut. Neid seadusi praktikas tegelikult ei kasutata, välja arvatud Illinoisis, kus tarbijad saavad selle õiguse tagamiseks õiguslikke meetmeid võtta.
Illinoisi seaduste osas on praegu Facebooki kaasatud kõrgetasemeline apellatsioonimenetlus, mis väidab, et digitaalsele indekseerimisele ei kehti nägude saamise piirangud. 2017. aastal käivitasid Facebook ja Google ebaõnnestunud lobikampaania, et veenda Illinoisi seadusandjaid seadust pehmendama. Jaanuari lõpus toetas seaduse pooldajaid Illinoisi ülemkohus, kui ta otsustas, et tarbijad saavad oma biomeetriliste andmete loata kasutamise eest kaevata, isegi kui tegelikku kahju pole tehtud.
Ka teised riigid võimaldavad võtta vastu oma biomeetrilisi seadusi. Föderaalsel tasandil on seadusandjad sellele seni vähe tähelepanu pööranud. See võib aga muutuda, kuna senaatorid Brian Schatz ja Roy Blount võtsid sel kuul vastu õigusaktid, mis kohustavad ettevõtteid enne näotuvastuse kasutamist avalikes kohtades või näoandmete jagamist kolmandate osapooltega luba saama.
Georgetowni teadlane Claire Garvey toetab nende süsteemide kontrollimiseks seadusi. Kuid tema sõnul on seadusandjatel olnud keeruline tehnoloogiaga sammu pidada.
„Näotuvastuse üks väljakutseid on nende uskumatult kiire kasutuselevõtt tänu olemasolevatele andmebaasidele. Meie näod olid palju valgustatud,”räägib naine. "Erinevalt sõrmejälgedest, millel on juba pikka aega andmete kogumise reeglid, ei ole näotuvastustehnoloogiaid veel reguleeritud."
Autor: Jeff John Roberts
Tõlkinud: Ekaterina Egina
Toimetanud: Sergei Razumov
