För 29,99 USD i månaden erbjuder en webbplats som heter PimEyes en potentiellt farlig superkraft från science fiction-världen: möjligheten att söka efter ett ansikte, hitta obskyra foton som annars skulle ha varit lika säkra som den ökända nålen i den enorma digitala höstacken av internet.
En sökning tar bara några sekunder. Du laddar upp ett foto av ett ansikte, markerar en ruta som godkänner användarvillkoren och får sedan ett rutnät med bilder av ansikten som anses vara lika, med länkar till var de visas på internet. New York Times använde PimEyes i ansiktet på ett dussin Times journalister, med deras samtycke, för att testa dess befogenheter.
PimEyes hittade foton av varje person, några som journalisterna aldrig hade sett förut, även när de hade solglasögon eller mask på sig, eller så vändes ansiktet bort från kameran, på bilden som användes för att genomföra sökningen.
https://images.indianexpress.com/2020/08/1×1.png Läs också | Metakopierad VR-tekniknyckel till metaverse-spel, hävdar immersion
PimEyes hittade en reporter som dansade på ett konstmuseumsevent för ett decennium sedan, och grät efter att ha blivit friad, ett foto som hon inte gillade särskilt men som fotografen hade bestämt sig för att använda för att marknadsföra sitt företag på Yelp. En teknikreporters yngre jag sågs i en besvärlig förälskelse av fans på Coachella-musikfestivalen 2011. En utrikeskorrespondent dök upp på otaliga bröllopsbilder, uppenbarligen livet på varje fest, och i den suddiga bakgrunden av ett foto taget av någon annan kl. en grekisk flygplats 2019. En journalists tidigare liv i ett rockband grävdes fram, liksom en annans föredragna sommarlägerresa.
Best of Express Premium
Rajya Sabha-undersökningar: Halsbränna i kongressen; parti som avviker från Udaipur res…
Förklarat : Säkra dina Aadhaar-data
Snabb återhämtning, bra uppföljning i alla klasser: Executive Vice President-co…
Bakom Aadhaar flip flop: Plaints, förvirringFler premiumhistorier >>
Till skillnad från Clearview AI, ett liknande ansiktsigenkänningsverktyg endast tillgängligt för brottsbekämpande myndigheter, inkluderar PimEyes inte resultat från sociala medier. De ibland överraskande bilderna som PimEyes dök upp kom istället från nyhetsartiklar, bröllopsfotosidor, recensionssajter, bloggar och pornografisajter. De flesta av matchningarna för dussinet journalisters ansikten var korrekta. För kvinnorna kom de felaktiga bilderna ofta från pornografisajter, vilket var oroande i förslaget att det kunde vara dem. (För att vara tydlig, det var inte dem.)
En teknisk chef som bad att inte bli identifierad sa att han använde PimEyes ganska regelbundet, främst för att identifiera personer som trakasserar honom på Twitter och använder deras riktiga bilder på sina konton men inte deras riktiga namn. En annan PimEyes-användare som bad om att få vara anonym sa att han använde verktyget för att hitta skådespelerskors verkliga identiteter från pornografiska filmer och för att söka efter explicita bilder på sina Facebook-vänner.
Den nya ägaren till PimEyes är Giorgi Gobronidze , en 34-årig akademiker som säger att hans intresse för avancerad teknologi väcktes av ryska cyberattacker mot hans hemland, Georgien.
Läs också |Ryssland öppnar mål mot Google, annan utländsk teknik för datalagring
Gobronidze sa att han trodde att PimEyes kan vara ett verktyg för det goda, som hjälper människor att hålla koll på sitt rykte online. Journalisten som inte gillade fotot som en fotograf använde, kunde nu be honom att ta bort det från sin Yelp-sida.
PimEyes-användare ska bara söka efter sina egna ansikten eller efter ansikten på personer som har samtyckt, sa Gobronidze. Men han sa att han förlitade sig på att människor skulle agera “etiskt” och erbjuda lite skydd mot teknikens urholkning av den långvariga förmågan att vara anonym i en folkmassa. PimEyes har inga kontroller på plats för att förhindra användare från att söka efter ett ansikte som inte är deras eget, och föreslår att en användare betalar en rejäl avgift för att skadliga bilder från en ogenomtänkt natt inte ska följa honom eller henne för alltid.
< p>“Det är stalkerware genom design, oavsett vad de säger”, säger Ella Jakubowska, policyrådgivare på European Digital Rights, en grupp för integritetsförespråkande.
Under ny ledning
Gobronidze växte upp i skuggan av militära konflikter. Hans dagis bombades under inbördeskriget som följde efter att Georgien förklarade sig självständigt från Sovjetunionen 1991. Landet var effektivt avskuret från världen 2008 när Ryssland invaderade och internet gick ner. Erfarenheterna inspirerade honom att studera rollen av teknisk dominans i nationell säkerhet.
Efter att ha arbetat som advokat och tjänstgjort i den georgiska armén fick Gobronidze en magisterexamen i internationella relationer. Han började sin karriär som professor 2014, och landade så småningom vid European University i Tbilisi, Georgia, där han fortfarande undervisar.
2017 var Gobronidze i ett utbytesprogram och föreläste vid ett universitet i Polen, när en av hans elever presenterade honom, sa han, för två “hacker”-typer – Lucasz Kowalczyk och Denis Tatina – som arbetade med en ansiktssökmotor. De var “briljanta hjärnor”, sa han, men “absoluta introverta” som inte var intresserade av offentlig uppmärksamhet.
Läs också |U.S. SEC undersöker Musks aktieköp på Twitter
De gick med på att prata med honom om deras skapelse, som så småningom blev PimEyes, för hans akademiska forskning, sa Gobronidze. Han sa att de hade förklarat hur deras sökmotor använde neural net-teknologi för att kartlägga egenskaperna hos ett ansikte, för att matcha det med ansikten med liknande mått, och att programmet kunde lära sig över tiden hur man bäst bedömer en matchning.< /p>
“Jag kände mig som en person från stenåldern när jag först träffade dem,” sa Gobronidze. “Som jag lyssnade på science fiction.”
Han höll kontakten med grundarna, sa han, och såg hur PimEyes började få mer och mer uppmärksamhet i media, mest av den svidande sorten. 2020 hävdade PimEyes att de hade en ny ägare, som ville vara anonym, och företagets huvudkontor flyttades från Polen till Seychellerna, ett populärt afrikanskt skatteparadis till havs.
Gobronidze sa att han “hörde” någon gång förra året att den här nya ägaren av sajten ville sälja den. Så han började snabbt samla in pengar för att lägga ett erbjudande, sålde en villa vid havet som han hade ärvt av sina farföräldrar och lånade en stor summa av sin yngre bror, Shalva Gobronidze, en mjukvaruingenjör på en bank. Professorn ville inte avslöja hur mycket han hade betalat.
“Det var inte så stort belopp som någon kunde förvänta sig,” sa Gobronidze.
I december skapade Gobronidze ett företag, EMEARobotics, för att förvärva PimEyes och registrerade det i Dubai på grund av Förenade Arabemiratens låga skattesats. Han sa att han hade behållit det mesta av webbplatsens lilla teknik- och supportteam och anlitat ett konsultföretag i Belize för att hantera förfrågningar och regulatoriska frågor.
Gobronidze har hyrt kontorsutrymme åt PimEyes i ett torn i centrala Tbilisi. Det håller fortfarande på att renoveras, armaturer hänger löst i taket.
Läs också |Anklagas för fusk av en algoritm, och en professor hon aldrig träffat
Tatia Dolidze, en kollega till Gobronidze vid European University, beskrev honom som “nyfiken” och “envis” och sa att hon hade blivit förvånad när han berättade för henne att han köpte en ansiktssökmotor.
“Det var svårt att föreställa sig Giorgi som affärsman”, sa Dolidze via e-post.
Nu är han en affärsman som äger ett företag genomsyrat av kontroverser, främst kring huruvida vi har någon särskild kontrollrätt över bilder på oss som vi aldrig förväntat oss skulle hittas på detta sätt. Gobronidze sa att ansiktsigenkänningsteknik skulle användas för att kontrollera människor om regeringar och stora företag hade den enda tillgången till den.
Och han föreställer sig en värld där ansiktsigenkänning är tillgängligt för alla.
'I huvudsak utpressning'
För några månader sedan testade Cher Scarlett, en dataingenjör, PimEyes för första gången och konfronterades med ett kapitel i sitt liv som hon hade försökt glömma.
2005, när Scarlett var 19 och pank, övervägde hon att arbeta med pornografi. Hon reste till New York City för en audition som var så förödmjukande och kränkande att hon övergav idén.
PimEyes grävde fram det decennier gamla traumat, med länkar till var exakt de explicita bilderna kunde hittas på webben . De ströddes in bland nyare porträtt av Scarlett, som arbetar med arbetarrätt och har varit föremål för mediabevakning för en högprofilerad arbetarrevolt som hon ledde på Apple.
“Jag hade ingen aning förrän den punkten att de här bilderna fanns på internet”, sa hon.
Läs också |Google träffade en ny brittisk undersökning om annonsteknikdominans
Orolig för hur folk skulle reagera på bilderna började Scarlett omedelbart undersöka hur man kan få dem borttagna, en upplevelse som hon beskrev i ett Medium-inlägg och för CNN. När hon klickade på ett av de explicita bilderna på PimEyes dök en meny upp med en länk till bilden, en länk till webbplatsen där den visades och ett alternativ att “utesluta från offentliga resultat” på PimEyes.
Men uteslutning, upptäckte Scarlett snabbt, var endast tillgänglig för prenumeranter som betalade för “PROtect-planer”, som kostar från $89,99 till $299,99 per månad. “Det är i grunden utpressning”, sa Scarlett, som till slut skrev på den dyraste planen.
Gobronidze höll inte med om den karaktären. Han pekade på ett gratis verktyg för att ta bort resultat från PimEyes-indexet som inte annonseras tydligt på webbplatsen. Han gav också ett kvitto som visade att PimEyes hade återbetalat Scarlett för planen på $299,99 förra månaden.
PimEyes har tiotusentals prenumeranter, sade Gobronidze, och de flesta besökare på webbplatsen kommer från USA och Europa. Den tjänar merparten av sina pengar från prenumeranter på sin PROtect-tjänst, som inkluderar hjälp från PimEyes supportpersonal med att få ner bilder från externa webbplatser.
PimEyes har också en gratis “opt-out” för att människor ska få data om sig själva borttagna från webbplatsen, inklusive sökbilder av deras ansikten. För att välja bort lämnade Scarlett ett foto av sitt tonåringsjäl och en skanning av hennes myndighetsutfärdade legitimation. I början av april fick hon en bekräftelse på att hennes begäran om att välja bort hade accepterats.
“Dina potentiella resultat som innehåller ditt ansikte har tagits bort från vårt system”, stod det i e-postmeddelandet från PimEyes.
Men när Times gjorde en PimEyes-sökning av Scarletts ansikte med hennes tillåtelse en månad senare, fanns det mer än 100 resultat, inklusive de explicita.
Gobronidze sa att det här var en “tråkig historia” och att borttagningen inte blockerade en persons ansikte från att bli genomsökt. Istället blockerar den från PimEyes sökresultat alla foton av ansikten “med en hög likhetsnivå” vid tidpunkten för borttagningen, vilket innebär att folk regelbundet måste välja bort dem, med flera bilder på sig själva, om de hoppas kunna hålla sig utanför en PimEyes-sökning.
Gobronidze sa att explicita bilder var särskilt knepiga, och jämförde deras tendens att föröka sig online med det mytomspunna odjuret Hydra.
“Skär ett huvud och två andra dyker upp”, sa han .
Gobronidze sa att han ville ha “etisk användning” av PimEyes, vilket innebär att människor bara söker efter sina egna ansikten och inte främlingars.
🚨 Tidsbegränsat erbjudande | Express Premium med ad-lite för bara 2 Rs/dag 👉🏽 Klicka här för att prenumerera 🚨
Men PimEyes gör lite för att upprätthålla detta mål, utöver en ruta som en sökare måste klicka på för att hävda att ansiktet som laddas upp är hans eller hennes eget. Helen Nissenbaum, en professor vid Cornell University som studerar integritet, kallade detta “absurt”, såvida inte webbplatsen hade en sökare som lämnade myndighetsidentifiering, vilket Scarlett var tvungen att när hon valde bort det.
“Om det är en användbar sak att gör det, för att se var våra egna ansikten är måste vi föreställa oss att ett företag som bara erbjuder den tjänsten kommer att vara transparent och granskat, säger Nissenbaum.
PimEyes gör inga sådana granskningar, även om Gobronidze sa att webbplatsen skulle spärra en användare med sökaktivitet “bortom allt logiskt”, och beskrev en med mer än 1 000 sökningar på en dag som ett exempel. Han förlitar sig på att användarna gör det som är rätt och nämnde att alla som sökte någon annans ansikte utan tillstånd skulle bryta mot europeisk integritetslagstiftning.
“Det borde vara den person som använder dens ansvar”, sa han. “Vi är bara en verktygsleverantör.”
Scarlett sa att hon aldrig hade trott att hon skulle prata offentligt om vad som hände henne när hon var 19, men kände att hon var tvungen efter att hon insåg att bilderna var ute där.
“Det skulle ha använts mot mig,” sa hon. “Jag är glad att jag är personen som hittade dem, men för mig handlar det mer om tur än att PimEyes fungerar som det är tänkt. Det borde inte existera alls.”
Undantag från regeln
Trots att PimEyes endast ska användas för självsökningar är Gobronidze öppen för annan användning så länge de är “etisk.” Han sa att han godkände undersökande journalister och rollen som PimEyes spelade för att identifiera amerikaner som stormade den amerikanska huvudstaden den 6 januari 2021.
The Times tillåter sina journalister att använda sökmotorer för ansiktsigenkänning för rapportering, men har interna regler om praktiken. “Varje begäran om att använda ett ansiktsigenkänningsverktyg för rapporteringsändamål kräver förhandsgranskning och godkännande av en senior medlem av mastheaden och vår juridiska avdelning för att säkerställa att användningen följer våra standarder och tillämplig lag”, säger en taleskvinna för Times, Danielle Rhoades Ha.
Läs också |Raju Narisetti-intervju: “Wikipedia bygger förtroende med öppenhet”
Det finns användare som Gobronidze inte vill ha. Han blockerade nyligen människor i Ryssland från platsen, i solidaritet med Ukraina. Han nämnde att PimEyes var villig att, liksom Clearview AI, erbjuda sin tjänst gratis till ukrainska organisationer eller Röda Korset, om det kunde hjälpa till i sökandet efter försvunna personer.
Den mer kända Clearview AI har mött allvarlig motvind i Europa och runt om i världen. Integritetstillsynsmyndigheter i Kanada, Australien och delar av Europa har förklarat Clearviews databas med 20 miljarder ansiktsbilder olaglig och beordrat Clearview att radera sina medborgares foton. Italien och Storbritannien utfärdade böter på flera miljoner dollar.
En tysk dataskyddsmyndighet tillkännagav en utredning av PimEyes förra året för möjliga brott mot Europas integritetslagstiftning, General Data Protection Regulation, som inkluderar strikta regler kring användning av biometriska data. Den utredningen fortsätter.
Gobronidze sa att han inte hade hört från några tyska myndigheter. “Jag är angelägen om att svara på alla frågor de kan ha”, sa han.
Han är inte oroad över integritetsregulatorer, sade han, eftersom PimEyes fungerar annorlunda. Han beskrev det som att det nästan var som en digital kortkatalog, och sa att företaget inte lagrar foton eller individuella ansiktsmallar utan snarare webbadresser för enskilda bilder som är associerade med ansiktsdragen de innehåller. Allt är offentligt, sa han, och PimEyes instruerar användare att bara söka efter sina egna ansikten. Huruvida den arkitektoniska skillnaden har betydelse för tillsynsmyndigheter är ännu inte bestämt.
Denna artikel publicerades ursprungligen i The New York Times.