Technológie rozpoznávania tváre FBI nerešpektujú vaše súkromie a práva

Kto je strážny pes strážneho psa? Úrad vlády pre zodpovednosť, ako naznačuje jeho názov. Nedávna správa GAO o vládnom používaní techník rozpoznávania tváre našla cestu k verejnosti v stredu. V podstate sme sa dostali do situácie. Zlá situácia. Stručne povedané: S programami rozpoznávania tváre FBI porušuje vaše súkromie a nehovorí vám o tom. Navyše, FBI netestuje, či tieto programy sú presné a spoľahlivé.

FBI a biometria idú späť - milujúci vzťah začal databázami odtlačkov prstov. Ale teraz to ide oveľa ďalej. „Biometrické údaje“ pre FBI a podľa GAO znamenajú „automatizované rozpoznávanie jednotlivcov na základe ich biologických a behaviorálnych charakteristík“. V roku 2011 FBI zaviedla pilot svojho systému „Identifikácia novej generácie“ (NGI).; o štyri roky neskôr, v apríli 2015, bol plne funkčný.

NGI čiastočne využíva systém Interstate Photo System (IPS) pre tieto takzvané biometrické údaje. Táto databáza - okrem externých databáz zo súkromných spoločností - poskytuje vládnym agentúram prístup k viac ako 411 milión čeliť fotografiám (súčasná populácia v USA je len 319 miliónov). Ministerstvo spravodlivosti tvrdí, že väčšina z týchto fotografií je z záberov z hrnčeka - „Viac ako 80 percent fotografií v NGI-IPS je trestných“ - ale tiež sa spojili s mnohými štátmi, aby získali prístup k vodičským preukazom a fotografiám pasov. GAO hovorí, že okamih a podozrivý je „rezervovaný na trestný čin“, je v knihách - t. j. v NGI-IPS.

Z prehľadu nie je celkom jasné, koľko FBI robí s vašimi fotografiami zo sociálnych médií. FBI tvrdí, že ich nezahŕňa do NGI-IPS, ale používa ich:

„… Fotografie z bezpečnostných kamier alebo fotografií sociálnych médií nie sú zapísané do NGI-IPS… Podľa FBI, externé databázové databázy neobsahujú súkromné ​​fotografie alebo fotografie zo sociálnych médií a FBI tieto fotografie neudržiava; hľadá len proti nim. “

Stojí však za zmienku, koľko sociálnych médií by mohlo byť. Aplikácia fotografií vo vašom počítači má schopnosť rozpoznať vás a vašich priateľov. Facebook tiež robí, a je to znepokojivo dobré pri katalogizácii každého človeka na fotografii. Zakaždým, keď používate objektív Snapchat, Snapchat mapuje jedinečné kontúry vašej tváre. A nezastavuje sa tam - tieto technológie sú prakticky všade.

Bez ohľadu na to, nie je to len FBI baví s vašou tvárou: prístup siaha až na miestne policajné oddelenia. (Existuje aj toto: „Systém rozpoznávania tváre ministerstva obrany sa používa na podporu bojovníkov v teréne na identifikáciu nepriateľských bojovníkov.“) FBI je jedinou agentúrou s priamy prístup, ale každý iný môže jednoducho požiadať o prístup. Po udelení prístupu pošle príslušná agentúra fotografiu FBI a požiada o určitý počet potenciálnych zápasov. (Fotografia môže byť s vysokým rozlíšením, ale s vedomím bezpečnostných kamier, pravdepodobne nie.) Akonáhle tam, NGI-IPS spustí fotografiu prostredníctvom svojej databázy, a potom, GAO hovorí, "ľudská analýza musí byť vykonaná." z „29 vyškolených odborníkov na biometrické obrazy v službách FACE Porovnanie hodnotenia tváre“) potom dáva posledné slovo. Konečne, požadovaný počet potenciálnych zápasov sa dostane späť do agentúry. Potom je na tejto agentúre, aby určila, či sú tieto zdanlivé podozrivé skutočnými podozrivými.

Funguje to takto:

„Konkrétne, technológia extrahuje funkcie z tvárí a vkladá ich do formátu, ktorý sa často označuje ako tvárový odtlačok, ktorý sa môže okrem iného použiť na overenie. Akonáhle je tvárový odtlačok vytvorený, technológia môže použiť algoritmus rozpoznávania tvárí na porovnanie odtlačkov tvárí proti sebe, čím sa vytvorí jediná hodnota skóre, ktorá predstavuje stupeň podobnosti medzi týmito dvoma tvárami.

V závislosti od vašej znalosti sci-fi, ktorá sa môže alebo nemusí zdať ako spoľahlivý, dôveryhodný systém. Nie je to tak. Tu je a časť hlavičky v správe GAO:

„FBI má obmedzené informácie o presnosti svojich schopností technológie rozpoznávania tváre.“

Všetko, čo FBI vie, je to, keď to urobil otestujte mieru presnosti 50 potenciálov - čo urobila, bez pochyby, testovacou databázou, a nie reálnou databázou - to bolo 86% presné. FBI „neposúdila presnosť vyhľadávania tvárí NGI-IPS v operačnom prostredí - nastavenie, v ktorom sa namiesto zapísaných fotografií namiesto testovacej databázy fotografií používajú na vyhľadávanie vyšetrovacích potenciálov.“ starostlivosť o to, aké presné sú systémy rozpoznávania tváre v súkromných spoločnostiach, v ktorých sú zamestnaní: neexistujú žiadne audity.

Osemdesiat šesť percent presné. Inými slovami: asi štyri z piatich hviezd. Ak vaša miestna sushi reštaurácia mala štyri z piatich hviezdičiek, môžete zvážiť objednanie odberu. Ale rovnako ako nízky počet recenzií môže skresliť hodnotenie reštaurácie vysoký počet potenciálnych zápasov môže skresliť presnosť NGI-IPS. Päťdesiat potenciálnych zápasov je maximálny počet agentúr, o ktoré môžu požiadať; systém môže vypľuť čo najmenej dva, GAO hovorí, že čím menší zoznam, tým menej presný systém.

Je tu aj celá otravná falošne pozitívna vec. „Úradníci FBI uviedli, že nehodnotili, ako často vyhľadávanie NGI-IPS rozpoznávanie tvárí chybne priradí osobu k databáze (falošne pozitívna miera).“ Falošné pozitívy sú - milostivý môj jazyk - vážne kurva, pretože „sa môžu zmeniť tradičná prezumpcia neviny v trestných veciach tým, že viac zaťažuje odporcu, aby dokázal, že nie je tým, kým ho systém identifikuje. “Systém sa môže rozdeliť na oboch koncoch rovnice: ak je fotografia zlá, úspešnosť klesá; ak je softvér nekvalitný, miera úspešnosti klesne. Nízka miera úspešnosti znamená mnoho falošných pozitív.

GAO, po dokončení svojej správy, dal americký generálny prokurátor Loretta Lynch a riaditeľ FBI James Comey šesť odporúčaní. Podstata: Ministerstvo spravodlivosti má problém s opacitou. Verejnosť môže vedieť, že jej súkromie je porušované, ale verejnosť nevie konkrétne ako jeho súkromie je porušované. Tiež ministerstvo spravodlivosti musí napraviť nedostatok dohľadu, aby sa zabezpečilo, že prekročia minimálnu úroveň súkromia. Nakoniec, ministerstvo spravodlivosti musí zabezpečiť, aby tieto programy boli spoľahlivé, aj keď spätne.

Ministerstvo spravodlivosti súhlasilo len s jedným odporúčaním. „Čiastočne súhlasil“ s dvoma ďalšími, ale odmietol zostávajúce tri - z ktorých dve sa pokúsili stanoviť usmernenia o presnosti.