„Táto osoba neexistuje“ Stvoriteľ odhaľuje strašidelný príbeh svojho miesta

Phillip Wang je 33-rok-starý softvérový inžinier zodpovedný za vytvorenie umelej inteligencie-poháňal webové stránky Táto osoba neexistuje, že nedávno šiel vírusové. Zakaždým, keď je stránka obnovená, algoritmus známy ako generatívna kontroverzná sieť (GAN) (pôvodne kódovaný Nvidia) poskytuje hyper-realistické portréty úplne falošných ľudí.

Kaskadérsky kúsok bol navrhnutý tak, aby upozorňoval na stále sa zvyšujúcu moc A.I., aby sa prezentovala ako skutočné obrazy, ktoré sú úplne umelé. Ale ako hovorí Wang inverzný, tento kúsok má následky, ktoré sa šíria ďaleko za hranicami, „hej, pozrite sa na túto skutočne vyzerajúcu falošnú osobu.“ V spoločnosti, kde sú obrázky a obrázky štandardnými náhradnými prvkami pre „dôkaz“, GANs - automatizovaním práce, ktorá vyžadovala náročnú prácu časť odborníkov na zobrazovanie - čoskoro umožní komukoľvek poskytnúť „dôkaz“, ktorý každá predstaviteľná osoba urobila akúkoľvek predstaviteľnú vec.

„Som v podstate v okamihu môjho života, kde budem pripúšťať, že super-inteligencia bude skutočná a musím venovať svoj zostávajúci život tomu,“ vysvetľuje. „Reakcia hovorí o tom, koľko ľudí je v tme o A.I. a jeho potenciál. “

Miesto zasiahlo akord. Bývalý softvérový inžinier Uber hovorí, že od jeho spustenia táto osoba neexistuje, bola navštívená asi 4,2 milióna krát, čo nie je zlé pre jednorazovú stránku pôvodne uverejnenú v uzavretej skupine Facebook. Wang ho pôvodne používal ako spôsob, ako presvedčiť pár priateľov, aby sa zapojili do nezávislého A.I. výskum, na ktorom v súčasnosti pracuje. Ale počas jedného dňa sa rozhodol, že širšie publikum by mohlo ťažiť z poznania potenciálu GAN. Povedal, že reakcia je dôležitá informovať ľudí o tom, ako by tento typ technológie mohol byť revolučný a nebezpečný.

Prečo Falošné tváre predstavujú strašidelný prielom

Stránka Wang využíva algoritmus StyleGAN od spoločnosti Nvidia, ktorý bol uverejnený v decembri minulého roka. Potenciál, podľa jeho názoru, siaha od užitočného, ​​ale všedného (premýšľanie: zefektívnenie implantácie zubnej korunky) až po ďalekosiahlejšie, napríklad umožnenie predstavivosti úplne nových molekúl slúžiť v budúcich liekoch. Táto revolučná technológia však tiež uľahčí podvod a dezinformácie.

Dôvodom, prečo sú prípady použitia tak rozmanité, je veľa, mnoho spôsobov, ako aplikovať GAN, ktoré sú trénované tak, že proti sebe postavia dve siete: generátor a diskriminátor. Generátor dostáva reálne obrazy, ktoré sa snažia čo najlepšie vytvoriť, zatiaľ čo sa diskriminátor naučí rozlišovať medzi falošnými obrazmi a originálmi. Po miliónoch miliónov tréningov algoritmus vyvíja nadľudské schopnosti na vytváranie kópií obrázkov, na ktorých bol trénovaný.

Je to rovnaká metóda, ktorá vytvára hlboké zážitky alebo obrázky vytvorené počítačom, ktoré sa nachádzajú na existujúcich obrázkoch alebo videách a ktoré sa často používajú na tlač falošných správ alebo iných falošných správ.

A zatiaľ čo Wang je fascinovaný inováciami, ktoré prinesie v mnohých podnikoch, chce tiež, aby si ľudia viac uvedomovali potenciálne škody, ktoré by mohli spôsobiť.

Ako príklad, zločinca by mohol šíriť GAN-generované video alebo obrázok zobrazujúci falošnú udalosť na podnecovanie nepokojov, protestov alebo iných potenciálne násilných reakcií online.

Keďže celý proces je automatizovaný, každý, kto by potreboval, by mal prístup k množstvu grafických procesorov (GPU) alebo grafických kariet - ktoré sa učia strojom na výrobu energie - a dátový súbor snímok, ktorý by sa začal rozbiehať ako falzifikáty.

V dlhodobom horizonte, zatiaľ čo StyleGAN sú schopné vytvárať stále obrazy ľudí, ktorí nikdy neexistovali, takže tieto obrazy hovoria a pohybujú sa prirodzene je len pár krokov za tým. Našťastie, Wang poznamenáva, že jednoducho byť informovaný o GANoch spôsobí, že ľudia budú menej náchylní k tomu, aby boli nimi zmätení. Zvýšené povedomie nám uľahčí zlepšovanie 3D grafiky a medicíny StyleGANs.

„Dúfam, že moja demonštrácia zvýši povedomie. Tí, ktorí nevedia, sú touto technológiou najviac zraniteľní, “povedal Wang. „Na druhej strane, A.I. skutočne prinesie veľa dobrého tomuto svetu. “

E-mail autora: [email protected]