Vláda USA nájde niekoho, kto by ju vybudoval ako mozog

Pozornosť šialených vedcov: vláda sa snaží vybudovať mozog.

Podľa nedávneho pracovného miesta úrad riaditeľa Národnej spravodajskej služby (ODNI) hľadá postdoktorandského pracovníka, ktorý by študoval mechanizmy biologických neurónových sietí (čítaj: mozgy) a určoval najúčinnejšie spôsoby, ako ich oklamať.

Jazyk vysielania je klinický a oddelený. Ale nenechajte sa mýliť - mohlo by to byť niečo zlé.

V podstate chce ODNI, aby výskumník vytvoril biologický analóg k protichodnej neurónovej sieti klasifikujúcej obraz (ANN). ANN je vyškolený na klasifikáciu obrázkov (alebo iných dát) s vysokou presnosťou. Záporný útok manipuluje s obrazom veľmi jemne a spôsobuje, že ANN nesprávne klasifikuje obraz s vysokým stupňom dôvery, “v súlade so zverejnením práce.

Podobné experimenty uskutočnili vedci spoločnosti Google s AI. Umelá neurónová sieť bola vyškolená na vytvorenie portrétov tvárí a iná sieť bola vyškolená na ich identifikáciu ako skutočnú alebo vynájdenú. Prvým cieľom siete bolo oklamať druhú sieť. Takže zakaždým, keď generatívna sieť bola neúspešná, to urobiť nejaké menšie vylepšenia na portrétu vytvoril. Zakaždým, keď bola triediaca sieť neúspešná, vylepšila kritériá, ktoré skúmala, aby urobila rozsudok. Obidve siete, ktoré pracujú proti sebe, sa postupne stali dômyselnejšími a kompetentnejšími vo svojich úlohách.

ODNI chce niekoho, kto dokáže zistiť, či sú biologické neurónové siete citlivé na podobné klamstvá, čiže umelá klasifikácia neurónovej siete môže byť podvedená generatívnou sieťou.

Mozog môže nesprávne kategorizovať obrázky. Napríklad, určité vizuálne podnety môžu zavádzať mozog do vnímania niečoho, čo tam nie je, ako je optická ilúzia, alebo prípad pareidólie, kde ľudia vidia rozpoznateľné vzory v náhodných veciach. Štúdium mechanizmov zodpovedných za tieto javy na neurónovej úrovni by mohlo pomôcť výskumníkom určiť, či existujú spôsoby, ako zvýšiť odolnosť mozgu voči týmto druhom podnetov. Alebo možno, ak existujú spôsoby, ako urobiť mozog náchylnejším na vnímavosť.

Jedným zo spôsobov, ako zistiť, je vybudovať si mozog sami, trénovať ho, aby rozpoznal a klasifikoval obrázky, a potom sa dostal do práce, ktorá ho manipuluje. Prinajmenšom ide o navrhované prvé kroky ODNI. Podľa vysielania je však ODNI „otvorený všetkým prístupom“.

K ďalším pozíciám, ktoré sa otvárajú v ODNI, patrí výroba drobných robotov, ktorí môžu manévrovať v úzkych priestoroch a na drsných povrchoch a manipulovať s objektmi s „obratnosťou a vysokými silami“ a ďalšou prácou zameranou na modelovanie správania „vnútorných hrozieb“ (dvojitého agenta) s neurálnymi sieťami,

Všetko je v poriadku.