OpenAI: Bývalá firma Elona Muska je na pokraji novej A.I. éra

Nezisková organizácia OpenAI, ktorá sa zaoberá výskumom umelej inteligencie, spoluzakladateľom Elona Muska v roku 2016, urobila veľké pokroky - dokonca aj po tom, čo sa Musk rozlúčil medzi nezhodami o jeho smerovaní. Výskumní pracovníci vyvinuli systémy, ktoré môžu hrať hry, písať novinové články a pohybovať sa fyzickými objektmi s prelomovými úrovňami obratnosti.

OpenAI vyvolala kontroverziu s výskumom. Minulý týždeň oznámila vývoj jazykového modelu GTP2, ktorý dokáže generovať texty s obmedzenými výzvami. Vzhľadom k ľudsko-písomnej výzve "Miley Cyrus bola chytená krádeže od Abercrombie a Fitch na Hollywood Boulevard dnes," systém produkoval verný kompletný príbeh, ktorý pokračoval s "19-rok-starý spevák bol chytený na kameru je eskortovaný z obchodu strážcovia. “

Vytvoril tiež tento pôvodný príbeh o rozprávaní jednorožcov na základe krátkej výzvy:

„Nie som viac ako rok úzko zapojený do OpenAI a nemám manažment ani dozor nad radou,“ komentoval cez víkend Musk Twitter. „Musel som sa zamerať na riešenie bolestne veľkého počtu technických a výrobných problémov v Tesle (najmä) & SpaceX. Tesla tiež súťažil o tých istých ľudí ako OpenAI & I, s ktorými som nesúhlasil. Pridať, že všetko hore & to bolo len lepšie rozdeliť cesty za dobrých podmienok.

Firma pôvodne vyzerala ako ideálny spôsob, ako Musk dosiahnuť svoje ciele využitia A.I. pre dobro ľudstva. Podnikateľ predtým varoval pred „základným rizikom“ pre civilizáciu, ktorú predstavujú super-inteligentné stroje, a vyzval vlády, aby regulovali „ako my, jedlo, drogy, lietadlá a autá“.

Musk prisľúbil 10 miliónov dolárov na založenie firmy a jej poslanie sa zameriava na „objavovanie a uzákonenie cesty k bezpečnej umelej inteligencii“.

Nie je ťažké zistiť, ako by mohli programy, ktoré robia príbehy, ako je to, o ktorých sa delí výkonný manažér OpenAI Greg Brockman, použiť relatívne malý počet ľudí, aby ovplyvnili názory menej zdatnej verejnosti.

Zamestnanec OpenAI vytlačil túto písomnú vzorku AI a zaslal ju do recyklačného koša: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. februára 2019

„Kvôli našim obavám o škodlivých aplikáciách tejto technológie neuvádzame vyškolený model,“ vysvetlila spoločnosť v blogovom príspevku. „Ako experiment v zodpovednom zverejňovaní sme namiesto toho vydali oveľa menší model pre výskumných pracovníkov, aby sme mohli experimentovať, ako aj technický dokument.“

Oznámenie viedlo k obavám, že technológia by mohla byť použitá na vytvorenie falošných správ. Analytics India varoval, že s nadchádzajúcimi indickými voľbami koncom tohto roka, A.I. by mohol spôsobiť katastrofu s demokratickým procesom. Samotní výskumníci OpenAI tvrdia, že v kombinácii s výskumom výroby syntetického zvuku a videa „verejnosť bude musieť byť viac skeptická voči textu, ktorý nájdu online“.

Ryan Lowe, A.I. vedec a bývalý internista OpenAI, zhrnul hrozbu programu, ako je tento, ktorý sa používa na vytvorenie falošných správ stručne v tomto zloženom príspevku Medium:

… Automatizovaný systém by mohol: (1) umožniť zlým aktérom, ktorí nemajú prostriedky na prenájom tisícov ľudí, aby viedli rozsiahle dezinformačné kampane; a (2) drasticky zvýšiť rozsah dezinformačných kampaní, ktoré už riadia štátni aktéri.

Nie všetky výskumy OpenAI sa ukázali ako kontroverzné. Dactyl, ktorý bol predstavený v júli 2018, sa môže prispôsobiť fyzike reálneho sveta a manipulovať s objektmi v reálnom svete. Robotická ruka je vysoko komplexná, s 24 stupňami voľnosti, ale systém môže ľahko pohybovať objektmi len pomocou troch RGB kamier a súradníc robotovej ruky.

Ruka robota využíva univerzálne algoritmy výučby výstuže používané na porážku ľudí na videohrách. Tím „OpenAI Five“ sa postavil proti tímu profesionálov Dota 2 V roku 2018 bol systém vyškolený na hry v hodnote 180 rokov, pričom využil ohromujúcich 128 000 jadier procesorov a 256 grafických procesorov. Aj keď porazil ľudský tím bývalých profesionálov a streamerov Twitch, zlyhal proti profesionálnym hráčom.

Pižmo používa Dota 2 zápasy upozorniť na Neuralink, jeho plán vytvoriť symbiotický vzťah s A.I. prepojením ľudského mozgu a zabránením prevzatia robota:

Skvelá práca @OpenAI. Čoskoro potrebujú nervové rozhranie, aby umožnila ľudskú / AI symbiózu.

- Elon Musk (@elonmusk) 6. augusta 2018

Vo svojom oznámení o generátorovi textov OpenAI uviedla, že plánuje diskutovať o svojej širšej stratégii za šesť mesiacov. Firma dúfa, že sa začne rozprávať o nebezpečenstvách umelej inteligencie, čo by sa mohlo vyhnúť niektorým scenárom katastrof, ktoré predstavil Musk. Avšak aj spoločnosť priznáva, že je „nie je isté, že“ zadržiavanie textového generátora „je dnes správne rozhodnutie“. S rozkolom, ktorý sa už vytvoril medzi dvoma hlavnými subjektmi varujúcimi pred nebezpečenstvom AI, je nepravdepodobné, že zákonodarcovia budú mať ľahký prístup času.