OpenAI spoločnosti Elon Musk môže byť sviežim pre bezpečný výskum umelej inteligencie

Počas víkendu Elon Musk, Sam Altman a ďalší bigwigs Silicon Valley nečakane oznámili spustenie neziskovej spoločnosti OpenAI, ktorá opisuje svoj cieľ ako: „posunúť digitálnu inteligenciu spôsobom, ktorý bude s najväčšou pravdepodobnosťou prospešný pre ľudstvo ako celok, finančná návratnosť. “

„Keďže náš výskum je bez finančných záväzkov, môžeme sa lepšie zamerať na pozitívny vplyv na človeka. Veríme, že A.I. by mal byť rozšírením individuálnych ľudských vôľ av duchu slobody, tak široko, ako je to len možné.

Z tohto oznámenia sú dva hlavné takeaways. Prvá je, že Musk a spoločnosť pozri A.I. Výskum je práve teraz príliš úzko zameraný na dosiahnutie krátkodobej praktickej hodnoty a chcú pomáhať napredovať v snahách o širší a komplexnejší prístup k rozvoju A.I. systémy. Druhý, viac zahalený stánok s jedlom je, že Musk je stále znepokojený potenciálom A.I. poškodiť, ak budeme vyvíjať a zavádzať systémy s polovičatým pečením. Musk predtým volal A.I. „Naša najväčšia existenčná hrozba“ a navrhla, že regulačný dohľad by mohol byť potrebný na zabránenie možným nebezpečenstvám. OpenAI by mohol byť spôsob, ako zabezpečiť tento dohľad bez potreby federálneho strážcu.

Čo robia Musk a jeho kolegovia, je to iné ako to, čo urobili iní. Koniec koncov, open source A.I. nie je nič nové. Spoločnosť Google si vytvorila vlastné A.I. softvér open source minulý mesiac a toto sa stalo pomerne štandardným postupom. OpenAI je však jednou z najväčších organizácií, ktoré pracujú na A.I. výskumu a pomerne ľahko aj najväčšiu neziskovú organizáciu. Jeho cieľom je sprístupniť svoje výsledky verejnosti a všetky jeho patenty bez poplatkov. Majú mrkvu a palicu a chcú ju použiť na riadenie priemyslu.

Myšlienkou je využiť OpenAI ako druh protiváhy väčších korporácií, súkromných výskumných laboratórií a dokonca aj svetových vlád, ktoré majú neuveriteľné množstvo peňazí a zdrojov, aby mohli naliať svoje vlastné A.I. výskum, ktorý nemusí byť venovaný priateľským účelom a mohol by namiesto toho viesť k technológiám s nekalými aplikáciami. Výskumní pracovníci, ktorí pracujú s OpenAI, budú v podstate sledovať „priateľský“ prístup, bez tlaku na okamžité výsledky. Môžu existovať väčšie úvahy o bezpečnostných a konštrukčných prvkoch, ktoré by súkromné ​​podniky mohli mať tendenciu ignorovať. Nebude existovať biela veža, kde by cesta A.I. Rozvoj. Bude to vítaný svet pre každého.

V rozhovore Backchannel, Musk tiež zdôrazňuje túžbu urobiť širokú škálu A.I. systémy. „Chceme A.I. byť rozšírený, “hovorí. "Myslíme si, že mnohí sú dobrí."

To je dôležité, pretože sa primárne podieľa na primárnom dôvode, prečo Musk a Altman chcú demokratizovať A.I. Veria, že najlepší druh A.I. - ten druh, ktorý bude prínosom pre ľudstvo pozitívnym spôsobom bez vytvárania robotických pánov - je to druh, ktorý pôsobí ako „rozšírenie individuálnej ľudskej vôle“, ako to píše Musk. On ďalej hovorí:

„Ako v prípade A.I. každá osoba je v podstate symbiotická s AI na rozdiel od AI, ktorá je veľkou centrálnou inteligenciou, ktorá je druhom iného. Ak sa zamyslíte nad tým, ako používate aplikácie na internete, máte svoj e-mail a máte sociálne médiá a aplikácie vo svojich telefónoch - skutočne vás robia nadľudskými a nemyslíte na ne ako na Ak ste iní, považujete ich za rozšírenie seba samého. Takže do tej miery, že môžeme viesť AI v tomto smere, chceme to urobiť. Našli sme množstvo podobne zmýšľajúcich inžinierov a výskumníkov v oblasti AI, ktorí sa cítia podobne. “

V podstate, vízia OpenAI pre A.I. výskum je decentralizovaná komunita, ktorá pomáha spojiť ľudské bytosti s človekom a so samotným svetom.

Musk ešte nenavrhol, ako by zabránili tomu, aby výskum v rámci samotného OpenAI - alebo zamenený vonkajšími skupinami - šiel nebezpečným smerom. A je tu ešte niečo, čo si zaslúži poznámku: Open source systémy majú zmysel len vtedy, ak sú údaje použité na vytvorenie algoritmov strojového učenia voľne zdieľané. Inteligentný systém musí učiť sa ako byť inteligentný, a preto sa musí poučiť z údajov a skúseností. Je to ako stavať priehradu - potrebujete plány (algoritmus) a stavebné materiály (údaje), aby ste skutočne vytvorili niečo, čo zastaví vodu.

To je dôvod, prečo sú ľudia stále obmedzení v tom, čo môžu robiť s TensorFlow spoločnosti Google. A ak spolupráca založená na OpenAI neumožňuje voľný prístup k tým istým údajom, s ktorými pracujú interní výskumníci, vízia Muska nebude nevyhnutne realizovaná - alebo aspoň nie spôsobom, akým ju propaguje.

Musk, Altman a ďalší zakladatelia OpenAI začali niečo, čo bude mať obrovský vplyv na rast A.I. odtiaľto. Zároveň budú musieť byť otvorení vo svojom odhodlaní podporovať výskumnú komunitu s otvoreným zdrojovým kódom, čo znamená byť verejný o svojich plánoch pre neziskovú spoločnosť a byť ochotný zdieľať údaje. V opačnom prípade sa OpenAI nijako nelíši od spoločností, ktoré boli určené na stádo.