Ako UC Berkeley je nové centrum by mohlo zabrániť A.I. apokalypsa

University of California Berkeley práve pridal svoje meno k rastúcemu zoznamu renomovaných inštitúcií, ktoré sa snažia zabrániť zlovoľnej umelej inteligencii ničiť ľudstvo. Jeho nové Centrum pre ľudsko-kompatibilnú umelú inteligenciu, oznámené v pondelok, má zabezpečiť, že A.I. aj naďalej prospešné, a tiež aby sa predišlo t apokalypsa.

Berkeleyho vlastné A.I. Vedúci projektu je profesor Stuart Russell. Projekt Otvorená filantropia poskytol stredisku grant vo výške 5,5 mil. Niekoľko ďalších expertov z Berkeley, Cornell University a University of Michigan bude slúžiť ako spoluriešiteľský výskumník.

Cornell profesor Bart Selman povedal obrátený o Centre, A.I., že my mal a prečo sa svet pravdepodobne nevedie do pekla v handbasket - zatiaľ.

Čo by ste chceli dosiahnuť s Centrom pre ľudské kompatibility A.I.?

Tieto centrá sú relatívne novým rozvojom. Ľudia investujú - napríklad inštitút Budúcnosť života má investíciu Elona Muska z Tesly - aby sa zaoberal otázkami týkajúcimi sa budúcnosti života a možnými hrozbami pre budúcnosť života a spoločnosti. Ďalším príkladom takéhoto inštitútu je nové centrum v Berkeley.

Je inšpirovaný meniacou sa úlohou umelej inteligencie a výpočtovej techniky v našej spoločnosti. Tieto technológie sa sťahujú do našej spoločnosti a budú mať na nás vplyv. Tieto inštitúcie sú tu preto, aby spojili výskumných pracovníkov, aby preskúmali možné negatívne vplyvy, alebo ako zabezpečiť, aby neexistovali žiadne negatívne vplyvy.

Samotný názov centra naznačuje, že A.I. a ľudstvo je inherentne nekompatibilné. Je to váš názor?

To je prvá reakcia, ktorú ľudia majú, že tieto veci môžu byť nekompatibilné. Sme presvedčení, že s náležitými opatreniami a správnymi usmerneniami a výskumom môžeme skutočne zosúladiť záujmy a zabezpečiť, aby tieto technológie boli prospešné. Ad interim technológia má ohromné ​​pozitívne stránky a cieľom spoločnosti je zabezpečiť, aby sme zostali na pozitívnych stránkach. Výskumní pracovníci zapojení do inštitútu veria, že je to možné.

Ak by ste mohli zaujať vyhliadku na súd, čo by najpravdepodobnejší scenár súdneho dňa vyvolaný A.I.

Jasným rizikom by bol vojenský vývoj umelej inteligencie, ktorý by mohol viesť k zbrojným pretekom zbraní medzi krajinami: Autonómne zbrane, autonómne bezpilotné lietadlá, ktoré sa riadia svojimi vlastnými príkazmi, ktoré vyvinuli rôzne krajiny, ktoré sú voči sebe nepriateľské. To je najkonkrétnejšie riziko, aké vidím. Myslím, že A.I. pre vozidlá s vlastným riadením, napríklad - pre bežné úlohy v spoločnosti - bude veľmi prospešné. Ale vojenský aspekt je znepokojujúca zložka.

Je to už ťažká bitka?

Krajiny skutočne uvažujú o tejto otázke. V istom zmysle je to bitka v kopci: armáda postupuje smerom k rozvoju A.I. technológie. Boli však uzavreté dohody - napríklad biologické zbrane sú pravdepodobne najznámejším prípadom - kde sa krajiny v určitom okamihu rozhodli, že to bude prínosom pre všetky krajiny. nie vyvíjať biologické zbrane vo veľkom rozsahu. Dúfame, že krajiny si uvedomia, že nevýhoda pre každého je príliš veľká na to, aby sa dostala do úplného A.I. pretekov v zbrojení.

Ak obe strany vyvinú túto technológiu, nikto nebude pred nami.

Je tu niečo iné, čo by som mal vedieť o Centre, alebo o zlovoľnom A.I. všeobecne?

Je dôležité dať pozitívnu stránku. Je ľahké zdôrazniť riziká - a, samozrejme, to je aj dôvod, prečo sú tieto centrá založené - ale je tiež dôležité zdôrazniť, že veľa výskumníkov sa domnieva, že toto riziko je zvládnuteľné a že vzostupy budú obrovské.

Už ste dali perspektívu súdneho dňa. Aké sú niektoré potenciálne pozitívne použitia A.I. že si naozaj nadšený?

Pozitívnou stránkou bude spoločnosť, ktorej budeme touto technológiou pomáhať. Simultánne preklady reči - napríklad medzi čínštinou a angličtinou - kde sa ľudia môžu navzájom rozprávať, akoby hovorili rodným jazykom, a to po celom svete. Staršia starostlivosť: Ľudia môžu zostať tak dlho, ako chcú vo svojom dome, pretože majú robotického asistenta, ktorý im pomáha žiť nezávisle.

To bude mať pravdepodobne dosť dramatický vplyv na život vo všeobecnosti - pokiaľ ide o zamestnanosť, a to, čo uprednostňujeme.

Áno. Je tu diskusia o zamestnanosti, ktorá sa koná ako samostatná diskusia. Na podporu všetkých budú k dispozícii dostatočné zdroje, takže je tu otázka, ako sa uistíme, že z tohto vývoja budú mať prospech všetci. Bude re-realizácia toho, čo to znamená pracovať, aký druh práce ľudia budú robiť. V zásade však ľudia budú mať viac slobody a viac času na to, aby robili aktivity, ktoré majú radi, pretože stroje pomôžu s mnohými inými svetskými, práca -type veci. Bude to nejaký čas trvať, ale veríme, že spoločnosť sa prispôsobí a tieto zmeny pomaly začlení.

Tento rozhovor bol upravený pre prehľadnosť a stručnosť.