Musk, Wozniak, and Hawking Push to Stop AI Warfare
AK-47 je už desaťročia vražedným strojom v mnohých prašných kútoch sveta, pretože je lacný, trvanlivý a všadeprítomný. Tie isté faktory, argumentujú signatári otvoreného listu zverejneného v pondelok z Inštitútu budúcnosti života, sú dôvodom, prečo sú autonómne zbrane plné nebezpečenstva. Čo však oddeľuje umelú inteligenciu od kalašnikovov, je to, že autonómny stroj môže „vybrať a zapojiť ciele bez ľudského zásahu“ - čo by v nesprávnych rukách mohlo spáchať zverstvá oveľa väčšie ako akékoľvek nevypočítateľné pušky.
Signatári majú pre nich svoju prácu. Ako ľudia sme ako celok omnoho lepšie ako reagovať. Hlavní hráči boli pomalí k znižovaniu našich jadrových zbraní (a budovanie autonómnych dronov, myslenie ide, by vyžadovalo zlom strojného zariadenia, ktoré ide do vytvárania nuke); inde, pozemné míny stále dotierajú desaťročia staré bojiská. Keď technológia stála za revolúciou vo vojne - či už ide o pušný prach alebo námorné dreadnoughts alebo obohatený urán - takmer nikdy nie boli preteky v zbrojení.
FLI rozlišuje medzi bezpilotnými lietadlami, ktoré máme teraz, riadenými na diaľku ľudskými rukami a robotom zapnutým a ponechaným na vlastné vražedné zariadenia. Vytvorenie tejto skupiny by vyvolalo globálne preteky v zbrojení AI, o ktorých FLI tvrdí, a ako ukazuje história kalašnikov, neskončila by dobre:
Bude len otázkou času, kým sa objavia na čiernom trhu av rukách teroristov, diktátorov, ktorí chcú lepšie kontrolovať svoj ľud, vojnovcov, ktorí chcú spáchať etnické čistky atď. Autonómne zbrane sú ideálne pre úlohy ako sú atentáty, destabilizácia národov, potláčanie obyvateľstva a selektívne zabíjanie určitej etnickej skupiny. Sme preto presvedčení, že vojenské zbrane pretekov v AI by neboli pre ľudstvo prospešné. Existuje mnoho spôsobov, ako môže AI urobiť bojiská bezpečnejšie pre ľudí, najmä civilistov, bez vytvárania nových nástrojov na zabíjanie ľudí.
To je nejaká ťažká sračka. Názvy, ktoré stoja za týmto varovaním, nie sú vašim bežným Skyck crackpots - sú tvorcami, inžiniermi, vedcami a filozofmi, ktorí pomáhali formovať to, čo naša technológia vyzerá dnes. K ich názvu patria: Steve Wozniak z Apple, Jaan Tallin z Skype, fyzik z Harvardu Lisa Randall, kto je z výskumníkov a robotických umelcov AI - vrátane Stuarta Russella, Barbary J. Grosz, Toma Mitchella, Erica Horvitza - herečky Talulah Riley, Noam Chomsky, Stephen Hawking.
Hawking má v poslednej dobe trochu trochu pesimistického ohýbania, a tiež zopakoval svoje predpovede o nebezpečenstvách, s ktorými sa stretáva mimozemský život. Tento týždeň bude tiež odpovedať na otázky o tomto liste a budúcnosti technológie na Reddite - možno nebudeme schopní kontrolovať nepriateľské cudzinca, ale môžeme dať „záležitosť vedcom v popredí tejto technológie, aby sme udržali ľudský faktor a ich inovácie. “
Vaše meno môžete pridať aj do listu.
Povedia autonómne zbrane „nie“ nelegálnym príkazom?
Baynazar Mohammad Nazar bol na operačnom stole v bezvedomí, keď sa na neho začal zrútiť strop. Otec štyroch sa do nemocnice prepustil predchádzajúci deň po tom, čo bol zastrelený na nohe, a počas dvoch dní podstúpil druhú operáciu na opravu zranenia. Keď Američania začali ničiť stavbu ...
Autonómne vozidlá môžu podnecovať bezohľadnú ľudskú jazdu
Nová štúdia, ktorú vypracovala London Society of Economics and Political Science, poukazuje na to, že vodiči môžu nixovať výhody bezpečnosti autonómnych vozidiel.
Tesla: Elon Musk odhaľuje, kedy je úplne autonómne A.I. Chip sa spustí
Tesla je super-pokročilý A.I. čip je takmer tu. V stredu, CEO Elon Musk zdieľal viac podrobností o nadchádzajúcom hardvérovom upgrade, ktorý nahradí Nvidia Drive PX 2 nájdené v existujúcich áut, aby nakoniec kompletné, point-to-point autonómne riadenie.