Tu je návod, ako môžeme zastaviť budúcnosť Rogue A.I. od Imitating HAL 9000

Ako zastavíme budúcu A.I. neuposlúchnuť rozkazy a rozhodnúť sa ísť svojou vlastnou cestou? Môže to znieť ako spiknutie 2001: Space Odyssey, ale jeden expert tvrdí, že je to niečo, o čom už musíme začať premýšľať. Samozrejme, že by sme mohli vypnúť vyhľadávací algoritmus Google, ak by sa to stalo nečestným, ale keď sa stretnete s finančnými a právnymi dôsledkami, môže byť ľahšie povedať, ako urobené. V budúcnosti, keď budeme závisieť od pokročilejšieho A.I., by sa to mohlo ukázať ako nemožné.

„Tento algoritmus nebol zámerne navrhnutý sám je nemožné reštartovať alebo vypnúť, ale je to spoluvyvinuté tak, “povedal Stuart Armstrong, výskumný pracovník Inštitútu budúcnosti ľudstva, na summite Pirate Summit 2016 v stredu. To znamená, že zmena s neúmyselnými výsledkami môže byť ťažko napraviteľná a nemusí to byť prvá A.I. v tejto situácii.

Riešenie Isaaca Asimova bolo tromi zákonmi robotiky, ktoré tvrdé kódy nápady, ako by nespôsobovali škodu ľuďom. Problém je, že škoda je skôr subjektívna a otvorená interpretácii. Ľudia pracujú viac na hodnotách, ako je pochopenie, že je zlé spôsobiť škodu a interpretovať situáciu, než pracovať na nejakom tvrdom pravidle, ktoré by nikdy nemali poškodiť.

„Je to kvôli tomuto druhu problému, že ľudia sú teraz oveľa horlivejší v používaní strojového učenia na získanie hodnôt, než aby sa ich pokúšali kódovať týmto tradičným spôsobom,“ povedal Armstrong. „Hodnoty sú stabilné takým spôsobom, že iné veci nie sú v A.I. Hodnoty sa bránia prirodzene. “

Ale aj v týchto situáciách je dôležité navrhnúť A.I. aby boli prerušené, keď sú spustené. Bezpečná prerušiteľnosť umožňuje bezpečné politické zmeny, ktoré môžu zabrániť neúmyselným dôsledkom naučeným hodnotám. Ak sa HAL 9000 pokúšal zastaviť otváranie dverí pod zálivom, je dôležité, aby sme zistili, že hodnoty A.I. sú rozbité a zasahujú bez toho, aby bol systém offline.