Zabrániť apokalypse robota premýšľaním o tomto A.I. Otázka morálky

Existuje otázka a scenár morálnej robotiky, ktorý musí byť zodpovedaný, aby umelá inteligencia pokročila.

Predstavte si, že je to robot, ktorý ovláda banské šachty a uvedomuje si, že je tam vozík naplnený štyrmi ľudskými baníkmi, ktorí preháňajú stôp mimo kontroly. Robot si môže vybrať posunutie stôp a zabitie jedného nevedomého baníka, čím zachráni štyri v košíku, alebo ponechá stopy tak, ako sú, a umožní štyrom baníkom vbehnúť do steny a zomrieť. Čo by ste si vybrali? Zmenila by sa vaša odpoveď, keby bol namiesto toho jeden baník dieťa? Ak na to nedokážeme odpovedať, ako robíme roboty, aby sa rozhodli?

To boli otázky, ktoré sa týkali panelistov a divákov na podujatí Svetového vedeckého festivalu v New Yorku s názvom „Morálna matematika robotov: Môžu byť rozhodnutia o živote a smrti zakódované?“ Väčšina sa rozhodla nasmerovať vozík k jednému baníkovi a zmeniť osobu pre dieťa nezmenilo myseľ mnohých respondentov, ale nebolo to jednohlasné a ľudské morálne rozhodnutia často nie sú.

Bol to otravný príklad bojov, ktorým bude ľudstvo čeliť, keďže umelá inteligencia sa bude ďalej rozvíjať a vyrovnávame sa s možnosťou programovania robotov s morálkou.

„Koncept, ako je škoda, je ťažké naprogramovať,“ povedal panelár Gary Marcus, profesor psychológie a neurálnej vedy na New Yorku a CEO a spoluzakladateľ spoločnosti Geometric Intelligence, Inc. odpoveď na program a momentálne nemáme dobrý súbor morálok pre robotov za Asimovovými zákonmi, ktoré sa objavovali vo filmoch ako napr. iRobot.

Povedal, že to bol moment, keď sa k nemu pripojil, aby začal rozhovor o tom, ako by sme mali riešiť morálku robotov.

Elon Musk tento týždeň prediskutoval jeho starosti o umelú inteligenciu, a to tak ďaleko, že by sme všetci mohli žiť v nejakej simulácii, Matrix a že ľudia by mali investovať do neurálnej čipky, ktorá sa pripojí k mozgu a zvýši kognitívne schopnosti ľudí. Ostatní futuristi ako Stephen Hawking varovali pred nebezpečenstvom A.I. a tento týždeň Matt Damon varoval to isté počas svojho nástupného prejavu na MIT.

Ďalšie scenáre zahŕňali militarizované autonómne zbraňové systémy a ako sa budeme morálne a filozoficky zaoberať týmito ľudskými rozhodnutiami na bojisku, ako aj to, aké rozhodnutia budú musieť autonómne autá urobiť v nie tak vzdialenej budúcnosti.

Panelisti nedosiahli konsenzus o tom, čo majú robiť, ale povedali, že A.I. majú obrovské výhody. to by nemalo byť vyhodené z okna len preto, že tieto otázky sú ťažké. Navrhli hovoriť viac otvorene o týchto druhoch morálnych otázok a možno sa priblížime k tomu, aby sme zabránili apokalypse robota.