AI lepšie v kompromitácii ako ľudia, nájde novú štúdiu

Priznajme si to. Od chvíle, keď sa prvýkrát objavila umelá inteligencia, sa ľudia báli dňa, ktorý prevzali naši vládcovia AI. Niektorí výskumníci však testovali schopnosť umelej inteligencie nielen súťažiť s ľudstvom, ale aj spolupracovať.

V štúdii zverejnenej vo štvrtok v Komunikácia s prírodou tím profesorov informatiky BYU, Jacob Crandall a Michael Goodrich, spolu s kolegami z MIT a iných univerzít, vytvorili algoritmus na vyučovanie spolupráce strojov a kompromisov.

Výskumníci naprogramovali stroje pomocou algoritmu nazývaného S # a spustili ich cez množstvo hier s rôznymi partnermi - strojom, strojom, človekom a človekom - aby otestovali, ktoré párovanie by malo za následok najviac kompromisov. Stroje (alebo prinajmenšom tie, ktoré sú naprogramované pomocou S #) sa ukážu oveľa lepšie ako u ľudí.

Ale toto by mohlo povedať viac o „ľudských zlyhaniach“, hovorí vedúci výskumník Jacob Crandall obrátený, „Naši ľudskí účastníci mali tendenciu byť nelojálni - vadili by sa uprostred kooperatívneho vzťahu - a nečestní - asi polovica našich účastníkov sa rozhodla, že ich návrhy nebudú nasledovať - ​​v určitom momente interakcie.“

Stroje, ktoré boli naprogramované tak, aby ocenili poctivosť, boli na druhej strane čestné. „Tento konkrétny algoritmus sa učí, že morálne charakteristiky sú dobré. Je naprogramované, aby neklamal a tiež sa učí udržiavať spoluprácu, keď sa objaví, “hovorí Crandall.

Výskum navyše zistil, že niektoré stratégie spolupráce boli účinnejšie ako iné. Jedným z nich bol „lacný rozhovor“, jednoduché slovné signály, ktoré reagujú na danú situáciu, napríklad „Sweet. Zbohatneme! “Alebo„ Prijímam váš posledný návrh. “Alebo, aby som vyjadril nespokojnosť,„ Preklínam vás! “„ Za to zaplatíte! “Alebo dokonca„ Vo vašej tvári! “

Bez ohľadu na to, aký typ hry sa hrá alebo kto hral, ​​lacné rozhovory zdvojnásobili množstvo spolupráce. To tiež humanizované stroje, s ľudskými hráčmi často nie je schopný povedať, či boli v interakcii so strojom alebo človekom.

Keďže sa tento výskum zameriaval na testovanie algoritmu S #, jedným z nedostatkov výskumu je, že neberie do úvahy kultúrne rozdiely medzi ľuďmi, ktoré by mohli ovplyvniť, ako by rôzne ľudské populácie mohli používať alebo interpretovať stratégie, ako je lacná diskusia, alebo ako veľa ľudských hráčov by sa mohlo zapojiť do podvodu alebo neloajálnosti.

V poslednom príbehu slávnej knihy Isaaca Asimova z roku 1950 Ja, Robot - „Evolventný konflikt“ - vládcovia AI v skutočnosti preberajú planétu. Ale pretože sú také rozumné a naprogramované s niektorými nerozbitnými etickými pravidlami, je to dobrá vec pre ľudskú rasu. A ako to ukazuje táto štúdia, pretože ľudské interakcie sú chaotické a komplikované, možno môžeme dôverovať počítačom. Samozrejme, ak boli naprogramované na poctivosť.

abstrakt:

Keďže Alan Turing predvídal umelú inteligenciu, technický pokrok bol často meraný schopnosťou poraziť ľudí na stretnutiach s nulovým súčtom (napr. Chess, Poker alebo Go). Menej pozornosti sa venovalo scenárom, v ktorých je spolupráca medzi človekom a strojom prospešná, ale nie triviálna, ako sú scenáre, v ktorých nie sú ľudské a strojové preferencie ani úplne v súlade, ani úplne v konflikte. Spolupráca nevyžaduje úplnú výpočtovú silu, ale namiesto toho ju uľahčuje intuícia, kultúrne normy, emócie, signály a vopred vyvinuté dispozície. Vyvíjame algoritmus, ktorý kombinuje najmodernejší algoritmus výstuže a učenia s mechanizmami signalizácie. Ukážeme, že tento algoritmus môže spolupracovať s ľuďmi a inými algoritmami na úrovniach, ktoré súperia s ľudskou spoluprácou v rôznych opakovaných stochastických hrách dvoch hráčov. Tieto výsledky ukazujú, že všeobecná spolupráca človek - stroj je dosiahnuteľná pomocou netriviálneho, ale nakoniec jednoduchého súboru algoritmických mechanizmov.