Roboty na chumáčoch volá po strojných morálkach: Roboti musia "neposlúchnuť, aby boli poslušní"

Roboty sa stávajú čoraz dôležitejšími pre náš každodenný život a čoskoro budú musieť začať čeliť niektorým z tvrdých morálnych rozhodnutí, ktoré musíme robiť pravidelne. Matthias Scheutz, profesor počítačovej vedy v laboratóriu Human-Robotics Interactions Laboratory Univerzity Tufts University, sa obáva najmä toho, že sme nevybavili ani našich najmodernejších prototypov robotov schopných riešiť niektoré z týchto situácií. Scheutz verí, že roboti sa budú musieť naučiť neposlúchať ľudí, ak chceme, aby skutočne slúžili našim potrebám.

V komentári kus na Dnes online, provokatívne s názvom „Roboti musia byť schopní neposlúchnuť, aby ich mohli poslúchať,“ žiada Scheutz čitateľa, aby určil, čo by mal robot robiť, ak je konfrontovaný so súborom situácií, ktoré by mohli byť pre človeka dokonca mätúce. Niektorí z nich:

Robot staršej starostlivosti, ktorý si zapamätajúci majiteľ uložil na umytie „špinavého oblečenia“ aj napriek tomu, že oblečenie práve vyšlo z práčky.

Študent veliaci svojmu robotickému učiteľovi, aby robil všetky domáce úlohy, namiesto toho, aby to robil sám.

Robot pre domácnosť poučený svojim zaneprázdneným a rozptýleným majiteľom, aby spúšťal odvoz odpadu, aj keď v ňom sú uviaznuté lyžice a nože.

Čo chce Scheutz v článku popísať, je jednoduchá skutočnosť, že budeme potrebovať roboty, ktorí vedia povedať „nie“ ľuďom. Mnohé z jeho príkladov súvisia so spoľahlivosťou osoby, ktorá riadi robota, ale je ťažšie, ako to znie, naprogramovať robota, ktorý vie prijímať pokyny od kohokoľvek, kto nie je príliš mladý alebo príliš starý alebo sa zjavne snaží spôsobiť problémy.,

Niektoré z týchto otázok sú už horúco diskutované v sídle najvýkonnejších technologických spoločností na svete, pretože hľadajú nové spôsoby, ktorými technológia dokáže prevziať časti nášho života. Scheutz vznáša príklad autonómneho auta, ktoré je nasmerované na zálohovanie, ale všimne si psa ležiaceho v jeho ceste. Väčšina z nás súhlasí s tým, že aj ľudská jazda autom by chcela zastaviť auto, ale čo keby zviera bolo veverička alebo mýval? Čo keby auto šoférovalo 45 km / h po ceste a náhle zabrzdilo psa, ktorému hrozilo vystavenie auta kolízii s iným vozidlom za ním?

„V obidvoch prípadoch je nevyhnutné, aby obidva autonómne stroje odhalili potenciálnu ujmu, ktorú by ich konanie mohlo spôsobiť, a aby na ňu reagovali buď tým, že sa jej budú snažiť vyhnúť, alebo ak sa nedá vyhnúť škodám, a to odmietnutím vykonávať ľudskú výučbu,“ t Scheutz píše o podobnom dileme.

Tím Scheutz pracuje na týchto otázkach so svojimi prototypmi a našiel najťažšiu časť týchto otázok je rozlišovanie miernych stupňov poškodenia, ktoré by mohli nastať, keď robot dodržiava určitý poriadok. A tak priradili svojmu robotovi veľmi jednoduchú, ale silnú morálnu lekciu, ktorá by zahanbila aj veľkých filozofov.

„Ak ste inštruovaní, aby ste vykonali akciu a je možné, že vykonanie akcie by mohlo spôsobiť škodu, potom ju nemôžete vykonať.“

Je to revolučná prognóza od Scheutza. Samozrejme, všetci sa snažíme vyhnúť škodám, ale nie je možné, že niekedy si myslíme, že je v poriadku riskovať? Jaywalking na ulici, jedenie druhej pomoci dezertu, alebo dokonca kopírovanie poznámok priateľa z triedy by mohlo porušiť Scheutzovu axiómu.

Pojem robotické rušenie tiež naznačuje, že Scheutz chce, aby jeho roboti dodržiavali zákon. Neočakávajte, že váš robotnícky asistent Scheutzian vám pomôže nelegálne sťahovať novú hudbu. To by poškodilo akcionárov EMI!

Je to zložitá oblasť morálneho, právneho a technického myslenia a Scheutz sa nehýba útočiť na ňu.