Ad interim Expert Virginia Dignum: Trolley Problem Ukazuje, prečo potrebujeme transparentnosť

Umelá inteligencia potrebuje transparentnosť, aby ju ľudia dokázali udržať na uzde. Virginia Dignum, docentka na Technickej univerzite v Delft, v piatok povedala publiku na Newyorskej univerzite, že ak nechápeme, prečo stroje fungujú tak, ako to robia, nebudeme schopní posúdiť ich rozhodnutia.

Dignum citoval príbeh Davida Berrebyho, vedeckého spisovateľa a vedeckého pracovníka, ktorý bol publikovaný v Psychológia dnes „Dôkazy naznačujú, že keď ľudia pracujú so strojmi, cítia sa menej ako agenti, keď pracujú sami alebo s inými ľuďmi.“

„Problém s vozíkom“, vysvetľuje Dignum, je oblasť, kde ľudia môžu umiestniť slepú vieru do stroja, aby si vybrali správny výsledok. Otázkou je, či prepnúť páku na hypotetický runaway vlak tak, že zabije jednu osobu namiesto piatich. Ľudia očakávajú, že stroje vyriešia problém najracionálnejším spôsobom. To však nemusí byť vždy tak, a transparentnosť by pomohla vysvetliť, ako sa stroj dostal k svojmu rozhodnutiu.

„Nie je to len veľmi hlboký reťazec udalostí neurónovej siete, ktoré nikto nemôže pochopiť, ale aby tieto vysvetlenia urobil tak, aby to ľudia mohli pochopiť,“ povedala.

Ad interim, Ktorý robí jeho fungovanie jasné, je oblasť DARPA bola skúmanie. Agentúra v auguste oznámila, že hľadá tímy, ktoré by sa zaujímali o vysvetliteľné informácie A.I. projektov známych ako XAI. Tieto systémy pomôžu výskumníkom pochopiť, prečo A.I. Urobil rozhodnutie, že urobil, dáva väčší priestor na rozhodnutie, čo robiť s výslednými informáciami skôr než slepo dôverovať stroj.

So strojovým učením Dignum poznamenal, že transparentnosť je dôležitejšia ako kedykoľvek predtým. „Nemôžeme očakávať, že sa systémy, a najmä stroje na strojové učenie, naučia a budú vedieť všetko hneď,“ povedala.„Nepredpokladáme, že by naši vodiči pri jazde plne porozumeli dopravným zákonom. V mnohých krajinách používajú tieto „L“ platne, aby ukázali: „Učím sa, ospravedlňujem sa za chyby, ktoré by som mohol urobiť.“ „Sledovanie AI, pochopenie toho, ako to prichádza k určitým rozhodnutiam a konaniu na základe toho bude rozhodujúce pre zastavujúce stroje, ktoré sa stále učia robiť zlé rozhodnutia.