DARPA sa rozhodla, že chce skutočne porozumieť A.I.

Pentagon chce zistiť, čo robí umelú inteligenciu tickom. Agentúra DARPA (Defence Advanced Research Projects Agency) vo štvrtok oznámila, že sa veľmi zaujíma o vysvetľujúce informácie A.I. projektov známych ako XAI. Novinkou je ostrý odchod pre agentúru, ktorá predtým uprednostnila A.I. efektívnosť, namiesto toho, aby skutočne pochopili, ako systémy prichádzajú k rozhodnutiam.

DARPA hľadá podporu pre A.I. projektov, ktoré koncovému užívateľovi objasnia, prečo sa niečo stalo. Napríklad, DARPA chce, aby analytici inteligencie pochopili, prečo odporúčania ich A.I. pošle ich. Ak sa ľudský analytik pozerá do A.I. by mali pochopi t, prečo po t A.I. Podobne ako v prípade agentúry Cyber ​​Grand Challenge financovanej agentúrou by bolo potrebné, aby bol navrhnutý transparentnejším spôsobom, ale oznámenie spoločnosti DARPA uviedlo, že bude zvažovať rôzne používateľské rozhrania (nie je to príliš veľa detailov o tom, ako by mal projekt XAI vysvetliť.)

Abstrakty pre potenciálne projekty sú naplánované na 1. september a DARPA očakáva, že výskumníkom poskytne viacnásobné ocenenia. Patria medzi ne zákazky na obstarávanie a dohody o spolupráci, agentúra však neudelí granty. Agentúra tiež hľadá tímy, ktoré môžu vykonávať výskum ako Ad interim by sa mala vysvetliť; inými slovami, výskumníci musia študovať A.I. rovnako ako psychológovia študujú, ako ľudská myseľ spracováva informácie za rôznych okolností.