Ameriški strokovnjaki razvijajo nevronsko mrežo, ki lahko razloži odločitve, ki jih sprejmejo bojni roboti. To bo povečalo raven zaupanja ljudi v "elektronske vojake".
Projekt Razložljiva umetna inteligenca ali preprosto XAI (Razložljivo umetna inteligenca) bo ljudem in robotom omogočil, da se bodo bolje razumeli. Nevronsko omrežje XAI bo zgradilo logično verigo "sklepanja" robota in osebi pokazalo, zakaj je stroj sprejel ravno takšno odločitev - na primer za odprtje ognja na točno določeno tarčo.
Poteka razvoj v ustvarjanju mešanih bojnih enot robot-človek v ameriški vojski. Zaenkrat si je težko predstavljati, a čez nekaj desetletij bodo roboti postali polnopravni vojaki - tako kot ljudje. Poleg tega so sposobni nadomestiti človeka v okoliščinah, ko bo morda treba odpreti ogenj po živi tarči. Taka zamenjava bo uradno razbremenila človeka odgovornosti za sprejetje smrtonosne odločitve, vendar je ne bo mogel odvzeti dvomov in kesanja, prav tako pa lahko povzroči nezaupanje do robotov. Nikoli ne veste - so morda roboti pravzaprav elektronski manijaki, ki radi ubijajo?
Projekt XAI bi moral rešiti ta problem v interakciji človek-robot. Zahvaljujoč uvedbi novega sistema bodo vojaki (tisti, ki so še živi ljudje) lahko razumeli, po katerem kriteriju je stroj ocenil ta ali tisti predmet ali osebo kot grožnjo. Poleg tega bo XAI bojnim robotom olajšal prilagajanje resničnostim specifičnega vojaškega konflikta in zmanjšal stopnjo nesmiselne surovosti.
Nov razvoj bo koristen ne samo za vojsko. Uporablja se lahko tudi v civilni sferi - v industriji, varnostnih sistemih in medicini. Primer takšne uporabe poda Bill Ferguson, vodilni specialist v Raytheonu, ki je neposredno vključen v razvoj nevronske mreže. Če umetna inteligenca odkrije znake pljučnega raka na rentgenu, lahko zdravnik ugotovi, zakaj se je stroj tako odločil. Računalnik bo osvetlil vsa sumljiva področja, ki bi jih zdravnik lahko preznal, in se motil za slike. Po tem bo zdravnik lahko sam ugotovil, ali je vredno popraviti diagnozo ali se je nevronska mreža zmotila, «razlaga znanstvenik.