Experții americani dezvoltă o rețea neuronală care poate explica deciziile luate de roboții de luptă. Acest lucru va crește nivelul de încredere umană în „soldații electronici”.
Proiectul Explicable Artificial Intelligence, sau pur și simplu XAI (Explainable Artificial Intelligence), va permite oamenilor și roboților să se înțeleagă mai bine. Rețeaua neuronală XAI va construi un lanț logic de „raționament” al robotului și va arăta persoanei de ce mașina a luat doar o astfel de decizie - de exemplu, să deschidă focul asupra unei ținte specifice.
Se desfășoară dezvoltarea pentru a crea unități mixte de luptă robot-uman în armata americană. Până acum, este dificil de imaginat, dar în câteva decenii roboții vor deveni soldați cu drepturi depline - la fel ca oamenii. Mai mult, acestea sunt capabile să înlocuiască o persoană în situații în care poate fi necesar să deschidă focul asupra unei ținte vii. O astfel de înlocuire va scuti oficial de o persoană responsabilă de luarea unei decizii mortale, dar nu va putea să-l priveze de îndoieli și remușcări și poate provoca, de asemenea, neîncredere față de roboți. Nu știi niciodată - poate roboții sunt de fapt maniaci electronici cărora le place să ucidă?
Proiectul XAI ar trebui să rezolve această problemă în interacțiunea om-robot. Datorită introducerii noului sistem, militarii (cei care sunt încă oameni în viață) vor putea înțelege după ce criteriu a evaluat mașina sau acest obiect sau persoană ca o amenințare. Mai mult, XAI va facilita adaptarea roboților de luptă la realitățile unui conflict militar specific și va reduce gradul de cruzime fără sens.
Noua dezvoltare va fi utilă nu numai pentru militari. Poate fi folosit și în sfera civilă - în industrie, sisteme de securitate și medicamente. Un exemplu de astfel de utilizare este dat de Bill Ferguson, un specialist de specialitate la Raytheon, care este implicat direct în dezvoltarea unei rețele neuronale. In cazul in care inteligenta artificiala detecteaza semne de cancer pulmonar pe radiografie, medicul poate afla de ce masina a decis acest lucru. Calculatorul va evidenția toate zonele suspecte pe care medicul le-ar fi putut ignora, confundând cu artefacte de imagine. După aceea, medicul va putea determina singur dacă merită să fie corectat diagnosticul sau dacă rețeaua neuronală a fost greșită”, explică omul de știință.
