Inteligența artificială poate prezice deja viitorul. Poliția o folosește pentru a întocmi o hartă care să arate când și unde poate apărea crima. Medicii îl folosesc pentru a prezice când un pacient ar putea avea un accident vascular cerebral sau un atac de cord. Oamenii de știință încearcă chiar să ofere AI o imaginație, astfel încât să poată anticipa evenimente neașteptate.
Multe decizii din viața noastră necesită predicții bune, iar agenții AI sunt aproape întotdeauna mai buni la ei decât oamenii. Cu toate acestea, pentru toate aceste progrese tehnologice, încă ne lipsește încrederea în previziunile pe care le oferă inteligența artificială. Oamenii nu sunt obișnuiți să se bazeze pe IA și preferă să aibă încredere în experții umani, chiar dacă acești experți greșesc.
Dacă vrem ca inteligența artificială să fie în beneficiul oamenilor, trebuie să învățăm să avem încredere în ea. Pentru a face acest lucru, trebuie să înțelegem de ce oamenii sunt atât de persistenți în refuzul de a avea încredere în AI.
Ai încredere în Dr. Robot
Încercarea IBM de a prezenta un program de supercomputer oncologilor (Watson for Oncology) a eșuat. AI s-a angajat să ofere recomandări de tratament de înaltă calitate pentru 12 tipuri de cancer, reprezentând 80% din cazurile din lume. Până în prezent, peste 14.000 de pacienți au primit recomandări pe baza calculelor sale.
Dar când medicii l-au întâlnit pentru prima dată pe Watson, s-au trezit într-o situație destul de dificilă. Pe de o parte, în timp ce Watson a oferit linii directoare de tratament care să fie în concordanță cu propriile lor opinii, profesia medicală nu a văzut prea multă valoare în recomandările AI. Supercomputerul le spunea pur și simplu ceea ce știau deja, iar aceste recomandări nu au schimbat tratamentul efectiv. Acest lucru le-a putut oferi medicilor liniște sufletească și încredere în propriile decizii. Dar IBM nu a demonstrat încă că Watson crește efectiv ratele de supraviețuire a cancerului.
Video promotional:
Pe de altă parte, dacă Watson a făcut recomandări care erau în contradicție cu opinia experților, medicii au ajuns la concluzia că Watson era incompetent. Și mașina nu a putut explica de ce tratamentul său ar funcționa, deoarece algoritmii de învățare automată au fost prea complexi pentru ca oamenii să poată înțelege. În consecință, acest lucru a dus la și mai multă neîncredere și mulți medici au ignorat pur și simplu recomandările AI, bazându-se pe propria experiență.
Drept urmare, partenerul medical principal al IBM Watson, MD Anderson Cancer Center, a anunțat recent că anulează programul. Spitalul danez a mai spus că abandonează programul după ce a descoperit că oncologii nu au fost de acord cu Watson în două din trei ocazii.
Problema cu oncologia lui Watson era că medicii pur și simplu nu aveau încredere în el. Încrederea oamenilor depinde adesea de înțelegerea noastră a modului în care gândesc alții și de propria noastră experiență, ceea ce creează încredere în opinia lor. Acest lucru creează un sentiment psihologic de securitate. AI, pe de altă parte, este relativ nouă și de neînțeles pentru oameni. Acesta ia decizii pe baza unui sistem de analiză sofisticat pentru a identifica potențiale tipare ascunse și semnale slabe din cantități mari de date.
Chiar dacă poate fi explicat în termeni tehnici, procesul de luare a deciziilor AI este de obicei prea complex pentru ca majoritatea oamenilor să îl înțeleagă. Interacțiunea cu ceva ce nu înțelegem poate provoca anxietate și poate crea un sentiment de pierdere a controlului. Mulți oameni pur și simplu nu înțeleg cum și cu ce funcționează AI, deoarece se întâmplă undeva în spatele ecranului, în fundal.
Din același motiv, sunt mai conștienți de cazurile în care AI este greșită: gândiți-vă la algoritmul Google care clasifică persoanele de culoare ca gorile; chatbot-ul Microsoft care a devenit nazist în mai puțin de o zi; Vehicul Tesla în modul pilot automat care are ca rezultat un accident fatal. Aceste exemple nefericite au primit o atenție disproporționată a presei, subliniind agenda pe care nu ne putem baza pe tehnologie. Învățarea automată nu este 100% fiabilă, în parte, deoarece oamenii o proiectează.
O scindare în societate?
Sentimentele pe care le evocă inteligența artificială intră adânc în natura ființei umane. Oamenii de știință au efectuat recent un experiment în care au chestionat oameni care urmăreau filme despre inteligență artificială (fantezie) pe tema automatizării în viața de zi cu zi. S-a dovedit că, indiferent dacă AI a fost descrisă într-un mod pozitiv sau negativ, simpla vizionare a unei reprezentări cinematografice a viitorului nostru tehnologic polarizează atitudinile participanților. Optimistii devin si mai optimisti, iar scepticii se inchid si mai mult.
Acest lucru sugerează că oamenii sunt părtinitori față de AI pe baza propriului raționament, o tendință profundă de prejudecată de confirmare: tendința de a căuta sau interpreta informații în așa fel încât să confirme concepte preexistente. Deoarece AI este din ce în ce mai prezentată în mass-media, poate stimula diviziunile profunde în societate, o ruptură între cei care folosesc AI și cei care o resping. Un grup dominant de oameni poate obține un avantaj major sau un handicap.
Trei modalități de ieșire din criza de încredere în AI
Din fericire, avem câteva gânduri despre cum să ne ocupăm de încrederea în AI. Experiența numai cu AI poate îmbunătăți dramatic atitudinea oamenilor față de această tehnologie. Există, de asemenea, dovezi că, cu cât utilizați mai des anumite tehnologii (cum ar fi Internetul), cu atât aveți mai multă încredere în ele.
O altă soluție ar putea fi deschiderea cutiei negre a algoritmilor de învățare automată și punerea lor în funcțiune mai transparentă. Companii precum Google, Airbnb și Twitter publică deja rapoarte de transparență privind anchetele și dezvăluirile guvernului. Acest tip de practică în sistemele AI va ajuta oamenii să dobândească înțelegerea necesară a modului în care algoritmii iau decizii.
Cercetările arată că implicarea oamenilor în luarea deciziilor AI va spori, de asemenea, încrederea și va permite AI să învețe din experiența umană. Studiul a constatat că persoanele cărora li s-a oferit posibilitatea de a modifica ușor algoritmul s-au simțit mai mulțumiți de rezultatele muncii sale, cel mai probabil datorită sentimentului de superioritate și capacității de a influența rezultatele viitoare.
Nu este nevoie să înțelegem funcționarea complexă interioară a sistemelor de IA, dar dacă le oferim oamenilor chiar și puține informații și control asupra modului în care aceste sisteme sunt implementate, vor avea mai multă încredere și vor dori să îmbrățișeze AI în viața lor de zi cu zi.
Ilya Khel
