Cum calculatoarele iau decizii ciudate
Inteligența artificială se dezvoltă atât de rapid încât mulți încep să simtă anxietate: dacă în curând va putea experimenta emoții și va lua propriile decizii. Fie că este un bot, un vehicul autonom sau un factor de decizie în afaceri și știință: inteligența artificială pătrunde în toate domeniile vieții și societății noastre. Creierul mașinii este considerat logic, șomer și imparțial, dar practica arată că nu decid întotdeauna totul cu o minte deschisă.
Inteligența artificială este indispensabilă acolo unde este important să recunoaștem tiparele în cantități mari de date și să ia decizii pe baza acestora. Dar, în viitor, sistemele de inteligență artificială ar putea fi utilizate și în zonele în care bunăstarea noastră și chiar viața noastră depind direct de concluzii - în medicină, în selecția de locuri de muncă, în emiterea de împrumuturi și în justiție.
Cât de corectă obiectiv și moral are decizia inteligenței artificiale? Putem avea cu adevărat încredere în creierul mașinii pentru a lua decizii atât de potențial importante?
Inteligența artificială este utilizată în toate domeniile
Chiar și acum, algoritmi adaptivi sunt folosiți în multe domenii ale vieții noastre de zi cu zi. Există asistenți digitali pentru înțelegerea comenzilor și întrebărilor vocale. Pe Internet, roboții web ajută la menținerea și controlul site-urilor web, astfel încât acestea sunt dificil de diferențiat de oameni. Chiar și atunci când sunt detectate știri false și manipulări de imagine, sunt implicate sisteme de inteligență artificială.
Video promotional:
Sistemele AI își fac treaba și în industrie, afaceri și chiar guvernare. Aceștia optimizează și controlează procesele de producție, reglează logistica porturilor de containere și a depozitelor mari sau păstrează înregistrări contabile. Companiile de asigurări și băncile au deja primele programe inteligente pentru verificarea cererilor depuse sau luarea deciziilor privind plățile. La Ikea, Deutsche Telekom și la multe alte companii, UNICEF sau biblioteci, asistenți virtuali sunt implicați în serviciul pentru clienți.
Cantitate mare de date prelucrate pentru instruire
Toate acestea sunt posibile datorită capacității sistemelor AI de a analiza rapid cantități uriașe de date, de a identifica tiparele și corelațiile. De exemplu, algoritmul învață din nenumărate fotografii ale animalelor de companie cu nume potrivite. După o perioadă de antrenament, sistemul poate selecta fotografii complet noi ale speciilor dorite. Recunoaște singur diferențele.
Multe alte sisteme AI folosesc textul ca bază pentru învățare. Ei evaluează contextul în care se află un cuvânt și îi studiază semnificația semantică, precum și relațiile cu cuvinte sau sinonime similare. Aceste relații semantice traduc programe în expresii matematice și astfel învață chiar contexte semantice complexe.
Numai datorită acestei abilități, inteligența artificială poate, de exemplu, evalua datele medicale și înregistrările medicale și poate deduce caracteristicile imaginilor clinice din acestea. Pe baza acestor rezultate, sistemele de AI sunt deja utilizate ca instrumente de diagnosticare, ele pot recunoaște diverse tipuri de cancer, semne ale bolii Alzheimer, afecțiuni suicidare și niveluri periculoase de zahăr în diabet.
Dar pe cât de atractiv pare, tot mai mult AI are un dezavantaj mare. Inteligența artificială suplimentară pătrunde practic în toate sferele societății noastre, cu atât sunt mai mari consecințele potențiale ale deciziilor sale. Viitorul financiar sau profesional al unei persoane, sau chiar al vieții sale, depinde de judecata sa.
Soluții AI care pot costa vieți
De exemplu, dacă un AI diagnosticează greșit în medicament fără a fi pus la îndoială, pacientul poate fi supus unui tratament greșit sau chiar poate muri. Armata folosește un sistem de arme autonom care ia decizii greșite. De exemplu, AI nu poate distinge un prieten fugit de un inamic, moartea nevinovată.
Algoritmii AI sunt deja utilizați în instanțele din Statele Unite. Acestea prevăd probabilitatea reincidentei pentru infractori în instanță. Evaluarea acestora afectează adesea decizia instanței și, în consecință, sentința persoanei condamnate.
Dacă AI decide cu privire la împrumuturi
De asemenea, o decizie în materie de finanțe și asigurări poate afecta dacă o persoană primește un împrumut sau nu. Aceste sisteme sunt de obicei instruite folosind baze de date.
Și aici AI caută modele: care oamenii de obicei își plătesc împrumuturile și care nu? Își dezvoltă procedurile de evaluare și ia deciziile adecvate. În special, acest lucru înseamnă că persoanele care au un loc de reședință sau o ocupație greșită nu vor primi împrumuturi, indiferent de cât sunt dispuși să plătească, în ciuda acestor circumstanțe.
Cu o astfel de distribuție a responsabilităților cu computerele, o persoană va fi doar asistentă pentru executarea deciziilor de creier cibernetic. Și acest lucru se întâmplă deja.
Cine este responsabil pentru greșeli?
O altă problemă în dezvoltarea AI: cu cât sunt mai complexe principiile luării deciziilor, cu atât este mai dificil pentru om să le înțeleagă. De asemenea, ridică problema cine este responsabil pentru greșeli.
Cazurile de accidente la conducerea autoturismelor au devenit mai frecvente: cine este de vină pentru faptul că unele situații nu sunt stocate în memorie sau AI trage concluzii greșite. Sau poate își face propriile concluzii? Există deja astfel de exemple.
Bots de joc au dezvoltat propriile reguli în timpul jocului
Pentru acest studiu, cercetătorii au permis 100 de roboți inteligenți să interacționeze între ei într-un joc de concesiune. Fiecare dintre ei trebuie să decidă dacă donează ceva unei persoane din echipa sa sau unui participant la joc din afară.
Surprinzător, de-a lungul timpului, roboții au devenit din ce în ce mai excluși din grupurile din afara și doar donează membrilor echipei lor.
Motivul pentru asta: roșii inteligenți și-au adaptat strategia de joc, copiind comportamentul tovarășilor care au strâns cei mai mulți bani și au avut cel mai mare succes. Astfel, au apărut grupuri de roboți care s-au comportat în aceeași manieră și au exclus în mod constant participanții fără legătură la joc. Creând constant ceva care calculează, analizează și ia decizii mai repede decât ea, umanitatea va pierde într-o zi controlul asupra creației sale, acțiuni ale cărora nu va putea urmări.
Potrivit oamenilor de știință, acest lucru este evident: inteligența artificială nu are nevoie de date artificiale pentru a fi părtinitoare, este suficient să ai alte mașini în jurul ei. Pentru că chiar și asta poate crea o minte de grup care este cunoscută de comunitățile umane. Prin urmare, folosind AI, oamenii ar trebui să lase singuri decizia.
Vasilik Svetlana
