Un nou studiu a arătat că manifestarea prejudecăților față de ceilalți nu necesită inteligență specială și se poate dezvolta cu ușurință în mașini inteligente artificial.
Psihologii și specialiștii în tehnologia informației de la Universitatea din Cardiff și MIT au arătat că grupuri de mașini autonome pot prezenta prejudecăți prin simpla definire a unui astfel de comportament, copierea acestuia și predarea reciprocă a acestuia.
Poate părea că prejudecățile sunt un fenomen pur uman, care necesită inteligența umană pentru a forma opinii sau stereotipuri despre o persoană sau grup. În timp ce unele tipuri de algoritmi informatici au arătat deja prejudecăți precum rasismul și sexismul bazate pe studiul înregistrărilor publice și alte date generate de oameni, lucrările noi demonstrează capacitatea AI de a dezvolta independent grupuri cu prejudecăți.
Cercetarea este publicată în Rapoarte științifice. Se bazează pe simulări computerizate ale modului în care agenții virtuali părtinitori pot forma grupuri și interacționează între ei. În timpul simulării, fiecare individ ia o decizie dacă să ajute pe cineva din grupul său sau de la altul, în funcție de reputația acelui individ, precum și de propria sa strategie, care include nivelurile de prejudecăți față de străini. După efectuarea a mii de simulări, fiecare individ învață noi strategii prin copierea altora - indiferent dacă sunt membri ai propriului grup sau al întregii „populații”.
Frecvența relativă cumulativă a caracteristicilor agenților în funcție de nivelul prejudiciului / Roger M. Whitaker.
„După ce am executat aceste simulări de mii și mii de ori la rând, am început să înțelegem cum se dezvoltă prejudecata și ce condiții sunt necesare pentru cultivarea sau prevenirea acesteia”, a declarat co-autorul studiului, profesorul Roger Whitaker, de la Institutul de Cercetări pentru Criminalitate și Securitate și Școala de Informatică și Informatică de la Universitatea Cardiff. „Simulările noastre arată că prejudecata este o forță puternică a naturii și, prin evoluție, poate fi stimulată în populații virtuale, pentru a dăuna conexiunilor mai largi cu alții. Protecția împotriva grupurilor prejudiciate poate duce din neatenție la formarea altor grupuri prejudiciate, provocând o mai mare diviziune a populației. Un prejudiciu atât de răspândit este greu de inversat."
Datele de cercetare includ, de asemenea, persoanele care își cresc nivelul de părtinire prin copierea preferențială a celor care obțin cele mai bune rezultate pe termen scurt, ceea ce la rândul său înseamnă că astfel de decizii nu necesită abilități speciale.
„Este complet plauzibil că mașinile autonome, capabile să se identifice cu discriminare și să le copieze pe altele, pot fi în viitor susceptibile la fenomenele de prejudecată pe care le vedem în societate”, continuă profesorul Whitaker. „Multe dezvoltări ale AI pe care le vedem astăzi implică autonomie și autocontrol, adică comportamentul dispozitivelor este influențat și de cei din jurul lor. Exemple recente includ transportul și internetul lucrurilor. Cercetările noastre oferă o perspectivă teoretică asupra locurilor în care agenții simulați apelează periodic la alții pentru resurse."
Video promotional:
De asemenea, cercetătorii au descoperit că în anumite condiții, inclusiv prezența unor subpopulații mai divizate ale aceleiași societăți, prejudecata este mai greu de consolidat.
„Cu un număr mare de subpopulații, sindicatele de grup imparțiale pot coopera fără a fi exploatate. De asemenea, își diminuează statutul minoritar, reducând totodată susceptibilitatea de a stabili prejudecăți. Cu toate acestea, acest lucru necesită și circumstanțe în care agenții sunt favorizați prin interacțiunile din afara grupului lor”, a concluzionat profesorul Whitaker.
Vladimir Guillen
