Un studiu realizat de oamenii de știință de la Massachusetts Institute of Technology a dezvăluit detaliile procesului de analiză a datelor prin inteligență artificială, care este adesea ghidat de stereotipuri sexiste și rasiste în procesul decizional. Mai multe sisteme care au participat la experiment au demonstrat susceptibilitatea la prejudecățile umane.
Ziarul britanic „The Daily Mail” scrie că, după ce a primit rezultatele studiului, echipa de oameni de știință s-a angajat să reprograma inteligența artificială, eliminând problemele anterioare. Potrivit lui Irene Chen, care lucrează la Massachusetts Institute of Technology, informaticienii tind să se grăbească până la concluzia că singura modalitate de a elimina elementele de rasism și sexism în algoritmi de inteligență artificială este îmbunătățirea codului software. Calitatea algoritmilor este direct proporțională cu datele pe care operează. Cercetările făcute de Chen cu David Sontag și Fredrik D. Johannson arată că mai multe date disponibile pot schimba radical lucrurile în bine.
Într-un experiment, echipa a analizat un sistem care a prezis veniturile unei persoane pe baza informațiilor disponibile. Analiza a arătat că în 50% din cazuri, algoritmul este înclinat să prezică că veniturile unei femei vor fi, în medie, mai mici decât cele ale unui bărbat. Prin creșterea cantității de date disponibile de 10 ori, oamenii de știință au descoperit că factorul unei astfel de erori a scăzut cu 40%.
Mai mult, în studiul sistemului care este utilizat în spitale și prezice supraviețuirea pacienților supuși unei intervenții chirurgicale severe, acuratețea predicțiilor a fost mult mai mică pentru rasa mongoloidă decât pentru caucazieni și negri. Cu toate acestea, oamenii de știință susțin că utilizarea tehnicilor avansate de analiză poate reduce semnificativ acuratețea predicției pentru pacienții care nu fac parte din rasa mongoloidă. Acest lucru arată că mai multe date disponibile pot să nu corecteze întotdeauna erorile din algoritm. În schimb, oamenii de știință ar trebui să primească mai multe informații despre grupurile discriminate.
Noua metodă ridică o altă întrebare pentru cercetătorii de învățare automată despre cum să analizeze eficient datele fără discriminare existentă.
Cum funcționează învățarea mașină în sistemele cu AI?
Sistemele de inteligență artificială se bazează pe rețele neuronale artificiale (ANN), care extrapolează tehnicile de stocare și învățare a informațiilor utilizate de creierul uman în sistemele mecanice. ANN-urile se antrenează pentru a găsi modele în sursele de informații disponibile, inclusiv vorbirea, textul și imaginile. Îmbunătățirea preciziei analizei datelor este una dintre premisele fundamentale care preced cele mai noi dezvoltări ale inteligenței artificiale.
Inteligența artificială „normală” folosește datele de intrare pentru a spune algoritmul despre subiectul analizei, în timp ce operează cu o cantitate uriașă de informații.
Video promotional:
Aplicațiile practice ale învățării automate includ servicii de traducere Google, recunoașterea feței din fotografiile Facebook și filtrele de pe Snapchat care scanează fețele înainte de a aplica efectele vizuale online.
Procesul de introducere a datelor consumă foarte mult timp și este de obicei limitat de fluxul de informații despre un aspect al obiectului studiat. Un nou tip de ANN - o rețea neuronală generativă-adversară - se opune capacității a doi roboți diferiți cu inteligență artificială simultan, provocând un sistem mai puțin inteligent care să învețe în detrimentul celui de-al doilea fără participarea umană. Această tehnică îmbunătățește dramatic eficiența și viteza învățării mașinilor, crescând în același timp calitatea analizei datelor.
Oliy Kurilov
