Oamenii de știință și programatorii au încetat să înțeleagă modul în care inteligența artificială ia decizii. Această problemă a fost anunțată de mai mulți specialiști în cadrul conferinței principale AI - Neural Information Processing Systems - organizată în Long Beach (California).
Experții intervievați de Quartz spun că trebuie să acționeze înainte ca sistemul să devină prea complex.
„Nu vrem să luăm decizii de AI fără să le înțelegem logica”, spune Jason Yosinski, de la Uber. "Pentru ca societatea să accepte modele de învățare automată, trebuie să știm cum ajunge AI la anumite concluzii."
Problema pe care mulți experți o numesc „cutia neagră” este cu adevărat gravă. Experiența anterioară a arătat că AI are tendința de a lua decizii părtinitoare și de a trage analogii acolo unde nu ar trebui. Deoarece rețelele neuronale astăzi se infiltrează treptat în aplicarea legii, sistemul de sănătate, cercetarea științifică și algoritmii care determină ceea ce vedeți pe buletinul de știri Facebook, eroarea AI poate fi foarte costisitoare.
Ca exemplu, Kiri Wagstaff, expert AI în Jet Propolusion Laborator (NASA), citează o misiune pe Marte. Dispozitivele sunt situate la 200 de milioane de mile de Pământ și costă sute de milioane de dolari, astfel încât orice eroare în activitatea de AI este pur și simplu inacceptabilă.
„Oamenii trebuie să știe ce face AI și de ce. Altfel, cum pot avea încredere în el să controleze echipamentele scumpe?”, Spune Wagstaff.
În acest moment, omul de știință lucrează la un algoritm care sortează imaginile luate de diverse nave spațiale NASA. Întrucât numărul de imagini este în milioane, computerul vă permite să le sortați și să le evidențiați pe cele mai interesante, fără a cheltui o cantitate imensă de timp pentru acest proces. Problema constă totuși în faptul că de multe ori numai AI-ul știe de ce anumite imagini pe care le selectează sunt neobișnuite.
Astfel, concluzionează Wagstaff, în cazul în care există o eroare în cadrul acestui algoritm, într-o zi s-ar putea să lipsească informații foarte importante.
Video promotional:
„Practic, computerul vă oferă o imagine și vă spune:„ Uite, acest lucru este interesant”. Dar nu poți înțelege întotdeauna de ce este interesant: din cauza culorii, formei obiectelor sau a amplasării lor în spațiu - probabil nu știi acest lucru”, spune omul de știință.
Hannah Wallach, cercetător senior la Microsoft, este de acord cu concluziile colegilor ei.
„Pe măsură ce învățarea automată devine mai răspândită și miza crește, nu mai putem vedea aceste sisteme ca niște cutii negre. Trebuie să înțelegem ce se întâmplă în interiorul lor și ce fac”, a spus cercetătorul.
Oamenii de știință încearcă din fericire să găsească metode pentru a înțelege logica inteligenței artificiale. Astfel, cercetătorul Google Mitra Raghu a prezentat un raport care descrie procesul de urmărire a acțiunilor „neuronilor” individuali ai unei rețele neuronale. Analizând milioane de operații, ea a reușit să-și dea seama care dintre „neuronii” artificiali s-au concentrat pe concepții greșite și să le oprească. Acest lucru dovedește că traducerea rețelelor neuronale într-o formă accesibilă înțelegerii umane nu este o sarcină atât de imposibilă.
O altă opțiune pentru soluționarea problemei este de a testa în mod regulat abilitățile dezvoltate de inteligența artificială.
„Este ca și cum profesorii de școală le-au cerut copiilor să retrăiască în propriile lor cuvinte ceea ce au înțeles din explicația profesorului”, spune Wagstaff.
Acestea fiind spuse, importanța înțelegerii interne a algoritmului nu este doar de a împiedica un rover ipotetic să cadă de pe o rocă marțiană; realizând care este eșecul, puteți îmbunătăți sistemele existente și mai bine.
„Dacă sistemul dvs. nu funcționează și nu știți de ce, atunci este foarte dificil să faceți ceva în acest sens”, spune Yosinski. „Dacă știți ce s-a întâmplat, atunci situația poate fi mereu corectată”.
Materiale folosite de pe site-ul hightech.fm
