Trăim într-o epocă de aur a datelor științifice, înconjurate de vaste rezerve de informații genetice, imagistică medicală și date astronomice. Capacitățile actuale ale algoritmilor de învățare a mașinilor permit inteligenței artificiale să studieze aceste date cât mai rapid și, în același timp, foarte atent, deschizând deseori ușa către descoperiri științifice potențial noi. Cu toate acestea, nu ar trebui să avem încredere orbă în rezultatele cercetărilor științifice efectuate de AI, spune cercetătorul de la Universitatea Rice, Genever Allen. Cel puțin nu la nivelul actual de dezvoltare a acestei tehnologii. Potrivit savantului, problema constă în faptul că sistemele moderne de AI nu au capacitatea de a evalua critic rezultatele muncii lor.
Potrivit Allen, sistemele AI care utilizează metode de învățare automată, adică atunci când învățarea are loc în procesul de aplicare a soluțiilor la multe probleme similare și nu doar prin introducerea și respectarea unor noi reguli și reglementări, pot fi de încredere pentru a lua unele decizii. Mai precis, este destul de posibil să atribui sarcini AI în soluționarea problemelor în acele domenii în care rezultatul final poate fi ușor verificat și analizat de către persoana însuși. Ca un exemplu, putem lua, să spunem, numărarea numărului de cratere pe lună sau a prezice replici după un cutremur.
Cu toate acestea, acuratețea și eficiența algoritmilor mai complexi care sunt folosiți pentru a analiza cantități foarte mari de date pentru a găsi și determina factori sau relații necunoscute anterior între diferite funcții "sunt mult mai dificil de verificat", notează Allen. Astfel, imposibilitatea verificării datelor corelate cu astfel de algoritmi poate duce la concluzii științifice eronate.
Luați, de exemplu, medicamente de precizie, unde specialiștii analizează metadatele pacientului pentru a găsi grupuri specifice de persoane cu caracteristici genetice similare pentru a dezvolta tratamente eficiente. Unele programe de AI concepute pentru a trece prin datele genetice sunt într-adevăr eficiente în identificarea grupurilor de pacienți cu o predispoziție similară, de exemplu, la dezvoltarea cancerului de sân. Cu toate acestea, se dovedesc a fi complet ineficiente în identificarea altor tipuri de cancer, cum ar fi colorectal. Fiecare algoritm analizează datele în mod diferit, astfel încât atunci când se combină rezultatele, poate exista adesea un conflict în clasificarea eșantionului pacientului. La rândul său, oamenii îi determină pe oameni de știință să se întrebe în ce AI să aibă încredere în cele din urmă.
Aceste contradicții apar din cauza faptului că algoritmii pentru analiza datelor sunt concepute astfel încât să se supună instrucțiunilor prevăzute în acești algoritmi, care nu lasă loc pentru indecizie, incertitudine, explică Allen.
Oamenii de știință nu le place incertitudinea. Cu toate acestea, metodele tradiționale de determinare a incertitudinilor de măsurare sunt concepute pentru acele cazuri în care este necesară analizarea datelor care au fost selectate special pentru a evalua o anumită ipoteză. Nu așa funcționează programele AI pentru exploatarea datelor. Aceste programe nu sunt conduse de nicio idee directoare și analizează pur și simplu seturi de date colectate fără un scop specific specific. Prin urmare, mulți cercetători AI, inclusiv Allen însăși, dezvoltă acum noi protocoale care vor permite sistemelor AI de generație viitoare să evalueze acuratețea și reproductibilitatea descoperirilor lor.
Video promotional:
Cercetătorul explică faptul că una dintre noile metode de extracție se va baza pe conceptul de recamplere. De exemplu, dacă se presupune că un sistem AI ar face o descoperire importantă, de exemplu, identifică grupuri de pacienți importanți clinic pentru cercetare, atunci această descoperire ar trebui să fie afișată în alte baze de date. Este foarte costisitor pentru oamenii de știință să creeze seturi de date noi și mai mari pentru validarea eșantionării AI. Prin urmare, potrivit Allan, este posibil să se utilizeze o abordare în care „va fi utilizat setul de date existent, informațiile în care vor fi amestecate aleatoriu în așa fel încât să imite o bază de date complet nouă”. Și dacă din nou, IA poate determina caracteristicile care fac posibilă realizarea clasificării necesare, „atunci va fi posibil să luăm în considerarecă ai o descoperire cu adevărat în mâinile tale”, adaugă Allan.
Nikolay Khizhnyak
