Oamenii de știință de la Universitatea din Chicago (SUA) au efectuat un studiu, în cadrul căruia au arătat cum AI poate fi utilizată pentru a scrie recenzii false complexe. Astfel de recenzii nu se pot distinge de cele reale prin metode moderne, iar cititorii nebănuitori le consideră extrem de fiabile.
Recenziile despre restaurante au fost generate folosind rețele neuronale recurente (tehnici de învățare profundă) care s-au instruit anterior cu privire la mii de recenzii din viața reală disponibile pe web.
Potrivit cercetătorilor, recenziile generate nu erau practic de distins de cele reale. Deci, autorii lucrării au arătat că utilizatorii nu numai că nu au recunoscut recenziile false, ci și le-au considerat la fel de utile ca și cele reale scrise de oameni.
Acesta din urmă este probabil cel mai alarmant. Deoarece acest lucru înseamnă în esență că recenziile scrise de AI își îndeplinesc funcția principală - influențează în mod intenționat opinia oamenilor.
Se remarcă faptul că plagiatul a fost rar detectat în astfel de recenzii (folosind software). Acest lucru se datorează faptului că AI le-a generat după caracter și nu a scos cuvinte din recenzii reale.
Astăzi există o industrie subterană destul de mare în care oamenii scriu recenzii false (pentru bani). Cu toate acestea, după cum a remarcat profesorul Ben Y. Zhao de la Universitatea din Chicago într-un interviu acordat Business Insider, introducerea AI poate submina aceasta. Omul de știință spune că nu știe încă despre utilizarea unor astfel de algoritmi în această industrie. Dar nu există nicio garanție că cineva nu va veni cu ceva similar și nu îl va folosi pentru câștig personal.
În același timp, cercetătorii scriu că răspunsurile rețelei neuronale nu erau încă ideale. S-a dovedit că algoritmul a folosit un set mai mic de caractere - și acest lucru nu a fost greu de văzut. Cu toate acestea, potrivit autorilor lucrării, rețelele neuronale viitoare pot fi și mai complexe și, în consecință, feedback-ul pe care îl generează va fi mai dificil de detectat.
Zhao observă că nu este vorba doar de recenzii false la restaurante: astfel de tehnologii ne pot zdruncina în general convingerile despre ceea ce este real și ce nu.
Video promotional:
Textul studiului poate fi găsit aici.
