Cu toții așteptăm momentul în care inteligența artificială, programele, tehnologia învață să facă practic la fel, atunci suntem. Este totul real. Dar până acum, puțini oameni cred că, la fel, acest proces nu va fi același pentru mașini și oameni.
De exemplu, un grup de cercetători de la Universitatea Kyushu a descoperit o modalitate de a înșela programele de recunoaștere a modelelor schimbând un singur pixel într-o imagine. Acest pixel este poziționat în așa fel încât încurcă rețelele neuronale responsabile de identificare și încep să greșească câinii pentru pisici și caii pentru mașini.
Imaginile de testare au fost limitate la doar o mie de pixeli, dar pentru rezoluții mai mari și milioane de pixeli, regula funcționează și ea. Doar este necesar să schimbi nu un pixel, ci câteva sute.
Al doilea grup de cercetători, de această dată de la Institutul de Tehnologie din Massachusetts, a reușit să meargă și mai departe. Au putut să imprime o sculptură a unei broaște țestoase folosind o imprimantă 3D, pe care programul, văzând chiar din toate părțile și din orice unghi, a luat-o pentru o pușcă. Acest experiment prezintă o problemă mult mai mare pentru tehnologia de recunoaștere a imaginii, deoarece întregul lucru s-a întâmplat în realitate, iar programul a fost permis să analizeze obiectul din toate unghiurile, dar încă nu a determinat adevărata sa formă.
Împreună, ambele studii arată modul în care roboții și programele trebuie să călătorească înainte de a atinge nivelul uman. La urma urmei, creierele noastre nu pot fi păcălite înlocuind unul sau chiar o sută de pixeli.
Singura păcat este că sursele nu oferă o explicație a modului în care se dovedește a înșela programul. Tu ce crezi? Care este secretul „pixelilor ruși” și cum poți înșela cu un model 3D?
Nikolay Kudryavtsev
Video promotional:
