Cercetătorii de la Institutul Tehnologic din Massachusetts (MIT) au dezvoltat o tehnică de păcălire a analizei textului de inteligență artificială (AI), a informat Wired la 23 februarie.
Cercetătorii au observat că o ușoară schimbare a unei fraze, de înțeles pentru o persoană, poate înșela AI. Au dezvoltat un algoritm pentru a înlocui cuvintele cu sinonime și a păcăli textul de recunoaștere al AI. Nuanța este că algoritmul care atacă în sine folosește AI pentru a selecta sinonime.
Ca exemplu, sintagma „Personajele, aruncate în situații imposibil de conjugate, sunt complet înstrăinate de realitate”. ("Personajele interpretate în situații incredibil de conjugate sunt complet neconforme cu realitatea"), ceea ce reprezintă o recenzie negativă a filmului.
Dacă înlocuim cuvintele din el cu sinonime, atunci sintagma „Personajele, aruncate în circumstanțe imposibil de proiectate, sunt complet înstrăinate de realitate” („Personajele jucate în circumstanțe incredibil de iscusite sunt complet divorțate de realitate”), atunci AI consideră recenzia pozitivă.
Alte tipuri de sisteme AI pot fi înșelate; în acest caz, vulnerabilitățile au fost demonstrate în principal în sistemele de recunoaștere a imaginilor și vorbirii.
Cercetătorii au remarcat că astfel de corupții subtile de date pot înșela AI și pot fi folosite pentru a ataca sisteme, ceea ce devine semnificativ pe măsură ce AI se răspândește în domeniile finanțelor, asistenței medicale și altele.
