Mikhail Burtsev, șeful laboratorului de sisteme neuronale și învățare profundă de la Institutul de Fizică și Tehnologie din Moscova, vorbește despre posibilitatea creării unui computer cu drepturi depline analog al minții umane și explică de ce oamenii de știință îl dezvoltă și cum poate fi protejat de atacurile troll.
La sfârșitul lunii iulie, oamenii de știință de la MIPT au lansat un concurs internațional pentru sisteme de inteligență artificială „vorbite” capabile să imite o persoană vie și au invitat pe toți cei care doreau să comunice cu ei și să evalueze dialogurile rezultate. Folosind ajutorul voluntarilor, oamenii de știință speră să creeze un asistent vocal în următorii trei ani, care să poată comunica cu o persoană aproape la fel de bine ca cu un interlocutor viu.
Competiția a fost co-organizată de oameni de știință de la universitățile din Montreal, McGill și Carnegie Mellon. Puteți participa la testarea sistemelor de dialog urmând linkul.
De fapt, aceste idei nu au fost inventate astăzi - asistenții vocali moderni de la Google, Apple, Amazon și alte companii IT au rădăcini în trecutul profund, chiar la începutul erei computerelor. Primul astfel de aparat de vorbire, numit ELIZA, a fost creat în 1966 și a fost, de fapt, o glumă, o parodie a unui psihoterapeut care dădea sfaturi inutile unui pacient.
În anii și deceniile următoare, programatorii au creat sisteme din ce în ce mai complexe și „live” pentru comunicarea cu un computer. Cele mai avansate dintre aceste sisteme pot recunoaște starea de spirit a proprietarului, își pot aminti dorințele și preferințele vechi și pot rezolva unele sarcini de rutină și de uz casnic pentru el, comandând alimente sau bunuri în magazin sau jucând rolul unui operator în call center.
Mihail, au trecut aproape 50 de ani de la crearea ELIZA. Ce s-a schimbat în general în acest timp și poate, în principiu, să se aștepte ca în viitor oamenii de știință să poată crea un astfel de sistem pe care oamenii nu îl pot distinge de un interlocutor viu?
- Cred că în viitorul apropiat va fi posibilă crearea unei tehnologii de inteligență vorbită care să permită mașinii să se apropie de nivelul dialogului uman. Lucrăm la această sarcină în cadrul proiectului iPavlov, care face parte din Inițiativa Națională Tehnologică.
Utilizatorul ar trebui să fie la fel de confortabil să comunice cu un sistem de dialog automat ca și cu o persoană vie. Acest lucru va face posibilă crearea unor sisteme informaționale capabile să înțeleagă mai bine ce își dorește o persoană de la ei și să îi răspundă în limbaj natural.
Video promotional:
Inteligența conversațională poate fi utilizată pentru a automatiza multe interfețe vocale și text, inclusiv mesageri precum Telegram. Mesagerii, după cum arată statisticile, astăzi sunt folosiți mai activ decât rețelele sociale, iar o cantitate foarte mare de informații trece prin canalele de comunicare text.
Acestea, de exemplu, sunt convenabile de utilizat în transport, iar adăugarea unui asistent de dialog - un chat bot - va permite utilizatorilor nu numai să comunice între ei, ci și să primească informațiile necesare, să facă achiziții și să facă multe alte lucruri. Acest lucru va duce la faptul că mesagerii instant și asistenții vocali vor înlocui treptat paginile web și aplicațiile obișnuite și vor juca, de asemenea, rolul de consultanți online și specialiști în call center.
Având în vedere prezența Apple, Google și Amazon pe această piață, poate Rusia să concureze aici? Există vreo specificitate în limba rusă care ar putea împiedica potențialii concurenți ai companiilor și oamenilor de știință ruși?
- Desigur, limba rusă este mai complexă, iar unele dintre metodele care sunt folosite astăzi în dezvoltarea sistemelor de dialog și a asistenților vocali din lume nu pot fi aplicate fără rafinament și modificări semnificative care le-ar permite să lucreze cu o gramatică mai bogată.
Pe de altă parte, algoritmii de bază care sunt utilizați în lucrările lui Siri, Cortana, Google și alți asistenți digitali, nimeni nu le ascunde - acestea sunt disponibile pentru noi cel puțin la nivel de cercetare și concepte. Articolele de cercetare și codul programului sunt adesea disponibile publicului - în principiu, pot fi adaptate la limba rusă.
Mikhail Burtsev, șeful Laboratorului de sisteme neuronale și învățare profundă, MIPT
Mai mult, nu există multe încercări de a implementa acest lucru la nivel „industrial”. Singurul proiect major este condus de Yandex, care dezvoltă un asistent pentru proiectul Alice.
În proiectul nostru încercăm să creăm instrumente care să simplifice și să accelereze crearea unor astfel de sisteme de dialog „industriale” concepute pentru o varietate de scopuri. Dar dezvoltarea unui asistent vocal universal capabil să rezolve orice problemă este o sarcină extrem de dificilă chiar și pentru companiile mari.
Pe de altă parte, automatizarea unei afaceri mici care va utiliza un sistem de dialog specializat este mult mai ușor de implementat. Sperăm că instrumentele pe care le vom crea îi vor ajuta pe antreprenori și programatori să rezolve astfel de probleme suficient de repede, fără a avea cunoștințe profunde și fără a depune eforturi superioare pentru aceasta.
Mulți oameni de știință, cum ar fi Roger Penrose sau Stuart Hameroff, cred că mintea umană este de natură cuantică și este imposibil să se construiască în principiu o mașină analogică. Ești sau nu de acord cu ei?
- În opinia mea, dacă te uiți la ceea ce știm astăzi despre structura creierului și natura conștiinței umane, atunci până acum nu avem obstacole fundamentale pentru a reproduce munca sa folosind un computer.
Penrose și Hameroff au un set de ipoteze care cred că explică de ce acest lucru nu se poate face. Până în prezent, neurofiziologii nu au găsit nicio dovadă experimentală că aceste ipoteze sunt corecte, iar baza noastră actuală de cunoștințe vorbește în favoarea opusului.
Un alt lucru este că intervalul de timp pentru momentul în care o astfel de mașină va fi creată nu rămâne complet definit. Mi se pare că acest lucru se poate întâmpla în cel puțin 50 sau chiar 100 de ani.
Va necesita acest lucru fundamental noi tehnologii și computere care sunt mai apropiate în principii de funcționare de neuroni decât de logica digitală?
- Dacă credem că inteligența umană se bazează pe o formă de calcul, atunci orice sistem de calcul universal echivalent cu o mașină Turing poate, în teorie, să emule activitatea creierului uman.
Un alt lucru este că această mașină poate funcționa foarte încet, ceea ce o va face inutilă din punct de vedere practic. Astăzi este dificil de ghicit ce tehnologii pentru construirea computerelor avem nevoie aici.
Ce alte sarcini pot rezolva asistenții digitali, în afară de lucrurile pe care le fac astăzi? Pot fi folosite pentru a descifra texte în limbi moarte sau criptări precum manuscrisul Voynich?
- În acest moment, din câte știu, nimeni nu a încercat să folosească rețelele neuronale pentru a descoperi secretele limbajelor moarte și a descifra textele, dar mi se pare că cineva va încerca să facă acest lucru în viitorul apropiat. La rândul nostru, noi nu am fost încă interesați de astfel de lucruri.
„Ajutor” este de fapt un concept foarte larg care poate include multe lucruri foarte diferite. Dacă luăm, de exemplu, același ELIZA, un „psihoterapeut” virtual, se pune întrebarea: este sau nu asistentă?
Sistemele de conversație pot fi utilizate nu numai pentru rezolvarea problemelor practice, ci și pentru a distra oamenii sau a-și menține starea de spirit. Întrebarea aici, de fapt, este ce înțelegem prin conceptul de asistent personal și cât de larg sau îngust este. În sensul cel mai larg, astfel de sisteme pot rezolva toate problemele legate de comunicare, deși cu diferite grade de succes.
Interfețele conversaționale, pe lângă comunicarea directă cu oamenii, pot fi folosite și pentru a învăța mașinilor să găsească rapid un limbaj comun și să transfere informații de la un sistem la altul.
Acest lucru va ocoli problema stabilirii legăturilor și a transferului de date între serviciile existente și cele create, deoarece acestea nu vor avea nevoie să cunoască specificațiile API ale celuilalt pentru a comunica între ele. Aceștia vor putea face schimb de date folosind limbaje naturale sau propriul lor limbaj artificial, care va fi inventat de mașini sau oameni în astfel de scopuri.
Aproximativ vorbind, chiar și sistemele „necunoscute” unul cu celălalt vor putea fi de acord să folosească un limbaj comun de comunicare pentru ele și nu reguli fixe pentru schimbul de informații. Dacă nu înțeleg ceva, atunci se pot întreba reciproc despre lucruri necunoscute, ceea ce va face întreaga infrastructură pentru furnizarea de servicii și servicii pe Internet incredibil de flexibilă și îi va permite să integreze rapid noi servicii fără ajutorul oamenilor.
În acest sens, apare întrebarea - cine ar trebui să fie responsabil pentru recomandările „psihoterapeutului” ELIZA, medicilor de calculator și altor asistenți vocali, ale căror sfaturi pot afecta foarte mult bunăstarea și sănătatea unei persoane?
- Aceasta este o întrebare foarte dificilă, deoarece astăzi nu există criterii clare care să ne ajute să înțelegem cum să acționăm în astfel de cazuri. Multe servicii de internet și servicii care emit recomandări utilizatorilor încep să funcționeze numai după ce utilizatorul este de acord cu condițiile de furnizare a serviciilor și cu consecințele care pot apărea ca urmare a colaborării cu acesta.
Mi se pare că activitatea robotilor de chat și a asistenților vocali - cel puțin în primele etape ale existenței lor - ar putea fi reglementată în mod similar. De exemplu, dacă un robot pur și simplu caută și analizează informații, acționând în același mod ca un motor de căutare, atunci aceleași reguli pot fi aplicate acestuia. În cazul în care va oferi sfaturi medicale sau juridice, forma responsabilității ar trebui să fie diferită.
De exemplu, astfel de sisteme ar trebui să informeze în mod clar utilizatorul despre consecințele alegerii dintre inteligența artificială și un medic obișnuit. O persoană va avea de ales - să aibă încredere în medic, care, de exemplu, va greși în 10% din cazuri sau să parieze pe o mașină care dă un răspuns greșit în 3% din cazuri. În primul caz, medicul va fi responsabil pentru eroare, iar în al doilea, utilizatorul însuși.
Anul trecut, Microsoft a lansat chat-botul Tay. AI, pe care a trebuit să-l oprească literalmente o zi mai târziu, deoarece internauții au transformat o „adolescentă” într-o adevărată rasistă. Este posibil să protejăm astfel de sisteme de dialog împotriva trolilor și a farselor?
- Mi se pare că vă puteți proteja, dar dacă merită să faceți acest lucru depinde de scopul sistemului. Este clar că, în cazul în care sistemul nu ar trebui să dea nicio remarcă specifică - grosolană sau extremistă, atunci îi putem filtra răspunsurile. Această filtrare poate avea loc fie în etapa de instruire a sistemului, fie deja în timpul generării de răspunsuri.
Apropo, o sarcină similară de evaluare a calității dialogului a fost rezolvată de către echipe în cadrul școală-hackathon științifică DeepHack Turing, care a avut loc la MIPT în urmă cu câteva săptămâni. Participanții săi au dezvoltat algoritmi care ar putea prezice din replicile dialogului ce fel de evaluare ar da o persoană sistemului de dialog.
Următorul pas în dezvoltarea acestei abordări este crearea unui program care să evalueze acceptabilitatea frazelor sau fiabilitatea surselor utilizate în generarea răspunsurilor la întrebările utilizatorilor. Mi se pare că ar ajuta la rezolvarea acestei probleme.
