„Rise of the Machines”, „The Terminator Returns”… O mulțime de science-fiction sunt construite pe faptul că calculatoarele devin atât de inteligente încât înțeleg că vor fi mai bine fără o persoană. Povesti cu zane? Cum să arate. Până în 2050, un computer de casă obișnuit va putea prelucra cât mai multe informații pe care toate persoanele de pe pământ le-au pus laolaltă.
Dar 2050 este cu condiția ca mașinile să se dezvolte treptat. Nu merge așa. Relația noastră cu lumea electronică avansează încet. Odată - un mouse a fost atașat de mașină. Odată - a apărut internetul. Odată - au existat smartphone-uri cu tablete.
Următoarea descoperire vine când computerul poate înțelege oamenii. Smartphone-urile au deja aplicații precum Siri și Cortana care pot avea o conversație simplă cu noi. Problema este însă ca computerul să înțeleagă, nu ce spunem, ci ce ne referim! Cel mai simplu exemplu: sintagma „El m-a părăsit”, spusă de o femeie pătată de lacrimi și șeful unui bărbat are semnificații complet diferite.
Deci: de îndată ce utilajele vor învăța să recunoască nuanțele vorbirii umane, pe de o parte, mâinile noastre vor fi libere în sensul literal și figurat. Am vorbit cu computerul și a făcut totul. Pe de altă parte, nu ne apropiem de o linie periculoasă, eliminând ultima barieră în comunicarea dintre oameni și fierul fără suflet?
Mi-am dorit de mult să vorbesc despre acest lucru cu un cunoscut om de știință, director de cercetare lingvistică la ABBYY, șeful departamentelor de lingvistică computațională din cadrul Universității de Stat din Rusia pentru Umanități și al Institutului de Fizică și Tehnologie din Moscova, Vladimir Selegey. Dar când i-am spus temerile mele apocaliptice, s-a încruntat.
„Da, ficțiunea științifică este plină de predicții întunecate despre modul în care mașinile antrenate de oameni vor face fără ea. Dar nu îmi este clar de ce o creștere a cantității de cunoștințe încorporate în programe va provoca un computer să ia decizii fără a cere permisiunea unei persoane?
De fapt, problema nu este că computerul va învăța să facă fără oameni, ci că oamenii vor dori să se descurce singuri atunci când rezolvă anumite probleme. Iată Cernobil …
Video promotional:
Și ce legătură are Cernobîl cu asta?
- Un reactor nuclear este un model fizic foarte complex. Se pare că toți parametrii de control ai reactorului sunt cunoscuți, totul respectă legile fizice stricte, iar procesul decizional poate fi încredințat complet calculatorului. Dar…
În 1986, la o săptămână după accident, am participat la un seminar despre utilizarea inteligenței artificiale în industrie. Chiar și atunci, a fost clar că încredințând luarea deciziilor pe un computer, riscăm grav. Este comun ca programele să conțină erori. Chiar și sateliții au sclipuri de software.
Adică, o persoană este mai fiabilă decât un computer, deși „gândește” mult mai repede?
- O persoană, pe lângă toate celelalte, are motivație. Își rezolvă problemele - educație, procreare, carieră, știe să simtă …
Dar poate un programator viclean să scrie un program care să învețe o mașină de agresiune …
- Puteți încerca să faceți, de exemplu, un robot militar care va lua decizii de unul singur, analizând ceea ce vede și aude. Și va fi foarte periculos. Dar nu pentru că robotul va avea brusc dorința de a distruge, așa cum au scris scriitorii de ficțiune științifică. Dar, din cauza greșelii unui programator, neglijarea unor factori poate duce la un comportament robot imprevizibil.
Dar până acum suntem foarte departe de capacitatea de a crea programe de auto-învățare care sunt capabile să genereze cunoștințe complet noi. Aproximativ vorbind, treceți independent de la tabelul de înmulțire la capacitatea de a rezolva ecuații complexe.
În a doua jumătate a secolului XX, predicțiile futuriste în domeniul științei erau foarte populare. Tot ce ține de inteligența computerului a intrat în lapte. Nimeni nu a prezis internetul, libertatea incredibilă de acces la informații, telefoane mobile. Dar toată lumea vorbea despre calculatoare gânditoare.
De exemplu, la sfârșitul anilor 60, primul nostru sistem de șah KAISA a funcționat cu succes la Campionatul Mondial în rândul calculatoarelor. Se credea că pentru ca o mașină să învingă o persoană, era necesar să simulezi algoritmii unui joc uman. Pentru a pune mintea, intelectul, intuiția foarte misterioasă care face ca șahistul să ia deciziile corecte.
Astăzi computerul bate o persoană. Dar el nu a fost niciodată învățat intuiție. Un miliard de jocuri jucate, toată experiența jocului, toate deciziile luate vreodată de jucătorii de șah au fost încărcate în memoria lui. Și i-au învățat să folosească acest lucru atunci când aleg planul optim de joc, oferindu-le o viteză extraordinară de enumerare și evaluare a opțiunilor. Computerul îi bate pe campioni mondiali, dar nu primește nicio plăcere de la acesta. Totul este complet diferit de oameni.
Dar tu ești unul dintre cei care învață doar computerul să „pornească capul”
- Încercăm doar să învățăm programe să „înțeleagă” texte, astfel încât să poată extrage informații din ele, să le acumuleze și să le generalizeze. Astfel, oamenii primesc cunoștințe filtrate, selectate din miliarde de surse. Acest lucru este foarte dificil, deoarece o persoană însăși nu știe foarte bine modul în care este aranjată capacitatea sa de limbaj, pe care se bazează înțelegerea sa despre alți oameni.
Traducerea cu mașini statistice este acum populară. Calculatorul nu înțelege deloc despre ce este textul tradus, ci doar găsește cele mai probabile variante de traducere a unor fragmente mici (în câteva cuvinte), analizând volumele uriașe de traduceri umane stocate în memoria sa. În general, textul este clar. Dar ar fi frivol să se ia o decizie responsabilă pe baza unei astfel de traduceri.
Bine, poate computerul să traducă instrucțiunile pentru mine?
- Instrucțiuni? E periculos.
- Da la un frigider simplu!
- Până și la frigider! Aș dori să traducem programele noastre, încercând să înțelegem textul, alegând între opțiunile bazate pe cunoștințe și nu doar pentru că această corespondență se găsește cel mai adesea în baza noastră de date.
Bine, să zicem că ați rezolvat problema și ați creat un sistem datorită căruia computerele vor învăța să înțeleagă nuanțele vorbirii noastre și chiar să le traduceți cu exactitate într-o altă limbă. Și atunci un nou pericol amenință oamenii - nu va mai fi nevoie să te gândești. Nu va fi nevoie să antrenați memoria, creierul. Aveți nevoie de informații - vă rog, Wikipedia. Trebuie să vorbești cu un străin - traducător …
- Cu cât este mai mare nivelul de inteligență și cunoaștere a unei persoane, cu atât este mai util pentru el următorul „asistent inteligent”. Și cu cât sunt mai mici, cu atât mai multe oportunități par să nu gândească deloc. Tehnologiile computerizate duc la polarizarea societății. Aproximativ vorbind, apariția calculatorului nu a dus la degenerarea matematicienilor. Dar, în mod evident, unii dintre școlari au experimentat o scădere a nivelului lor deja scăzut de abilități.
- Știți, pentru mine, un indicator serios al scăderii nivelului de educație este numărul de oameni care scriu analfabet sau nu sunt capabili să-și exprime gândurile și sentimentele fără să folosească pereche
- Da, oamenii au început să scrie mai puțin competent. Pur și simplu pentru că, în general, există mai puține lecturi de texte editate și mult mai multe astfel de resurse în care ortografia este foarte neclară. Acest lucru i-a făcut pe oameni să se prostească? Probabil ca nu.
Vedeți o legătură între faptul că o persoană își exprimă în mod analitic gândurile în limba sa maternă și faptul că a devenit o prostie?
„Nu aș merge atât de departe. Deși este evident: deoarece copiii au început să citească mai puțin, au apărut unele probleme cu transferul de cunoștințe și cultură între generații. Aceasta este o problemă. Astăzi vedem că un școlar modern cu același nivel de note ca acum 30 de ani cunoaște mai rău literatura.
Aici! …
„… Dar, pe de altă parte, știe multe alte lucruri mult mai bune, pe care nimeni nu a crezut că le poate ști.
Este un proces natural?
- Da. Mai mult, pentru prima dată în istoria omenirii, cunoștințele pot fi transferate nu de la bătrâni la cei mai tineri, așa cum s-a întâmplat de secole. A existat un transfer de cunoștințe de la cei mai tineri la bătrâni, ceea ce anterior nu era deloc caracteristic culturii umane. Un copil învață tatăl sau mama să lucreze la un computer, cu un telefon mobil, este o sursă de cunoștințe diverse pentru părinții săi. Și chiar mai mulți copii călătoresc în întreaga lume. Foarte des sunt o sursă de cunoștințe geografice și culturale.
Ascultă, dar aici totul a început cu calculatoarele. Au eliberat oamenii chiar de nevoia de a memora regulile elementare ale gramaticii
- Chiar la începutul anilor 90, am lucrat într-o echipă care a dezvoltat unul dintre primele sisteme de verificare ortografică a limbii ruse. A fost util sau dăunător să faceți acest lucru? Foarte util din punctul meu de vedere. Acest sistem a permis crearea mai rapidă a documentelor. Și atunci totul depinde de nivelul de responsabilitate al persoanei. Cine a spus că, după mașină, nu este nevoie să faceți deloc o verificare? Sistemul nu face decât să-l eficientizeze.
Dar avem încredere în computer
- Înseamnă doar că persoana care a realizat programul nu v-a informat că există multe fenomene pe care aparatul nu le poate verifica. Negocierea, de exemplu.
Noile tehnologii, din păcate, duc adesea la pierderea abilităților tradiționale. Am făcut reparații în apartament. Am vrut să instalez ferestre din lemn, care erau instalate înainte. Dar acest lucru s-a dovedit imposibil. Toate instalează ferestre cu geam dublu. Oamenii, din păcate, nu mai fac multe lucruri cu mâinile lor. Ce să faci, așa funcționează viața. Din pacate.
Deci ești conformist?
- Nu. Cred că a face lucruri absolut nocive nu este bine. Dar când aveți câștig și pierdere, trebuie să evaluați riscurile … Dacă faceți droguri, nu credeți că nu numai oamenii buni, ci și oamenii răi vor supraviețui ca urmare a utilizării sale.
În cazul nostru, simultan cu dezvoltarea tehnologiilor, este necesar să se angajeze în formarea celor care le folosesc. Consecințele negative ale noilor tehnologii se reflectă în primul rând asupra celor care nu își fac treaba foarte bine la niciun nivel tehnologic.
Luați medicamente, de exemplu. Vrem să-l ajutăm pe medic să ia o decizie, facem un sistem de experți informatici bazat pe analiza unui număr mare de diagnostice fiabile făcute de cei mai buni medici. Oferă unui profesionist oportunitatea de a apela la un volum mai mare de cunoștințe decât el însuși. Dar decizia finală este a lui, nu a calculatorului! Pentru un medic rău, totul este diferit - va avea încredere în ceea ce nu poate verifica în mod fiabil. Dar, în medie, odată cu apariția unor astfel de tehnologii, mi se pare că medicina este tot mai bună, nu mai rău.
Ei bine, eram convinși că nu va fi mai mult decât un rău din partea sistemului intelectual de înțelegere a unei persoane de către un computer. Dar când va apărea?
- Aceasta este o sarcină foarte dificilă care nu poate fi rezolvată imediat. Este necesar să învățați computerul cunoștințe despre limbă și cunoștințe despre lume, metode de inferență și comparare de valori. Ceva ce știm să facem acum, ceva va dura ani. De exemplu, avem nevoie de date fiabile despre utilizarea limbii, ținând cont de diferențele individuale și sociale. Și aceste diferențe sunt foarte semnificative. De exemplu, am realizat un proiect special dedicat diferențelor regionale în limba rusă. Am colectat un dicționar, în care sunt incluse aproape 10 mii de cuvinte, care sunt norma pentru rezidenții doar a anumitor regiuni ale țării noastre
Cine suntem noi?
„Acesta este un proiect comun numit Limbi ale orașelor rusești, la care participă specialiști ABBYY, oameni de știință lingvistică, entuziaști din diferite părți ale Rusiei și țări vorbitoare de rusă. Am analizat limba media regională, rețelele sociale, decretele și deciziile autorităților locale. Și aceasta este doar o mică parte din cunoștințele care trebuie predate unui computer!
Care este diferența fundamentală între abordarea dvs. de traducere și sistemele pe care Google le folosește, de exemplu?
- Sistemele statistice nu construiesc structuri lingvistice. Ei caută potriviri de traducere pentru fragmente mici de 5-7 cuvinte. Dar limba este astfel aranjată încât foarte des cuvintele înrudite sunt amplasate mult mai departe, iar dacă această conexiune nu este luată în considerare, apar erori. Dar foarte des aceste detalii sunt importante în traducere, a căror neglijare poate schimba complet sensul. Pentru a ține cont de toate, este necesar să se identifice în timpul analizei întregul sistem de conexiuni lingvistice dintre cuvinte, ceea ce se numește structura unei propoziții. Nu traducem bucăți de propoziții din limbă în limbă, încercăm să identificăm structura semantică a propoziției, apoi sintetizăm această structură cu ajutorul unei alte limbi.
Dar aceste structuri semantice sunt utilizate nu numai și nu atât în scopul traducerii automate. De asemenea, sunt necesare pentru a rezolva eficient problemele căutării și analizei informaționale inteligente, care sunt mai importante astăzi pentru ABBYY ca societate comercială. De exemplu, primele soluții lansate recent pentru piața corporativă se bazează pe aceste tehnologii: acestea vă permit doar să căutați și să analizați datele în fluxul uriaș de informații stocate în organizații.
Și ce limbă, din punctul tău de vedere, este mai dificil de înțeles?
- În general, este acceptat faptul că sunt mai dificile acele limbi în care trebuie să înveți mai multe reguli. Dar în cazul înțelegerii computerului, nu este cazul.
Ceva dificil pentru o persoană, de exemplu, un sistem de inflexiune bogat în rusă sau lituaniană, simplifică sarcina pentru un computer în anumite etape de analiză.
De exemplu, limba chineză este foarte dificilă, deoarece nu există nici o morfologie în ea și, prin urmare, cantitatea mare de ambiguitate cu care se confruntă computerul. Prin urmare, pentru analiza computerizată a limbii chineze, este foarte important să folosiți cunoștințe despre lume, mai importante decât, de exemplu, atunci când analizați limbi cu o morfologie dezvoltată.
Am reușit să lucrăm cu rusă, germană, engleză, franceză, spaniolă, chineză. Analiza limbajului se împarte în etape. Unele etape au specific, dificultăți pentru o limbă, altele pentru alta. Dar, în esență, tehnologiile cu care lucrăm sunt aplicabile tuturor limbilor.
În opinia dumneavoastră, când va veni ziua în care vom putea primi o traducere rapidă și inteligibilă pe computer în paralel cu conversația noastră. Să spunem că vorbim acum și obținem imediat o transcriere a conversației noastre în spaniolă?
- Va fi posibil în curând. Nu cred că în doi ani. Dar … Ce este necesar pentru a rezolva această problemă? Trebuie să ne îmbunătățim sistemele de analiză a vorbirii. Încă nu putem lua o conversație spontană, separat-o de zgomot și obținem textul dorit. Și în acest sens se înregistrează progrese în fiecare an.
Dar, în același timp, vor exista astfel de lucruri pe care mașina nu le poate interpreta fără echivoc. Și aici precizia înțelegerii și a traducerii va depinde de disponibilitatea sistemului de cunoștințe despre lume, de mecanismele inferenței logice.
Dar, în orice caz, va rămâne pericolul unei încrederi complete într-un astfel de program. Este o greșeală să crezi că, să zicem, peste cinci ani poți dicta o scrisoare unui computer, o va traduce, o vei trimite partenerului de afaceri și totul va fi bine. Nimeni nu garantează că aparatul nu va rata „nu” undeva sau va face alte greșeli, după care relația dvs. de afaceri poate fi considerată completă.
Adică, o persoană în calitate de controlor ar trebui să fie încă?
- Cu siguranță. Să ai încredere în tehnologie orbește este periculos.
