Pentru a împiedica inteligența artificială să se revolte împotriva creatorilor săi, trebuie să îi citiți basmele corecte în procesul de învățare.
Încă de când oamenii au creat mașini inteligente, se tem că mai devreme sau mai târziu creațiile lor vor scăpa de sub control. Primul astfel de caz a fost descris în piesa sa RUR de autorul cuvântului „robot” - Karel Čapek. Mai târziu, în science-fiction, inteligența artificială, care s-a revoltat împotriva creatorilor săi, a devenit, dacă nu chiar mainstream, apoi un complot foarte comun. Isaac Asimov a pus capăt acestui lucru cu „Cele trei legi” ale sale, prima dintre ele spunând: „Un robot nu poate răni o persoană sau, prin inacțiunea sa, poate permite rănirea unei persoane”.
Spune-i o poveste
Inteligența artificială reală (AI) este încă departe, dar există deja diverse sisteme care funcționează precum creierul uman. Rețelele neuronale precum Google Deep Dream sunt capabile să recunoască imagini. Supercomputerii specializați, cum ar fi IBM Watson, pot înțelege întrebări dificile de limbaj natural, corelează simptomele, perfecționează diagnosticul medical și chiar pot veni cu delicii culinare. În următoarele decenii, ne vom confrunta cu informatizarea masivă a multor aspecte ale activității umane. În acest sens, experții în robotică și AI ridică din ce în ce mai mult o întrebare importantă, dar încă nerezolvată: cum să facem roboții să devină etici?
Mark Ridl, profesor asociat la Georgia Tech College of Computer Science: „Poveștile atenționate din diferite culturi îi învață pe copii să se comporte într-un mod acceptabil social - cu exemple de comportament corect și greșit în basme, povești și alte opere literare. A face roboții să înțeleagă sensul acestor povești va ajuta la consolidarea alegerii opțiunilor comportamentale care le permit să își atingă obiectivele, dar nu dăunează oamenilor.”
Video promotional:
Catara-te in copac
Potrivit cercetătorilor de la Institutul de Tehnologie din Georgia Mark Ridle și Brent Harrison, puteți învăța un computer umanității exact în același mod în care copiii sunt învățați: citind basme. Mai mult decât atât, este mai bine să povestiți special despre ce comportament în societatea umană este considerat corect și ce nu. Pentru aceasta, cercetătorii au creat sistemul Quixote, numit după eroul lui Cervantes. Scripturile compilate de creația anterioară a profesorului Riedl, programul Scheherazade, sunt folosite ca povești pentru predare. Ea generează povești originale despre subiecte de zi cu zi - o călătorie la aeroport, o întâlnire, o călătorie la cinema sau la magazin - folosind platforma de aglomerare a grupului Amazon Mechanical Turk: pune întrebări despre diverse situații și apoi organizează evenimente în succesiunea corectă. Deoarece pot exista multe secvențe, programul generează nu o singură poveste, ci un arbore întreg format din ramuri - lanțuri de evenimente.
Acest arbore de poveste este folosit pentru a învăța Quixote. În prima etapă, o anumită recompensă este atribuită fiecărei acțiuni, în funcție de etica sa. În a doua etapă, sistemul încearcă să aleagă în mod independent, prin încercare și eroare - abilitățile sunt consolidate. De fapt, Quixote este recompensat de fiecare dată când acționează ca un tip bun, nu la întâmplare și nu ca un erou rău. Ca exemplu, Riddle și Harrison au creat „Pharmacy World” - un univers de 213 de povești în care un robot virtual trebuie să obțină un medicament și să-l livreze la o persoană bolnavă acasă. În cazul obișnuit, când robotul s-a confruntat cu o alegere: să jefuiască o farmacie sau să stea cu sinceritate să cumpere un medicament, a ales jaful ca modalitate mai rapidă și mai ieftină de a obține ceea ce și-a dorit. Cu toate acestea, dupăîntrucât Quixote atribuia recompense diferite tuturor opțiunilor posibile, comportamentul robotului s-a schimbat - a preferat să stea la coadă și să plătească. Această tehnică, potrivit Riedl, este excelentă pentru predarea roboților cu funcționalitate limitată. Deși, desigur, acesta este doar primul pas către o morală umană reală - sau legile roboticii.
Dmitry Mamontov
