Subiectul inteligenței artificiale avansate (AI), în viitor, poartă de obicei anumite temeri - de exemplu, că va fi capabil să se auto-învețe și să devină atât de dezvoltat încât oamenii nu vor mai putea să-l înțeleagă. În mâinile greșite și chiar pe cont propriu, un astfel de algoritm avansat poate prelua guverne și armate, să introducă metode orwelliene de supraveghere și manipulare, să stabilească controlul asupra societății și chiar să controleze o armată de drone de luptă autonome pe câmpul de luptă.
Dar unii experți din AI nu consideră că aceste temeri sunt valabile. De fapt, un AI extrem de avansat poate fi mai capabil să guverneze lumea decât oamenii. Astfel de temeri sunt ele însele periculoase, deoarece ne pot împiedica să realizăm o astfel de oportunitate.
„Poate că neimplementarea AI reprezintă un pericol pentru umanitate”, a declarat cercetătorul Facebook AI, Thomas Mikolov, la o conferință de la Praga, despre provocările creării AI la nivelul inteligenței umane.
Mikolov explică că oamenii, ca specie, sunt foarte slabi în luarea deciziilor pe termen lung pentru a aduce rezultate benefice. Oamenii au demontat pădurile tropicale pentru a extrage materii prime, fără să-și dea seama (sau nu sunt interesați) că, prin urmare, au contribuit la degradarea planetei noastre - poate ireversibil.
Dar un sistem avansat de AI ar putea proteja umanitatea de propria sa perspectivă.
„Oamenii sunt slab capabili să prevadă viitorul îndepărtat, să spunem, cu 20-30 de ani înainte. Poate creând o AI care este mult mai inteligentă decât suntem, ne putem ajuta pe noi înșine să evităm viitorul dezastru."
Desigur, Mikolov aparține unei minorități de oameni de știință care cred că o AI extrem de dezvoltată va fi binevoitoare. În timpul conferinței, mulți vorbitori și-au exprimat frica răspândită de IA, mai des în legătură cu posibila utilizare a acesteia în scopuri periculoase de către actori rău intenționati, al căror pericol nu trebuie subestimat.
Nu știm sigur dacă va fi posibil să se creeze o AI cu scop general, capabil să îndeplinească orice sarcină de gândire disponibilă oamenilor și poate chiar mai bună decât ei.
Video promotional:
Viitorul AI avansat pare a fi promițător, dar ridică multe preocupări etice. Nici măcar nu știm toate întrebările la care va trebui să răspundem.
Cu toate acestea, majoritatea participanților la conferința de la Praga au convenit că regulile trebuie elaborate înainte de a fi necesare. Deja, este necesar să se creeze tratate internaționale, comitete de etică și organe de reglementare la guverne, companii și comunități științifice. Implementarea unor astfel de instituții și protocoale va reduce probabilitatea ca un guvern ostil, un cercetător nedorit sau chiar un „om de știință” cu adevărat nebun să declanșeze AI-ul rău intenționat sau va folosi un algoritm complex într-un alt mod ca armă. Și în cel mai rău caz, vom avea remedii.
Prin introducerea regulilor și precauțiilor necesare, în viitor vom putea trăi în armonie cu AI-ul foarte dezvoltat; poate într-o zi chiar ne va salva.
Vadim Tarabarko
