Inteligența artificială ar putea declanșa dispariția umanității
Vitalik Buterin a avertizat că o Inteligență Artificială (IA) extrem de avansată, lăsată în voie, are șansa reală de a depăși oamenii și de a deveni următoarea specie dominantă pe planetă. Cu toate acestea, Buterin subliniază că acest scenariu depinde în mare măsură de intervenția umană în procesul de dezvoltare a IA.
Aceste declarații au fost făcute în cadrul unei postări pe blog, din data de 27 noiembrie. Aici, Vitalik Buterin, care este perceput de unii drept un adevărat lider de opinie în spațiul criptomonedelor, și-a argumentat poziția.
El spune că Inteligența Artificială (IA) este în mod esențial diferită față de alte invenții recente. Ca termeni de comparație el a oferit contraexemple. Buterin a amintit rețelele sociale, contracepția, avioanele, armele de foc, roata și tipografia.
El a evidențiat faptul că IA are capacitatea de a crea un tip nou de intelect. Aceasta ar putea deveni o minte care s-ar putea întoarce împotriva intereselor speciei umane.
„AI este […] un nou tip de minte care câștigă rapid în inteligență și are o șansă serioasă de a depăși facultățile mentale ale oamenilor și de a deveni noua specie de vârf de pe planetă”, a precizat Vitalik Buterin.
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikButerin) November 27, 2023
IA superinteligentă ar putea să însemne finalul speciei umane
Potrivit lui Buterin, IA este diferită de schimbările climatice, de pandemiile provocate de om sau de războaiele nucleare.
El spune că inteligența artificială superinteligentă ar putea constitui o amenințare fără precedent pentru umanitate. Aceasta ar putea avea potențialul de a eradica complet specia umană, fără a lăsa niciun supraviețuitor. Acest scenariu este cu atât mai probabil cu cât AI ar putea considera că oamenii reprezintă o amenințare la adresa propriei supraviețuiri.
„Un mod în care AI a mers prost ar putea înrăutăți lumea este (aproape) cel mai rău mod posibil: ar putea duce literalmente la dispariția umană. (…) Chiar și Marte s-ar putea să nu fie în siguranță”, a precizat Buterin.
În sprijinul afirmațiilor sale, Buterin a adus în discuție rezultatele unui sondaj din august 2022. Acesta a fost efectuat cu ajutorul a peste 4.270 de cercetători în domeniul învățării automate. Aceștia au evaluat șansele ca Inteligența Artificială să genereze un eveniment catastrofic pentru omenire, stabilind o probabilitate între 5 și 10% în favoarea acestui scenariu.
Totuși, Buterin a subliniat că astfel de afirmații sunt extrem de dramatice și a evidențiat că există strategii și mecanisme prin care oamenii pot gestiona și preveni astfel de scenarii.
