Așadar, Departamentul de Stat din SUA a comandat un raport cu privire la riscurile prezentate de Inteligența Artificială. Documentul a fost realizat de Gladstone AI, companie care își propune să promoveze utilizarea responsabilă a tehnologiilor de AI.
Raportul a analizat riscurile prezentate de Inteligența Artificială
Potrivit CNN, concluziile s-au bazat pe interviuri cu peste 200 de persoane desfășurate pe parcursul a mai bine de un an. Printre aceștia s-au aflat și directori de la cele mai importante companii de inteligență artificială, cercetători în domeniul securității cibernetice, experți în arme de distrugere în masă și oficiali guvernamentali americani din domeniul Securității Naționale.
Raportul susține că sistemele de AI cele mai avansate, ar putea, în cel mai defavorabil scenariu, să ducă la o amenințare „la nivel de extincție pentru specia umană”.
Un oficial al Departamentului de Stat din SUA a declarat pentru sursa menționată că documentul nu reprezintă punctul de vedere oficial al guvernului american.
AI este o tehnologie care transformă deja economia
Jeremie Harris, director și cofondator al Gladstone AI, a oferit mai multe informații. În primul rând, acesta a ținut să sublinieze că AI este o tehnologie care transformă deja economia.
În cele mai bune cazuri, spune el, ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam, cândva, de nedepășit.
Totuși, există și riscuri serioase. De exemplu, susține Harris, AI ar putea aduce și riscuri serioase, inclusiv riscuri catastrofale.
Acesta a spus apoi că Inteligențele Artificiale ar putea deveni potențial incontrolabile, peste un anumit prag de capacitate. În acest sens ar exista un număr tot mai mare de dovezi.
Harris spune că este vorba despre cercetări empirice și analize publicate în cadrul celor mai importante conferințe din lume.
„IA este deja o tehnologie care transformă economia. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam, cândva, de nedepășit. Dar IA ar putea aduce și riscuri serioase, inclusiv riscuri catastrofale, de care trebuie să fim conștienți.
Un număr tot mai mare de dovezi – inclusiv cercetări empirice și analize publicate în cadrul celor mai importante conferințe IA din lume – sugerează că, peste un anumit prag de capacitate, Inteligențele Artificiale ar putea deveni potențial incontrolabile”, a declarat Jeremie Harris pentru sursa menționată.
Cercetătorii avertizează asupra a două pericole principale
Potrivit sursei menționate, cercetătorii au prezentat două pericole principale. În primul rând, cele mai avansate sisteme de AI ar putea fi transformate în arme. Acestea ar putea provoca daune potențial ireversibile, spun cercetătorii.
Al doilea risc este că laboratoarele ar putea pierde controlul, la un moment dat, asupra sistemelor pe care le dezvoltă. Acest lucru ar putea avea consecințe devastatoare pentru securitatea globală.
Raportul susține că „ascensiunea AI și AGI (Inteligența Generală Artificială) are potențialul de a destabiliza securitatea globală în moduri care amintesc de introducerea armelor nucleare”.
În acest context, Gladstone AI a solicitat crearea unei noi agenții guvernamentale însărcinate cu AI, adoptarea urgentă a unor măsuri legislative de protecție și limitarea puterii calculatoarelor folosite pentru a antrena modele de Inteligență Artificială.
