Descoperirea de la OpenAI care ar putea ameninţa omenirea
Inteligenţa artificială de la OpenAI ar putea ameninţa omenirea. Anumiți cercetători din cadrul personalului startup-ului au trimis o scrisoare către Consiliul de Administraţie în care avertizau că inteligenţa artificială ar putea ameninţa omenirea, relatează două surse citate de agenția de presă Reuters. Totul, cu puțin timp înainte de demiterea lui Sam Altman din funcția de director general.
În acea scrisoare, este semnalat potenţialul pericol al inteligenței artificiale, însă nu sunt precizate îngrijorările exacte. Semnatarii scrisorii au semnalat, însă, activitatea unei echipe de „cercetători în domeniul inteligenţei artificiale”. Grupul s-ar fi format prin combinarea echipelor anterioare de la „Code Gen” şi „Math Gen”. Ar explora modul de optimizare a modelelor de inteligenţă artificială existente pentru a le îmbunătăţi raţionamentul şi pentru a efectua lucrări ştiinţifice.
„Scrisoarea şi algoritmul de inteligenţă artificială au fost evoluţii cheie înainte de înlăturarea lui Altman de către Consiliul de Administraţie”, au declarat acele surse.
Scrisoarea a fost una dintre nemulțumirile Consiliului de Administraţie, care au determinat concedierea lui Sam Altman din funcția de director general al OpenAI. Înainte de revenirea sa la OpenAI, sute de angajaţi au ameninţat compania că vor demisiona şi se vor alătura Microsoft, în semn de solidaritate.
„OpenAI a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* şi o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre persoane. Unele persoane de la OpenAI cred că Q* ar putea fi o descoperire în căutarea de către start-up a ceea ce este cunoscut sub numele de inteligenţă artificială generală (AGI). OpenAI defineşte AGI ca fiind sisteme autonome ce depăşesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului sursa Reuters. Cu toate că efectua doar calcule matematice la nivelul elevilor de şcoală primară, faptul că a reuşit astfel de teste i-a făcut pe cercetători să fie foarte optimişti cu privire la viitorul succes al Q*”, au dezvăluit acele surse.
Un purtător de cuvânt al OpenAI a dezvăluit că mesajul a fost trimis de Mira Murati, un director vechi din cadrul companiei. A alertat angajații cu privire la anumite articole din presa internațională, fără a comenta, însă, acurateţea ea.
Inteligenţa artificială generativă s-ar putea apropia de inteligenţa umană
Matematica este o frontieră a dezvoltării inteligenţei artificiale generative. În prezent, inteligenţa artificială generativă poate scrie şi traduce texte, dar a face calcule ar înseamna că ea are capacităţi mari de raţionament, asemănătoare cu inteligenţa umană, pentru că în matematică există un singur răspuns corect.
Spre deosebire de un calculator care poate rezolva un număr limitat de operaţii, inteligența artificială generativă poate învăţa şi înţelege.
„Acest lucru ar putea fi aplicat, de exemplu, la cercetări ştiinţifice noi”, consideră cercetătorii din domeniul IA.
