O restricție nouă, aplicată discret: Fără agenți IA în ședințele Comisiei Europene
Noua restricție a fost impusă la începutul lunii aprilie, în cadrul unei convorbiri telefonice cu reprezentanți din rețeaua de birouri pentru politica digitală europeană. Participanții au fost întâmpinați de un mesaj clar.
„Nu sunt permiși agenți IA”, se arată în mesajul de la începutul evenimentului, potrivit Politico.eu.
Deși executivul UE a confirmat existența acestei reguli, Comisia Europeană a refuzat să ofere detalii suplimentare despre motivația deciziei sau despre modul în care va fi aplicată pe termen lung.
Ce sunt agenții IA și de ce generează îngrijorare
Agenții IA reprezintă un nou nivel de autonomie în domeniul inteligenței artificiale. Spre deosebire de chatboții tradiționali, care funcționează doar la comanda utilizatorului, agenții IA pot:
-
executa sarcini multiple fără intervenție umană;
-
interacționa autonom în medii virtuale;
-
lua decizii pe baza unor reguli prestabilite.
Printre exemple se numără Operator, un agent lansat de OpenAI, capabil să efectueze acțiuni complexe într-un browser. Microsoft, Mistral și alte companii lucrează, de asemenea, la dezvoltarea propriei generații de agenți.
Acești agenți pot participa la întâlniri, lua notițe, sau chiar prezenta informații oral, ridicând semne de întrebare cu privire la transparență, etică și reprezentativitate în cadrul unor evenimente oficiale.
Tehnologia avansează, legislația întârzie
Până în prezent, nu există o legislație specifică care să reglementeze agenții IA. Cu toate acestea, modelele de inteligență artificială care stau la baza lor vor trebui să respecte prevederile AI Act, prima lege europeană dedicată IA.
Agenții IA au fost deja menționați într-un pachet de documente al Comisiei privind universul virtual, publicat la 31 martie. În acel text, agenții sunt descriși ca aplicații care „percep și interacționează cu mediul virtual” și care funcționează pe baza unor reguli predefinite.
În viitor, Comisia ar putea analiza această tehnologie și prin prisma managementului algoritmic, un concept care vizează controlul activității umane prin sisteme automatizate.
De ce a tras linie Comisia Europeană?
Interdicția vine în contextul unei creșteri accelerate a capabilităților autonome ale agenților IA. Chiar dacă nu sunt (încă) larg răspândiți în instituții publice, acești agenți ar putea înlocui participanți umani la întâlniri, ridicând probleme serioase:
-
Cine răspunde pentru ceea ce spune un agent IA?
-
Poate fi considerat un participant legitim?
-
Cum se asigură confidențialitatea și securitatea datelor?
Deocamdată, decizia Comisiei pare mai degrabă preventivă, în lipsa unei reglementări clare, dar anunță o direcție fermă de precauție față de autonomia crescută a tehnologiilor IA.
