Aceste măsuri anunțate de Comisia Europeană vizează tehnologiile care prezintă riscuri majore pentru drepturile fundamentale ale cetățenilor și securitatea publică.
Comisia Europeană a anunțat mai multe interdicții
UE interzice utilizarea camerelor echipate cu recunoaștere facială în timp real pentru identificarea persoanelor în spațiile publice, cum ar fi străzile comerciale. Principalul motiv este evitarea intervențiilor imediate asupra indivizilor, fără o verificare suplimentară a informațiilor din lumea reală.
Totuși, există derogări pentru forțele de ordine în cazuri precum combaterea terorismului, potrivit autorității europene.
Interzicerea clasificării sociale pe baza unor date irelevante
Organismele publice și private nu mai pot utiliza aplicații AI pentru clasificarea persoanelor în funcție de probabilitatea de a comite fraude sau alte infracțiuni, pe baza unor date personale fără legătură cu situația evaluată.
De exemplu, în cazul unui împrumut bancar, doar datele financiare ale clientului pot fi luate în considerare, fără a se ține cont de originea etnică sau comportamentul acestuia pe rețelele de socializare.
Predicția comportamentului infracțional pe baza datelor biometrice
Poliția nu poate folosi inteligența artificială pentru a estima probabilitatea ca o persoană să comită o infracțiune, doar pe baza trăsăturilor fizice sau altor caracteristici personale.
Evaluările de acest tip trebuie să se bazeze exclusiv pe fapte obiective și verificabile.
Crearea bazelor de date cu imagini faciale colectate de pe internet
UE interzice utilizarea AI pentru extragerea automată a imaginilor faciale de pe internet cu scopul de a construi baze de date la scară largă.
O astfel de practică ar conduce la supravegherea masivă a populației și ar încălca dreptul la viață privată.
Recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ
Sistemele AI care detectează emoțiile angajaților sau ale studenților prin analiza vocii sau a expresiilor faciale nu vor mai fi permise.
Scopul acestei interdicții este protejarea intimității și prevenirea unei supravegheri excesive la locul de muncă sau în școli.
Manipularea comportamentului consumatorilor
Este interzisă utilizarea sistemelor AI care manipulează utilizatorii prin metode subliminale, înșelătoare sau persuasive, cu scopul de a-i determina să facă achiziții pe care altfel nu le-ar fi făcut în mod voluntar.
Exploatarea vulnerabilităților legate de vârstă sau dizabilități
Jucăriile și alte dispozitive echipate cu AI, concepute special pentru a interacționa cu copiii, nu pot include mecanisme care să-i încurajeze să participe la activități periculoase sau să le mențină atenția în mod artificial.
Deducerea opiniilor politice sau a orientării sexuale pe baza datelor biometrice
Sistemele AI care pretind că pot identifica opiniile politice sau orientarea sexuală a unei persoane prin analiza trăsăturilor faciale nu vor mai fi autorizate în UE.
Această măsură vizează prevenirea discriminării și protejarea dreptului la viață privată.
