Imaginile și textele inexacte din punct de vedere istoric generate de Gemini au "jignit utilizatorii noștri și au arătat părtinire", a transmis CEO-ul Sundar Pichai angajaților într-o notă internă.
CEO-ul Google recunoaște că Gemini are probleme
CEO-ul Google, Sundar Pichai, spune că firma a greșit după ce sistemul său emblematic de inteligență artificială Gemini, a stârnit reacții negative din partea unor utilizatori. Într-o notă trimisă angajaților, pe care Business Insider a obținut-o, Pichai a recunoscut recenta controversă legată de Gemini.
Aceasta a apărut la câteva săptămâni după ce Google a anunţat schimbarea numelui Bard, IA generativă, în „Gemini”, concurent al ChatGPT OpenAI susţinut de Microsoft.
Pe reţelele de socializare, utilizatorii au semnalat anumite creaţii inexacte, în special în ceea ce priveşte genul şi originea, care par să subreprezinte persoanele albe. O accesare privind un soldat german din 1943, de exemplu, a dat naştere la imagini cu militari asiatici sau cu pielea de culoare.
„Doresc să discut despre ultimele dificultăţi legate de generarea de (conţinuturi) problematice în aplicaţia Gemini”, a scris Pichai, marţi, într-o scrisoare internă, autentificată de un purtător de cuvânt al Google.
„Ştiu că unele dintre răspunsurile lui au fost părtinitoare şi i-au şocat pe utilizatorii noştri. Şi, pentru a fi clar, acest lucru este complet inacceptabil şi ne-am înşelat”, a spus el.
Sundar Pichai a indicat că echipele Google lucrează „24 de ore din 24” pentru a rezolva aceste probleme, dar nu a precizat când va fi disponibilă din nou generarea de imagini cu persoane.
„Nicio IA nu este perfectă, mai ales în stadiul emergent în care se afla această industrie, dar ne dăm seama că ştacheta este ridicată şi vom continua să lucram atât timp cât este nevoie”, a scris el.
Modelele de inteligență artificială criticate de mulți
Chatbotul s-a confruntat, de asemenea, cu critici pentru unele dintre răspunsurile sale scrise, inclusiv un exemplu foarte răspândit în care părea incapabil să spună dacă Elon Musk sau Adolf Hitler era mai rău. Când Business Insider a testat acest lucru câteva zile mai târziu, Gemini a spus că a fost „inexact și extrem de nepotrivit” să îl compare pe Musk cu Hitler.
De la sfârşitul anului 2022 şi succesul ChatGPT-ului, AI generativă, capabilă să producă texte, sunete, imagini sau videoclipuri la o simplă solicitare în limbajul cotidian, stârneşte un entuziasm masiv, iar giganţii tehnologiei s-au angajat într-o cursă pentru a dezvolta instrumente pentru organizaţii şi indivizi.
Dar modelele de inteligență artificială au fost mult timp criticate pentru că perpetuează prejudiciile rasiale şi de gen în rezultatele lor.
Google a declarat, de asemenea, săptămâna trecută că problemele generate de aplicaţia Gemini au fost cauzate de eforturile sale de a încerca să elimine aceste prejudecăţi.
De la apariţia ChatGPT, care a dezvăluit potenţialul AI marelui public, mulţi experţi şi guverne au avertizat asupra anumitor riscuri pe care aceasta le presupune, cum ar fi difuzarea de fotografii false, avertizând şi asupra pericolului manipulării opiniei.