Nu de ieri de azi, dezbaterea publică despre efectele dezvoltării tehnologiilor legate de inteligența artificială se poartă în special pe tonuri distopice.
Abundă filmele și cărțile cu roboți care se revoltă împotriva dominației umane și îi transformă pe oameni în cetățeni de mâna a doua, sclavi sau simple surse de energie. Mai de curând, spaima e că roboții le vor fura joburile umanoizilor, motiv pentru care trebuie date legi privind venitul minim garantat universal, iar inteligențele artificiale trebuie impozitate la fel precum cele „naturale”, cu CAS-uri și tot tacâmul. Însă indiferent că suntem pesimiști sau optimiști în această privință, întrebarea fundamentală e în ce măsură inteligența artificială poate sau nu să atingă un anumit grad de autonomie în acțiune.
E aici ceva paradoxal și contradictoriu. În primul rând, nu e deloc sigur dacă nu cumva însuși termenul „inteligență artificială” nu e incorect și dezorientant. În ce măsură poate fi numită inteligentă o entitate – ca să nu-i spunem obiect – al cărei algoritm de funcționare este scris și implementat de către altcineva, așa cum se întâmplă cu roboții? În ce măsură inteligențele artificiale își pot conștientiza și transcende propriul algorim, pentru a-l putea îmbunătăți sau altera? Deși sintagma poate părea pompoasă, avem de a face aici cu misterul și paradoxul conștiinței. Dar să presupunem că – fără să ne întrebăm cum – acest salt ontologic a fost făcut și că avem de a face cu inteligențe artificiale dotate într-o anumită măsură cu autonomie. Cu roboți care se pot reprograma și care își pot prescrie singuri reguli de funcționare. Ar putea aceste entități să fie caracterizate drept „ființe morale”, capabile de judecăți și alegeri etice?
Ne putem imagina că o inteligență artificială, bazată pe un algoritm, chiar dacă ar fi capabilă să și-l rescrie, ar valoriza formalismul regulilor structurate mai mult decât orice. Cu alte cuvinte, ar pune legislația înaintea moralității. Un robot ar vedea totul în termeni de algoritm. Pentru el, constituția și corpul legilor unui stat ar reprezenta însăși programul algoritmic care garantează funcționarea societății.
E greu de presupus că o inteligență artificială, oricât de avansată, ar fi capabilă să asimileze conceptul de „legi nedrepte”. La urma urmelor, și multor oameni, din păcate, le e imposibil acest lucru. De asemenea, i-ar fi foarte greu să perceapă distincția dintre stat și societate. Devreme ce statul încarnează Ordinea însăși, societatea fără stat n-ar fi pentru un robot decât un morman amorf de piese de hardware lipsite de software. Evident, legile pot fi îmbunătățite la fel cum un software poate fi updatat și optimizat. Însă probabil că empatia, intuiția fundamentală a diferenței dintre bine și rău, nu vor putea fi codificate niciodată într-un algoritm.
Mai multe articole scrise de Ionut Bălan găsiţi pe bloguluibalan.ro
Acest articol a fost publicat în numărul 7 al revistei Capital, diponibil la chioşcuri în săptămâna 19-25 februarie 2018