Omul în fața viitorului - între inteligența artificială şi responsabilitate

Discuția despre inteligența artificială traversează astăzi aproape toate disciplinele majore: informatică, drept, economie politică, filosofie morală, teologie, studii media și securitate. Motivul este simplu. IA nu mai funcționează doar ca tehnologie specializată, ci ca strat invizibil de decizie și predicție peste activități dintre cele mai cotidiene: ce citim, ce cumpărăm, ce drum parcurgem, ce ofertă de muncă primim, ce conținut ni se recomandă și, în anumite contexte, chiar ce risc social sau medical ni se atribuie. Din această perspectivă, problema decisivă nu este dacă mașinile devin mai rapide decât oamenii la anumite sarcini, ci dacă omul ajunge să se înțeleagă pe sine doar în termenii a ceea ce poate fi calculat, anticipat
și optimizat.¹

Această mutație are consecințe care depășesc cu mult registrul eficienței. Dacă tehnologia devine nu doar instrument, ci criteriu ultim de inteligibilitate a realului, atunci viața morală este tradusă în scoruri, relațiile sunt mediate de platforme care monetizează atenția, iar ima­ginea omului este redusă la perfor­manță cognitivă și comportamentală. Nu este întâmplător faptul că documentele normative contemporane insistă asupra unei IA centrate pe om, demne de încredere și compatibile cu drepturile fundamentale, în timp ce interven­țiile magisteriale recente avertizează simultan împotriva demonizării tehnologiei și împotriva idolatrizării ei.²

Teza acestui articol este că IA trebuie înțeleasă drept un test antropologic major. Dacă omul este definit exclusiv prin funcționalitate și perfor­manță, atunci IA poate deveni noul etalon implicit al valorii, iar cei vulnerabili vor fi împinși la margine. Dacă însă omul este gândit ca persoană - corporală, relațională, liberă și deschisă adevărului și binelui -, atunci IA rămâne ceea ce trebuie să fie: un artefact puternic, util, uneori admirabil, dar mereu subordonat unei ordini a scopurilor care nu poate fi produsă de algoritmi.

Una dintre cele mai persistente iluzii ale modernității digitale este ideea că algoritmul ar fi, prin definiție, mai obiectiv decât judecata umană.

A spune că algoritmul nu este neutru nu înseamnă a nega utilitatea lui analitică. Înseamnă doar a recunoaște caracterul său socio-tehnic. Un model de recrutare, de exemplu, nu operează într-un vid moral: el învață din date despre angajări trecute, adică dintr-o istorie a instituției. Dacă acea istorie conține excluderi sistematice, modelul poate transforma prejudecata trecută în normă predictivă pentru viitor. În mod similar, un sistem de evaluare a riscului sau un instrument de moderare automată a conținutului preia inevitabil ipoteze despre ceea ce contează, despre ceea ce merită protejat și despre ceea ce poate fi sacrificat pentru eficiență. Din acest motiv, opacitatea tehnică nu este niciodată doar tehnică; ea devine opacitate morală și politică.³

Literatura de specialitate a arătat că diferitele coduri de etică a IA tind să conveargă în jurul unor principii relativ stabile: binefacere, autonomie, justiție, explicabilitate și responsabilitate. Această convergență este importantă pentru că indică existența unui consens normativ minim.

Totuși, aici apare o dificultate decisivă. Principiile sunt necesare, dar nu sunt suficiente. Brent Mittelstadt a observat convingător că simplul consens asupra unor valori înalte nu produce, de la sine, o practică etică robustă. În absența unor norme profesionale stabilizate, a unor proceduri clare de implementare și a unor mecanisme de răspundere bine definite, „etica IA” riscă să devină mai degrabă un limbaj legitimant decât un regim efectiv de limitare a puterii tehnologice. Între formularea principiilor și aplicarea lor se deschide, adesea, un gol instituțional serios.⁴

De la opacitate la răspundere

Întrebarea etică fundamentală nu este, așadar, numai ce poate face sistemul?, ci cine răspunde când sistemul produce un prejudiciu? În sistemele complexe, răspunderea se dispersează între dezvoltatori, furnizori de date, manageri, integratori, instituții care cumpără soluția și operatori care o folosesc. Rezultatul este paradoxal: cu cât o infrastructură tehnică este mai sofisticată și mai distribuită, cu atât devine mai dificil de identificat un centru clar al deciziei și, implicit, al răspunderii.⁵

Santoni de Sio și Mecacci propun o analiză utilă atunci când disting între mai multe forme de goluri de responsabilitate: goluri în control, goluri epistemice, goluri normative și goluri în trasabilitatea deciziei. Cu alte cuvinte, nu știm întotdeauna cine controlează efectiv sistemul, cine înțelege suficient mecanismul intern, după ce norme evaluăm o decizie emergentă și cum reconstruim lanțul cauzal al prejudiciului. Dacă acceptăm aceste goluri ca inevitabile, ajungem fie la fatalism tehnologic - nu se poate altfel -, fie la deflația morală - nimeni nu e cu adevărat responsabil -, fie la soluționism - credința naivă că o nouă tehnologie va repara mereu problemele create de tehnologia anterioară.⁶

Adevăratul control uman cere capacitate reală de înțelegere, competență de intervenție, libertate de a suspenda automatismul și acces la informațiile relevante pentru a contesta sau revizui rezultatul. De aceea, cerințele privind documentarea, log-urile, transparența și supravegherea nu sunt simple poveri administrative; ele reprezintă infrastructura minimă a răspunderii morale și juridice.⁷

În această cheie trebuie citite și exigențele recente privind alfabetizarea în materie de IA. Regulamentul european impune organi­zațiilor care folosesc anumite sisteme obligația de a asigura un nivel adecvat de competență pentru persoanele implicate în operarea și supravegherea lor. Lipsa de înțe­legere nu este un detaliu secundar; ea subminează însuși exercițiul libertății morale în context tehnologic.⁸

 

Note:

1. NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0) (Gaithersburg, MD: National Institute of Standards and Technology, 2023); Martin Heidegger, The Question Concerning Technology, and Other Essays, trad. William Lovitt (New York: Harper & Row, 1977).

2. OECD, „AI Principles”; UNESCO, Recommendation on the Ethics of Artificial Intelligence; Papa Francisc, Message for the 57th World Day of Peace: Artificial Intelligence and Peace, 1 ianuarie 2024; Dicasterul pentru Doctrina Credinței și Dicasterul pentru Cultură și Educație, Antiqua et nova. Note on the Relationship Between Artificial Intelligence and Human Intelligence, 28 ianuarie 2025.

3. Helen Nissenbaum, „Accountability in a Computerized Society”, Science and Engineering Ethics 2 (1996): 25-42; Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2015).

4. Brent Mittelstadt, „Principles Alone Cannot Guarantee Ethical AI”, Nature Machine Intelligence 1, nr. 11 (2019): 501-507.

5. Nissenbaum, „Accountability in a Computerized Society”; Filippo Santoni de Sio și Giulio Mecacci, „Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them”, Philosophy & Technology 34 (2021): 1057-1084.

6. Santoni de Sio și Mecacci, „Four Responsibility Gaps with Artificial Intelligence”.

7. Parlamentul European și Consiliul Uniunii Europene, Regulamentul (UE) 2024/1689, în special dispozițiile privind transparența, log-urile și supravegherea umană; ACM US Public Policy Council, Statement on Algorithmic Transparency and Accountability.

8. Regulamentul (UE) 2024/1689, art. 4 și art. 14; OECD, „AI Principles”.

 

Pr. dr. Sebastian Gabor este lector asociat la Facultatea de Management din cadrul ASE și cadru didactic asociat la Academia de Poliție „Alexandru Ioan Cuza” din București.