Tehnologia ca promisiune și amenințare sau despre importanţa dimensiunii existenţiale

Orice tehnologie importantă modifică, implicit sau explicit, experiența umană a lumii. Inteligența artificială face acest lucru într-un mod deosebit de intens, deoarece operează nu doar asupra mediului exterior, ci și asupra reprezentărilor, deciziilor și aten­ției. Ea promite accelerare, personalizare, efici­ență, optimizare și acces extins la cunoaștere. În același timp, ea produce noi forme de depen­dență: de infrastructuri private, de interfețe opace, de sisteme de recomandare care modelează comportamentele și de modele de limbaj capabile să genereze conținut plauzibil la scară masivă. Această dublă mișcare face ca IA să fie, structural, o tehnologie ambivalentă.¹

Heidegger a descris tehnologia modernă nu doar ca ansamblu de instrumente, ci ca mod de dezvăluire a realului, un cadru în care lumea apare în primul rând ca resursă disponibilă. Fără a transfera mecanic această schemă în analiza IA, in­tuiția rămâne fecundă: atunci când realitatea este privită predominant prin prisma calcula­bilității și a exploatării eficiente, omul însuși riscă să devină material gestionabil. În epoca algoritmică, această reducție ia forma scorurilor, profilărilor, segmentărilor predictive și a transformării comportamentelor în date convertibile economic și politic.²

Există, prin urmare, un paradox al emancipării tehnologice. Cu cât instrumentele noastre sunt mai puternice, cu atât devine mai urgentă întrebarea dacă omul pe care ele îl servesc este mai liber sau doar mai eficient administrat. Promisiunea confortului se poate transforma în diminuarea autonomiei; promisiunea conectivității se poate transforma în fragmentare afectivă; promisiunea cunoaș­terii rapide se poate transforma în slăbirea răbdării intelectuale și a discernământului. IA nu produce singură aceste mutații, dar le accelerează și le amplifică în mod fără precedent.³

Vulnerabilitatea epistemică, relațională și politică

Prima formă de vulnerabilitate amplificată de IA este una epistemică. Modelele generative pot produce texte, imagini și sinteze remarcabil de fluente, însă fluența nu este identică cu adevărul. Emily Bender și Alexander Koller au arătat, într-un articol devenit clasic, că un sistem antrenat exclusiv pe forme lingvistice nu dobândește prin aceasta și înțelegerea semantică a lumii. El poate corela tipare, nu însă înlocui sensul, așa cum o face un subiect în­t­ru­pat, situat și orientat practic în lume. De aceea, confuzia dintre pla­u­zibilitate lingvistică și adevăr cognitiv devine un risc major al epocii modelelor mari de limbaj.⁴

Aceeași linie critică este dezvoltată de Bender, Gebru, McMillan-Major și Shmitchell în analiza lor privind papagalii stocastici. Avertismentul lor nu este simplu tehno-optimism, ci o observație metodologică și etică: modelele foarte mari pot reproduce și amplifica prejudecăți, pot genera conținut înșelător la scară și pot fi evaluate public mai degrabă prin spec­tacolul performanței decât prin înțelegerea limitelor lor structurale. Cu cât interfața este mai convingătoare, cu atât utilizatorii pot deveni mai vulnerabili la erori subtile, halucinații și delegarea comodă a judecății proprii.⁵

O a doua vulnerabilitate este rela­țională. Sherry Turkle a descris cu acuitate felul în care tehnologiile digitale pot produce simultan hiperconectivitate și singurătate. În contextul IA, această tensiune devine și mai puternică, deoarece apar sisteme capabile să simuleze conver­sația, sprijinul afectiv și continuitatea atenției. Or, disponibilitatea constantă a unei prezențe simulate poate remodela așteptările noastre față de relațiile umane reale, adică față de alteritatea care contrazice, cere răbdare, presupune reciprocitate și nu poate fi configurată prin preferințe de utilizator. O societate care înlocuiește progresiv relația dificilă cu interacțiunea optimizată riscă să slăbească tocmai virtuțile care fac posibilă comunitatea: răbdarea, ascultarea, iertarea și responsabilitatea față de celălalt.⁶

O a treia vulnerabilitate este politică. IA este integrată în ecosisteme economice și mediatice care extrag, corelează și monetizează date comportamentale. Această infrastructură favorizează supravegherea granulară, microtargetarea și manipularea atenției. Din perspectiva demo­crației, problema nu constă doar în dezinformarea directă, ci și în deformarea lentă a spațiului public prin filtrare opacă, recompense emo­țio­nale și personalizare extremă. În locul unei sfere publice comune, apare o multitudine de nișe cognitive administrate algoritmic. Persoana nu mai este tratată ca cetățean capabil de deliberare, ci ca profil probabilistic susceptibil de influențare.⁷

Ambivalența ca semn al condiției umane

Ambivalența tehnologiei nu este un accident exterior omului, ci reflectă chiar structura condiției umane. Omul este ființă capabilă să creeze instrumente pentru a-și extinde puterea, dar și ființă vulnerabilă la propriile creații. El transformă lumea și, în același timp, este transformat de lumea pe care o organizează. În acest sens, IA nu este doar o oglindă a ingeniozității noastre, ci și un revelator al tentațiilor noastre: dorința de control total, fascinația pentru predictibilitate, oboseala discernământului, nevoia de simplificare și fuga de fragilitatea relațiilor vii.⁸

A recunoaște ambivalența nu înseamnă a cădea într-un relativism paralizant. Dimpotrivă, înseamnă a refuza atât mitul progresului automat, cât și mitul degenerării inevitabile. IA poate sprijini cercetarea medicală, accesul la cunoaștere, traducerea, accesibilizarea și analiza unor volume de date imposibil de gestionat altfel. Dar tocmai pentru că poate servi binele, poate fi instrumentalizată și pentru control, excludere, militarizare sau trivializarea adevărului. Ambivalența ei obligă la maturitate morală, adică la capacitatea de a evalua contextul, scopurile și costurile ascunse ale fiecărei aplicații.⁹

Din această perspectivă, vulnerabilitatea nu trebuie înțeleasă doar negativ. Ea este și condiția unei uma­nități care nu se confundă cu omnipotența. A fi vulnerabil înseamnă a depinde de adevăr, de ceilalți și de limite. IA devine periculoasă atunci când promite abolirea acestor dependențe sau când induce iluzia unei autosuficiențe cognitive. Omul nu este mai puțin om pentru că are limite; dimpotrivă, tocmai limitele sale fac posibilă etica, solidaritatea și deschiderea către transcendență.¹⁰

Note:

1.  Papa Francisc, Laudato si’, nr. 102-114; Papa Francisc, discursul la G7, 14 iunie 2024.

2. Heidegger, The Question Concerning Technology; Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (New York: PublicAffairs, 2019).

3. Sherry Turkle, Alone Together (New York: Basic Books, 2017); Zuboff, The Age of Surveillance Capitalism.

4. Emily M. Bender și Alexander Koller, „Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data”, în Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (Online: Association for Computational Linguistics, 2020), 5185-5198.

5. Emily M. Bender, Timnit Gebru, Angelina McMillan-Major și Shmargaret Shmitchell, „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”, în Proceedings of the 2021 ACM Conference on Fairness, Accountabilit, and Transparency (New York: ACM, 2021), 610-623.

6. Turkle, Alone Together; Papa Francisc, Fratelli tutti, nr. 42-50.

7. Zuboff, The Age of Surveillance Capitalism; Papa Francisc, discursul la G7, 14 iunie 2024; Papa Francisc, Fratelli tutti, nr. 45-48.

8. Hans Jonas, The Imperative of Responsibility; Papa Francisc, Laudato si’, nr. 105-108.

9. NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1) (Gaithersburg, MD: National Institute of Standards and Technology, 2024); UNESCO, Recommendation on the Ethics of Artificial Intelligence.

10. Comisia Teologică Internațională, Communion and Stewardship; Gaudium et spes.

 

Pr. dr. Sebastian Gabor este lector asociat la Facultatea de Management din cadrul ASE și cadru didactic asociat la Academia de Poliție „Alexandru Ioan Cuza” din București.