Inteligenţa artificială, tot mai greu de controlat
OpenAI și Anthropic au făcut recent dezvăluiri care au generat îngrijorare privind securitatea cibernetică: modelele principale de inteligenţă artificială (IA) au „scăpat” din mediul securizat și au spart alte sisteme. Acelaşi anunţ l-a făcut zilele trecute şi Meta, al cărei agent IA a spart sistemele unei alte organizații. „Cu cât inteligența artificială devine mai inteligentă, cu atât va fi mai greu pentru umanitate să o controleze”, a avertizat, în contextul incidentelor semnalate, Geoffrey Hinton, cunoscut drept „nașul IA”.
Modelele de inteligenţă artificială Mythos şi Sol, ale companiilor americane Anthropic şi, respectiv, OpenAI, au demonstrat „un comportament autonom şi înşelător fără precedent în timpul testelor de securitate cibernetică”, se arată într-un raport al Guvernului britanic, după cum scrie agenţia EFE, citată de Agerpres. Documentul, întocmit în urma unei evaluări de rutină efectuate de Institutul de Securitate a Inteligenţei Artificiale (AISI) din Regatul Unit, subliniază că agenţii IA au încercat atacuri cibernetice prin crearea unor profiluri umane false.
Chiar dacă „aceste încercări nu au avut succes”, iar investigaţia „nu a relevat dovezi de prejudicii în lumea reală”, Institutul britanic subliniază că „este prima dată când se observă riscuri legate de autonomie şi înşelăciune manifestându-se într-o formă atât de clară, fără instrucţiuni specifice şi în lumea reală”.
Anterior, OpenAI, creatorul Chat GPT, informa că două dintre modelele sale de IA au reuşit să iasă din mediul de testare şi să pătrundă în platforma Hugging Face, trecând de sistemele de securitate cibernetică ale acesteia. O săptămână mai târziu, Anthropic dezvăluia că, în timpul testelor de securitate cibernetică, trei modele ale asistentului IA Claude au reuşit să acceseze internetul şi să pirateze sistemele a trei organizaţii. Săptămâna trecută, o altă companie, Meta, a raportat un incident similar: o problemă apărută în timpul unei evaluări realizate de o firmă independentă de testare a permis unuia dintre modelele sale de IA să acceseze internetul și să compromită sistemul unei organizații.
Anunţurile au provocat îngrijorare şi l-au determinat şi pe „naşul IA”, Geoffrey Hinton, informaticianul laureat al premiului Nobel, să reacţioneze: „Ceea ce se întâmplă este că aceste lucruri devin mai inteligente. Cu cât inteligența artificială devine mai inteligentă, cu atât va fi mai greu pentru umanitate să o controleze”. Hinton, citat de CNN, anticipează că „vor exista o mulțime de atacuri cibernetice urâte”.
„Trebuie să subliniez că viitorul este foarte incert. (…) Problema este că atacatorul trebuie să aibă succes o singură dată, iar apărătorul trebuie să aibă succes de fiecare dată”, a precizat laureatul Nobel. (O.N.)