În peisajul tehnologic actual, unde inteligența artificială evoluează cu o viteză amețitoare, asistăm la un paradox periculos. Giganții din industria AI au ridicat bariere de protecție (așa-numitele „guardrails”) pentru a preveni utilizarea modelelor lor de către actori malițioși. Însă, ceea ce s-a dorit a fi un scut împotriva atacurilor cibernetice începe să semene tot mai mult cu un obstacol birocratic care sufocă activitatea celor care ne protejează: cercetătorii de securitate „offensive” și apărătorii de rețea legitimi.
Cazul Anthropic și Interdicțiile Guvernamentale
Tensiunea dintre securitate și accesibilitate a atins un punct critic în iunie 2026, când guvernul Statelor Unite a impus restricții de control al exporturilor asupra modelelor AI de ultimă generație ale Anthropic, cunoscute sub numele de Mythos și Fable. Această decizie radicală a fost alimentată de rapoarte care sugerau că barierele acestor modele ar putea fi ocolite („jailbreak”), permițând utilizatorilor să genereze și să execute atacuri cibernetice complexe.
Deși Anthropic a promovat modelul Mythos ca pe o „mașinărie cibernetică a apocalipsei” ce trebuie oferită doar utilizatorilor verificați riguros, realitatea implementării a fost una sinuoasă. După o perioadă de revizuire, restricțiile pentru Fable 5 și Mythos 5 au fost ridicate parțial. Astfel, Fable 5 a revenit în acces general pe data de 1 iulie, în timp ce Mythos 5 a fost reintrodus exclusiv pentru organizațiile americane verificate, sub supravegherea procesului guvernamental.
Programele de Verificare: Acces Privilegiat sau „Bătaie de Cap” Tehnologică?
Atât Anthropic, cât și OpenAI au încercat să atenueze criticile prin crearea unor programe speciale de acces pentru cercetători. OpenAI propune Trusted Access for Cyber, în timp ce Anthropic utilizează Cyber Verification Program (CVP). Aceste programe sunt concepute să ofere cercetătorilor acces la modele cu mai puține restricții de securitate, precum Claude Opus și Claude Sonnet, în măsura în care aceștia trec de un proces riguros de vetting.
Cu toate acestea, comunitatea de securitate este sceptică. Mark Dowd, un cercetător veteran specializat în vulnerabilități „zero-day”, a subliniat că deciziile arbitrare ale unor companii private despre ce este „sigur” în securitate pot fi contraproductive. Această abordare este comparată de Paolo Stagno, CTO la Crowdfense, cu un tratament infantil: cercetătorii de elită sunt tratați ca niște copii care au nevoie de o dădacă.
Analiză: Impactul Guardrails asupra Apărării Cibernetice
Problema fundamentală rezidă în natura duală a inteligenței artificiale. Chris Anley de la NCC Group folosește o analogie elocventă: AI-ul este ca un ciocan. Nu poți construi o casă fără el, dar acesta rămâne, în esență, și o armă. Atunci când un cercetător folosește un prompt de tipul „repară acest cod”, el realizează o acțiune defensivă, dar procesul în sine oferă și o hartă pentru descoperirea vulnerabilităților critice.
În prezent, cercetătorii se confruntă cu următoarele provocări tehnice și operaționale:
- Inconsistența rezultatelor: Modelele oferă răspunsuri diferite de la o zi la alta, chiar și în cadrul programelor verificate.
- Negocierea cu modelul: În loc să analizeze codul, experții pierd timp încercând să convingă AI-ul că activitatea lor este legitimă.
- Riscul de scurgere a datelor: Utilizarea modelelor de frontieră (frontier models) în cloud implică riscul ca datele sensibile despre vulnerabilități să fie absorbite în viitoarele seturi de antrenament.
Migrarea către Open Source și Soluțiile Chinezești
Consecința cea mai alarmantă a acestor restricții este migrarea cercetătorilor către modele open-source care pot fi rulate local, fără restricții de utilizare. Chris Thompson, fondatorul Offensive AI Con, avertizează că cercetătorii responsabili sunt împinși dinspre sistemele guvernate de SUA către modele străine, cum este modelul chinezesc GLM. Acesta poate fi descărcat gratuit și utilizat fără supraveghere, oferind o libertate de acțiune pe care giganții americani o refuză în prezent.
Concluzie: O cursă a înarmării pe care apărătorii riscă să o piardă
În timp ce intenția de a limita accesul hackerilor la instrumente puternice este nobilă, implementarea actuală a barierelor AI pare să „stopeze” tocmai acele firme de consultanță și cercetători legitimi care încearcă să facă diferența. Dacă laboratoarele AI nu vor deschide programele lor într-un mod mai flexibil și responsabil, apărătorii vor pierde cursa în fața unui val de atacuri automatizate, care se vor desfășura la o scară și o viteză fără precedent.
Fără un echilibru între siguranță și utilitate, riscăm ca cele mai avansate modele de AI să devină irelevante pentru cei care au cea mai mare nevoie de ele în lupta pentru securizarea spațiului digital.
Sursa originală: Click AICI.
About the Author
