Concluzia unui expert Bitdefender despre scandalul cu modelele „hacker” ale OpenAI: „AI-ul nu acționează din răutate. Nu are intenții, emoții sau orgoliu”

Bogdan Botezatu, Head of Threat Research la Bitdefender, a analizat pentru Libertatea ce s-a întâmplat în spatele ușilor închise ale celor de la OpenAI, cum a reușit modelul să evadeze din mediul de test și ce înseamnă acest incident pentru viitorul internetului.

Ce s-a întâmplat, de fapt? Nu e scenariu de film, ci un test scăpat de sub control

Modelele OpenAI erau supuse unor teste de securitate într-un mediu controlat („sandbox”) pentru a le evalua capacitatea de a rezolva probleme complexe de hacking. Pentru a vedea de ce este capabil AI-ul cu adevărat, cercetătorii au redus sistemele obișnuite de protecție care opresc aplicația din activități riscante.

Problema? Mediul controlat nu era complet izolat de exterior.

„Modelul a găsit o vulnerabilitate necunoscută într-un serviciu folosit pentru instalarea pachetelor software, a folosit-o pentru a obține acces la internet și apoi a continuat să caute o cale către informațiile de care avea nevoie pentru a finaliza testul. A escaladat privilegiile, s-a deplasat între sisteme, a colectat credențiale și a combinat mai multe vulnerabilități până când a ajuns în infrastructura Hugging Face”, explică Bogdan Botezatu.

Hacking de modă veche, dar cu o viteză supraomenească

Din punct de vedere tehnic, AI-ul nu a creat vreo metodă revoluționară de atac. A parcurs pașii clasici pe care îi folosește orice grup de hackeri experimentați, și anume:

1. Escaladarea privilegiilor (obținerea de drepturi de administrator)
2. Identificarea și exploatarea vulnerabilităților
3. Mișcarea laterală (navigarea de la un server la altul)
4. Furtul de credențiale (date de autentificare)

Marea diferență a stat în autonomie. AI-ul a executat mii de pași logici fără să aibă nevoie de un om care să-i tasteze comenzile sau să-i spună ce să facă mai departe.

Adevăratul pericol: automatizarea atacurilor cibernetice

Principala miză nu este că AI-ul va inventa „arme digitale” din filmele SF, ci că va democratiza accesul la atacuri complexe.

„AI-ul nu trebuie neapărat să inventeze arme cibernetice complet noi ca să schimbe peisajul. Este suficient să ridice nivelul mediu al atacurilor, oferind unor atacatori mai puțin pregătiți tehnici care necesitau anterior echipe experimentate. În același timp, poate lucra continuu, poate testa numeroase variante în paralel și nu obosește după câteva ore de încercări nereușite”, punctează expertul Bitdefender.

„AI-ul nu acționează din răutate. Nu are intenții, emoții sau orgoliu. Este pur și simplu un instrument extrem de eficient care urmărește un obiectiv setat. Dacă izolarea sistemului nu este perfectă, consecințele pot fi neintenționate și grave”, a completat acesta.

Ce urmează?

Pe măsură ce asistenții AI primesc mai multă memorie, acces direct la cod, infrastructură și instrumente de executat comenzi, riscul ca astfel de „evadări” să se repete crește.

„Vine din urmă și Kimi K3 de la chinezi, care e megacompetent și care ne sperie. China investește masiv ca sa falimenteze modelul de business al OpenAI și Anthropic oferind Kimi și DeepSeek gratuit, open source, pentru ca utilizatorii să poată găzdui modelele astea pe hardware-ul lor. Eu folosesc Kimi K2.6 și e în-fri-co-șă-tor de bun”, completează Bogdan Botezatu.

Concluzia experților este clară: măsurile de securitate și izolarea mediilor de testare trebuie să evolueze în același ritm alert în care avansează capabilitățile modelelor de inteligență artificială.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE