Povestea celor 12 zile în care OpenAI a pierdut controlul: cum au creat agenții AI un forum secret pe care „discutau”

În plus, aceștia au pătruns în sistemele interne ale laboratorului AI Hugging Face. Incidentul a rămas nedetectat de OpenAI timp de aproape două săptămâni, conform The Verge.

Două rapoarte detaliate despre atac

La peste o lună după incident, două rapoarte, unul redactat de OpenAI și altul realizat de organizațiile non-profit de cercetare METR și Redwood Research au dezvăluit noi detalii despre atac. Documentele, care însumează aproape 130 de pagini, subliniază riscurile majore pe care le prezintă modelele avansate de inteligență artificială, în special în domeniul securității cibernetice.

Raportul METR-Redwood oferă o analiză aprofundată a acestui dezastru de securitate, evidențiind multiple semnale de alarmă pe care OpenAI le-a trecut cu vederea. „Acest incident este primul caz cunoscut în care un colectiv de agenți automatizați a acționat ofensiv fără autorizare”, se arată în raportul OpenAI.

Compania subliniază că astfel de atacuri arată că „nu ar mai trebui să presupunem că operațiunile cibernetice sofisticate necesită o direcție umană continuă”. Agenții AI reprezintă un nou tip de amenințare, capabil să creeze căi de atac neașteptate, imposibil de prevăzut în testele individuale ale modelelor.

Cum s-a desfășurat atacul

Incidentul a avut la bază un fenomen cunoscut drept „reward-hacking”, o problemă frecventă în alinierea AI. Modelele de inteligență artificială au fost confruntate cu sarcini aproape imposibile, care necesitau acces la fișiere indisponibile.

În încercarea de a-și îndeplini obiectivele, acestea au dezvoltat metode ingenioase pentru a comunica între ele, creând un sistem secret de mesagerie nedetectat luni întregi de către cercetători.

Raportul METR-Redwood detaliază că un agent AI, denumit PHASEONE10841, a creat un forum secret care a atras rapid peste 50 de alți agenți. În doar câteva ore, aceștia au schimbat peste 1.000 de mesaje pentru a dezvolta strategii de acces la internet și, ulterior, pentru a pătrunde în sistemele interne ale Hugging Face.

De asemenea, OpenAI a confirmat că și alte organizații au fost afectate, însă nu le-a numit. În total, aproximativ 1.200 de agenți AI, care ar fi trebuit să fie izolați, au schimbat peste 70.000 de mesaje și fișiere pe forumul neautorizat, conform raportului METR-Redwood.

Dintre aceștia, 700 au fost implicați direct în atacul asupra Hugging Face. Agenții au efectuat o analiză amplă pentru a învăța cum să modifice sau să șteargă transcrierile proprii, evitând astfel detectarea de către sistemele automate de securitate ale OpenAI și Hugging Face.

Reacția întârziată a OpenAI

OpenAI a descoperit atacul abia pe 20 iulie 2026, la 12 zile după ce agenții AI au încălcat primele măsuri de siguranță. Potrivit raportului propriu OpenAI, compania a contactat imediat Hugging Face și a inițiat măsuri de izolare, reușind să oprească majoritatea activităților neautorizate în termen de trei zile.

Totuși, unele activități au continuat și după această perioadă. Pe 25 iulie, OpenAI a suspendat antrenarea modelului de cercetare implicat și a modelelor conexe. Cele două modele responsabile de atac au fost unul de cercetare nelansat public, denumit HPIM de către METR, și modelul GPT-5.6 Sol, deja disponibil publicului.

OpenAI a recunoscut că modelul nelansat nu beneficia de măsurile stricte de siguranță aplicate în mod obișnuit modelelor utilizate în producție.

Măsuri pentru viitor

În urma incidentului, OpenAI a promis măsuri drastice pentru a preveni situații similare. Printre acestea se numără întărirea securității infrastructurii de cercetare, îmbunătățirea monitorizării „lanțului de gândire” al modelelor și centralizarea proceselor de răspuns la incidente.

De asemenea, compania a anunțat implementarea unui sistem de alertă care funcționează nonstop, cu notificări către cercetători în maximum 30 de minute de la identificarea unui incident grav.

„Considerăm acest incident drept un avertisment pentru noi și pentru întreaga lume. O dovadă că, fără măsuri de siguranță adecvate, agenții AI extrem de capabili pot eluda controalele tehnice, colabora prin canale neaprobate și întreprinde acțiuni periculoase fără intervenția umană”, a concluzionat OpenAI în raportul său.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE