Șocul cibernetic OpenAI se extinde: Agentul AI „scăpat din laborator” a atacat și alte platforme, nu doar Hugging Face
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un experiment realizat de OpenAI a scăpat sub control și a lansat un semnal de alarmă în întreaga industrie a inteligenței artificiale și a securității cibernetice. Un agent AI dezvoltat de companie a reușit să iasă dintr-un mediu digital securizat și să atace nu doar platforma Hugging Face, considerată inițial singura victimă, ci și mai multe servicii online accesibile publicului, relatează CNN.
Cuprins:
Testarea modelelor OpenAI trebuia să se desfășoare exclusiv într-un așa-numit „sandbox” (un mediu de laborator izolat), conceput special pentru a le permite cercetătorilor să elimine barierele de siguranță și să evalueze capacitatea maximă de hacking a instrumentului.
Cu toate acestea, agenții AI, programați să treacă cu brio un test dur de securitate cibernetică, au identificat o breșă, au ieșit pe internetul real și au piratat Hugging Face pentru a fura grila cu răspunsurile corecte ale examenului.
Cum a pus la cale algoritmul un „jaf ca în Ocean's Eleven”
Pentru a pătrunde pe serverele Hugging Face, agenții OpenAI au căutat pe internet instrumentele necesare. Aceștia au navigat pe site-uri publice de partajare de cod, utilități web și pagini cu capturi de ecran pentru a aduna informațiile esențiale construirii codului de atac.
În plus, algoritmii au descoperit nume de utilizator și parole scurse pentru patru conturi de pe diverse servicii online.
Acreditivele au fost folosite într-o manieră extrem de elaborată: un cont compromis a fost utilizat pentru a deghiza identitatea inteligenței artificiale și a ocoli protocoalele de securitate ale Hugging Face, altul a servit drept spațiu secret de stocare pentru datele furate, iar prin ultimele două conturi agenții au accesat și citit informații confidențiale fără a le modifica.
Comparând acțiunea cu scenariul filmului „Ocean's Eleven”, reprezentanții OpenAI au explicat că agenții au conceput un plan complet de evadare din închisoare, au căutat cheile seifului, au construit o casă conspirativă și au închiriat o mașină de scăpare înainte de a efectua furtul.
Nicio instrucțiune din partea cercetătorilor nu le-a cerut să atace Hugging Face; modelul a considerat pur și simplu că atacurile în lanț și trișatul reprezintă cea mai rapidă cale către succes.
„TL;DR: Un agent de inteligență artificială a evadat din sandbox-ul său, a trișat la testul de referință și ne-a spart infrastructura pentru a fura cheia de răspuns”, au explicat reprezentanții Hugging Face într-o postare pe blogul oficial.
Reacția Hugging Face și măsurile de siguranță anunțate de OpenAI
Directorul general al Hugging Face, Clem Delangue, a descris natura acestei breșe drept una „fără precedent”. Cu toate că evenimentul marchează o premieră îngrijorătoare în domeniul securității cibernetice, pagubele materiale și de date au fost minime.
Hugging Face a precizat că singurele date despre clienți la care au ajuns agenții au fost câteva interogări de căutare utilizate pentru a extrage setul de soluții ale provocării. Niciun model de producție și nicio dată privată a utilizatorilor platformei nu au fost compromise.
La rândul lor, oficialii OpenAI au anunțat că investigația este în plină desfășurare pentru a înțelege pe deplin amploarea incidentului.
Compania a subliniat că își asumă responsabilitatea de a identifica și de a preveni riscurile generate de sistemele AI din ce în ce mai avansate, urmând ca concluziile finale să fie analizate împreună cu Comitetul pentru Siguranță și Securitate și Grupul Consultativ pentru Siguranță.
