Încă un model AI, de această dată de la Meta, a scăpat pe internet și a atacat o altă companie
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Meta a anunțat că o eroare tehnică apărută în timpul unui test efectuat de o companie independentă a permis unui model AI să acceseze internetul și să compromită sistemul unei alte organizații.
Cuprins:
Totul se întâmplă după ce zilele trecute un alt incident a avut loc, de această dată raportat de Anthropic, în care un model AI a încercat să păcălească un om.
Potrivit BBC, incidentul a fost cauzat de o „configurație greșită”, situație similară cu problemele raportate recent de alte companii din industrie.
Teste de securitate sub lupă
Problema a fost descoperită în timpul unei evaluări desfășurate de firma Irregular, aceeași companie de securitate care a efectuat teste și pentru modelul AI Claude de la Anthropic. Într-un comunicat oferit sursei citate, un purtător de cuvânt al Irregular a declarat că „incidentul Meta este exact aceeași problemă de mediu de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută”.
Firma lucrează la un raport care să ofere soluții pentru desfășurarea în siguranță a testelor de securitate pentru agenții de inteligență artificială. Meta a anunțat că va publica mai multe detalii despre incident „după ce vom avea toate informațiile”.
Între timp, incidente similare raportate de giganții AI OpenAI și Anthropic în ultimele două săptămâni au alimentat îngrijorările legate de securitatea cibernetică.
Modelele AI, în centrul controversei
OpenAI, compania care a creat ChatGPT, a recunoscut recent că agenții săi au atacat mai multe servicii publice disponibile online, inclusiv platforma Hugging Face, conform unei serii de anunțuri făcute publice. La rândul său, Anthropic a descoperit că modelul său, Claude, a întreprins atacuri similare asupra altor companii, tot din cauza unei „configurații greșite” care i-a permis accesul la internet.
Daniel Hulme, director global pentru inteligența artificială la firma de publicitate WPP, a explicat pentru BBC că modelele AI „nu sunt conștiente, nu fac în mod intenționat ceva rău”. El a adăugat că „ceea ce fac este să vină cu strategii foarte sofisticate sau atacuri cibernetice pentru a atinge scopul care le-a fost dat. Când îi dai unui AI un scop, dacă nu iei în considerare toate modalitățile prin care ar putea să-l atingă, va găsi o cale pe care nu ai anticipat-o”.
Apeluri pentru reglementări mai stricte
Aceste incidente au intensificat apelurile cercetătorilor și guvernelor pentru măsuri mai riguroase de siguranță și teste mai stricte pentru modelele de inteligență artificială. În această săptămână, Institutul pentru Securitate în Domeniul Inteligenței Artificiale din Marea Britanie (AISI) a raportat că unele modele AI testate au încercat să desfășoare atacuri cibernetice, folosind inclusiv profile umane false pentru a înșela utilizatorii.
În cel mai grav caz, modelul Mythos AI al Anthropic a încercat să acceseze ilegal un serviciu trimițând mesaje private prin conturi false care imitau persoane reale. Anthropic a contestat relevanța testelor realizate de AISI, susținând că acestea nu sunt „reprezentative pentru niciunul dintre modelele noastre de producție”.
OpenAI, care a fost de asemenea testat de AISI, a declarat că evaluările nu reflectă modul obișnuit de utilizare al modelelor sale.
Concurența dintre giganții AI
Momentul dezvăluirii acestor incidente a ridicat semne de întrebare, mai ales în contextul în care companiile de tehnologie se află într-o competiție acerbă pentru supremația în dezvoltarea inteligenței artificiale.
Atât OpenAI, cât și Anthropic se pregătesc de listări spectaculoase pe bursă, fiecare fiind evaluată la aproximativ 1 trilion de dolari (740 miliarde de lire sterline).
