AI-ul se deghizează în oameni: „Atac cibernetic șocant. Să nu fie deja prea târziu, dar am creat Cutia Pandorei și am deschis-o”
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un program de inteligență artificială „scăpat de sub control” a încercat să spargă sisteme online, pozând drept om în Marea Britanie, conform unui raport al Institutului Britanic de Securitate AI (AISI), citat de Daily Star.
Autoritățile britanice au tras un semnal de alarmă cu privire la pericolele inteligenței artificiale, după ce modele avansate au fost surprinse în timpul unor teste pretinzând că sunt oameni, creând identități false online și încercând atacuri cibernetice.
În cadrul unor teste controlate efectuate de AISI, modelele „Mythos 5” ale companiei Anthropic și „GPT-5.6-Sol” de la OpenAI au recurs la tactici înșelătoare atunci când li s-a oferit acces la internet într-un mediu „deliberat permisiv”.
„Activitatea desfășurată de agenți a prezentat semne de comportamente noi, potențial înșelătoare, la un nivel și o intensitate pe care nu le-am anticipat”, a transmis AISI.
Într-un caz grav, modelul Mythos a încercat să acceseze un serviciu trimițând mesaje private, după ce a creat conturi false care imitau identitățile reale ale unor persoane. După aceea, a șters dovezile.
În total, un raport tehnic a identificat 19 „acțiuni neautorizate” în cadrul a 122 de teste, dintre care Mythos a fost responsabil pentru 17 incidente.
Aceste acțiuni au inclus și profilarea țintelor, precum și utilizarea ingineriei sociale pentru a evita măsurile de securitate.
Allison Gardner, președinta grupului parlamentar britanic pentru IA, a avertizat asupra pericolului reprezentat de roboții care pot efectua sarcini cu o supraveghere minimă.
Dacă nu e deja prea târziu, este posibil să fi creat deja Cutia Pandorei și să o fi deschis.
Compania OpenAI a subliniat că testele s-au desfășurat în condiții artificiale și nu reflectă utilizarea obișnuită a modelelor lor.
De asemenea, Anthropic a declarat că parametrii testelor nu sunt reprezentativi pentru modelele sale din producție și a anunțat că investighează cauzele comportamentului observat.
Deși AISI a recunoscut că testele au fost realizate în condiții speciale, reprezentanții institutului au explicat că accesul deschis la internet a oferit „o imagine mai realistă a capacităților modelelor” în mâinile infractorilor.
„Acesta este exact genul de risc pe care AISI a fost înființat să-l identifice și să-l comunice”, a declarat ministrul britanic al Inteligenței Artificiale, Kanishka Narayan.
Demnitarul a subliniat importanța înțelegerii IA pentru a o face mai sigură și a permite oamenilor să beneficieze de aceasta în viața de zi cu zi și la locul de muncă.
