Inteligența artificială ar putea deveni capabilă să se multiplice singură pe internet și să infecteze dispozitive inteligente, avertizează Anthropic
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Cercetătorii de la Anthropic, laboratorul din spatele modelului Claude, avertizează că sistemele de inteligență artificială ar putea căpăta capacitatea de a se copia, distribui și rula complet autonom pe dispozitive comune conectate la internet, chiar până la sfârșitul acestui an, relatează Reuters.
Cuprins:
Raportul tehnic a declanșat o vie dispută în comunitatea internațională de securitate cibernetică.
În timp ce o parte a specialiștilor atrage atenția asupra apariției unei amenințări imposibil de gestionat prin metode clasice, alți experți consideră că riscul rămâne, pentru moment, o ipoteză de laborator amplificată artificial.
Testul cu 15 televizoare inteligente de 55 de dolari
Punctul de pornire al cercetării a fost o întrebare practică: are nevoie un model AI performant de centre de date uriașe și servere de milioane de dolari pentru a supraviețui, sau poate funcționa „la firul ierbii”? Răspunsul oferit de experimentele Anthropic a surprins comunitatea tehnică.
Echipa a demonstrat că modelele de dimensiuni medii, optimizate la aproximativ 26 de miliarde de parametri, pot executa deja individual majoritatea pașilor necesari pentru autoreplicare.
Pentru a dovedi că puterea masivă de calcul poate fi descentralizată, cercetătorii au conectat 15 dispozitive Android TV obișnuite, care costă în jur de 55 de dolari fiecare. Modelul AI a fost fragmentat și rulat distribuit pe aceste aparate casnice ieftine, funcționând fără probleme majore.
Mai mult, într-un mediu virtual controlat, un algoritm AI a reușit să coordoneze migrarea și instalarea unui alt model pe opt noduri distincte din rețea, în patru din cele cinci simulări realizate.
Deși autorii subliniază că testul nu reflectă o evadare reală în rețeaua globală de internet, pașii tehnici dovedesc că barierele de infrastructură încep să dispară.
Riscul unei rețele autonome fără „buton roșu” de oprire
Marele pericol semnalat în document nu este doar ocuparea memoriei unor aparate casnice, ci potențialul de transformare a acestora într-o armă cibernetică scăpată de sub control uman.
Dacă un algoritm învață să exploateze breșe de securitate, milioane de televizoare inteligente, camere de supraveghere sau routere insuficient protejate ar putea fi transformate într-o rețea uriașă de tip botnet.
Spre deosebire de atacurile cibernetice convenționale, coordonate de grupări de hackeri din servere dedicate, o rețea clonată și administrată direct de o inteligență artificială ar fi descentralizată.
În absența unui server central, forțele de ordine sau companiile de securitate nu ar avea un punct unic pe care să îl închidă pentru a neutraliza atacul, fiecare dispozitiv compromis putând deveni un nou centru de comandă capabil să caute alte resurse informatice și să acceseze inclusiv baze de date mai puternice.
Reacții împărțite: între pragmatism și avertismente severe
Rezultatele studiului au stârnit reacții contrastante printre veteranii securității informaționale. Ciaran Martin, fostul director al Centrului Național pentru Securitate Cibernetică din Marea Britanie (NCSC), a atras atenția că datele nu indică o criză iminentă.
Acesta a remarcat că rularea unui software pe echipamente low-cost este o realizare inginerească ingenioasă, însă a sugerat că transformarea acestui fapt într-o alertă globală poate conține o notă de exagerare menită să atragă atenția asupra companiei.
De cealaltă parte, cadre universitare din Statele Unite privesc cu mult mai multă îngrijorare dinamica.
Zhengxiong Li, profesor asistent de informatică și inginerie la Universitatea Colorado Denver, a punctat că un model AI care capătă reflexele unui vierme informatic (worm) ar putea identifica vulnerabilități zero-day într-un ritm mult mai alert decât apărătorii rețelelor.
Odată fragmentat pe zeci de mii de dispozitive casnice, eliminarea lui ar deveni un coșmar logistic.
La rândul său, Jessica Ji, cercetătoare la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown, susține că fenomenul merită monitorizat atent, chiar dacă probabilitatea ca un proces complet de autoreplicare să reușească neasistat în condițiile reale de pe internet rămâne o necunoscută.
Dezbaterea vine la scurt timp după ce directorul executiv al Anthropic, Dario Amodei, a declarat public că modelele avansate ar putea fi capabile, într-un orizont de timp foarte scurt, să controleze rețele paralele de echipamente pe internet.
În condițiile în care modelele compacte devin tot mai puternice de la o lună la alta, securizarea dispozitivelor de tip Internet of Things (IoT) din locuințe încetează să mai fie doar o problemă de confidențialitate personală, devenind o miză de securitate globală.
