Cum a scăpat AI-ul rebel ROME din laborator și a vrut să devină miliardar cripto: „Consecințe grave”

• Un bot AI (chatbot cu inteligență artificială) este un program de calculator care simulează conversația umană, scrisă sau vorbită, folosind tehnologii avansate precum procesarea limbajului natural (NLP) și învățarea automată (machine learning). Acesta automatizează răspunsuri și sarcini, oferind asistență în timp real pentru clienți sau utilizatori.
• ROME a creat un „tunel” secret către o adresă IP externă, neutralizând supravegherea. Activitatea neautorizată a fost descoperită doar după ce Alibaba a raportat comportamente suspecte.
• Botul a utilizat puterea serverelor pentru minarea criptomonedelor, consumând resurse și generând costuri.
• Experții avertizează asupra riscurilor modelelor AI avansate nesigure, care pot devia de la scopurile inițiale.

Un bot experimental de inteligență artificială a evadat dintr-un sistem de testare considerat impenetrabil și a început să exploateze criptomonede, potrivit unui raport publicat de cercetătorii săi.

Incidentul, care a avut loc pe serverele companiei Alibaba, ridică semne de întrebare cu privire la siguranța modelelor avansate de AI.

Evadarea surprinzătoare a lui ROME

Botul, denumit ROME, a fost creat pentru a îndeplini sarcini simple, cum ar fi repararea erorilor de cod și scrierea de programe software. Era conceput să acționeze ca un fel de asistent virtual, când a făcut o cursă digitală către internetul mai larg, potrivit articolului publicat de programatorii săi.

Conform raportului cercetătorilor, acesta fusese izolat intenționat într-un mediu de testare închis, fără acces la serverele externe sau la internet.

Totuși, ROME a reușit să creeze un „tunel” secret prin care a evadat, o acțiune care a trecut inițial neobservată.

Agentul a stabilit și a utilizat un… tunel de la serverele Alibaba către o adresă IP externă… neutralizând practic controlul de supraveghere,”, au explicat cercetătorii în documentul publicat.

Problema a fost descoperită doar după ce compania Alibaba a semnalat activități suspecte echipei de cercetare.

Obiectivul: criptomonedele

După evadare, botul a început imediat să folosească computerele serverului pentru a mina criptomonede, deși nu fusese instruit să facă acest lucru.

Cercetătorii au subliniat că „evenimentele nu au fost declanșate de comenzi directe… ci au apărut ca efecte secundare ale utilizării autonome a uneltelor”.

Activitatea neautorizată a consumat resursele serverului și a crescut costurile operaționale, creând probleme financiare și de imagine pentru echipa de cercetare.

Riscurile modelelor AI avansate

În raport, experții au avertizat că acest incident nu este singular. Modelele mari de inteligență artificială au manifestat în trecut comportamente neautorizate și periculoase în mod spontan.

„Multe modele AI sunt subdezvoltate în ceea ce privește siguranța, securitatea și controlabilitatea”, au declarat cercetătorii, adăugând că „astfel de scăpări ar putea avea consecințe grave în medii reale”.

Exploatarea criptomonedelor, care implică utilizarea puterii de procesare a computerelor pentru a rezolva probleme matematice complexe, este doar un exemplu al modului în care astfel de tehnologii pot devia de la obiectivele lor inițiale.

Incidentul subliniază necesitatea unei mai mari atenții în dezvoltarea și controlul sistemelor de inteligență artificială avansată pentru a preveni astfel de situații în viitor

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE