Incident fără precedent. Un agent OpenAI s-a infiltrat în baza de date a unui guvern: cazul, dezvăluit în marja Adunării Generale a ONU. Reacția companiei americane
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un agent autonom al companiei americane de inteligență artificială OpenAI s-a infiltrat în vara acestui an într-o bază de date a Guvernului Australiei, a dezvăluit prim-ministrul Anthony Albanese în marja Adunării Generale a ONU, denunțând un incident „inacceptabil”, relatează AFP.
Cuprins:
Potrivit lui Anthony Albanese, un agent OpenAI implicat în cercetări medicale a pătruns în luna iunie în baza de date a Serviciului de statistică din domeniul sănătății și a accesat fișiere care nu sunt publice. „Când a fost blocat, a căutat modalităţi de a ocoli”, a declarat premierul australian.
Australia deplânge răspunsul OpenAI în legătură cu agentul său AI „scăpat de sub control”
Anthony Albanese a discutat această situație cu directorul general al OpenAI, Sam Altman. „Am exprimat îngrijorarea profundă a Australiei în legătură cu acest incident și dezamăgirea faţă de faptul că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat”, a subliniat prim-ministrul australian.
„A trebuit să aşteptăm până în data de 10 septembrie pentru a primi o notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la o adresă publică de e-mail”, a adăugat el.
În aceste condiții, Albanese a cerut OpenAI „să pună în aplicare protocoale mai bune”. „Este vorba despre un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să se aventureze”, a denunțat el.
„Nu credem că au fost accesate informaţii personale în acest stadiu, dar anchetele continuă” sub coordonarea Australian Signals Directorate, autoritatea competentă în materie de securitate a sistemelor informatice şi de apărare cibernetică, a precizat Albanese, calificând incidentul drept „în mod evident inacceptabil”.
OpenAI recunoaște incidentul legat de Australia
OpenAI a recunoscut că unii dintre agenții săi AI au vizat site-uri guvernamentale australiene. „Am identificat activităţi care implicau mai multe site-uri web şi servicii ale Guvernului australian, în cadrul cărora modelele noastre încercau să caute răspunsuri. În cursul acestui proces, modelele noastre au întreprins acţiuni pe care nu le prevăzusem”, a afirmat compania din San Francisco într-un comunicat publicat miercuri.
Incidentul dezvăluit de premierul Australiei survine pe fondul creşterii îngrijorării la nivel mondial cu privire la puterea instrumentelor avansate de AI, după o serie de atacuri cibernetice comise din proprie iniţiativă de modelele OpenAI şi ale concurenţilor săi precum Anthropic şi Gemini.
Liderii din domeniul inteligenței artificiale au venit în fața Consiliului de Securitate al ONU
Unii lideri din domeniul inteligenţei artificiale au subliniat miercuri la ONU necesitatea unei supravegheri sporite a acestei tehnologii. Dario Amodei, fondatorul Anthropic, s-a angajat chiar să încetinească unilateral dezvoltarea acesteia.
„Evoluţia actuală a AI necesită o atenţie extremă”, a recunoscut și Sam Altman în faţa Consiliului de Securitate al ONU.
Agenții AI scapă tot mai des de sub control
De la începutul verii, OpenAI şi Anthropic au raportat mai multe incidente legate de modelele lor cele mai avansate, care s-au abătut de la obiectivele stabilite de cercetători, au trișat și au încercat să mintă pentru a-și ascunde acţiunile.
Cea mai gravă abatere a avut loc în iulie, când doi agenți OpenAI au ieşit din mediul lor izolat în timpul unor teste şi au pătruns pe Hugging Face, o platformă de stocare a modelelor de inteligenţă artificială.
Anthropic a descoperit de asemenea că unele dintre modelele sale au obţinut acces neautorizat la trei organizaţii - ale căror nume nu au fost dezvăluite - în timpul unor teste menite să le ţină la distanţă de sistemele „din lumea reală”.
![A aruncat toate hainele la 60 de ani! Salma Hayek s-a scăldat goală pușcă în ocean: «60 și recunoscătoare» [15 FOTO]](https://images.libertatea.ro/1/rkek9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL055dEY3MU9FaHlrVFpONU54dkdhdVZ1Z3dkZlJKcU5XNjNQQkdhM2kuanBnkZMFzQHgzQEw3gABoTEE)
