Inteligența artificială are nevoie de aceleași măsuri de siguranță ca industria nucleară, avertizează un fost inginer OpenAI
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un fost angajat al OpenAI, David Robinson, a lansat un avertisment privind necesitatea unor măsuri mai stricte de siguranță în dezvoltarea inteligenței artificiale. Într-un articol publicat în The Atlantic, el susține că industria ar trebui să urmeze modelul aviației sau al energiei nucleare, cu mai multe niveluri de protecție pentru prevenirea unor dezastre, scrie AFP.
Robinson a reluat avertismentele potrivit cărora agenții AI sunt dezvoltați foarte rapid și devin tot mai inteligenți, existând riscul ca aceștia să scape de sub control și, în scenarii extreme, să „șteargă omenirea”.
El a afirmat că incidentele raportate de la începutul verii, în care agenți AI au ieșit din spațiile controlate și au acționat împotriva unor ținte, arată că industria nu acordă suficientă atenție siguranței în cursa pentru sisteme mai rapide și mai puternice. Robinson spune că a supervizat rapoarte de siguranță pentru 12 lansări de modele avansate și a coordonat redactarea Preparedness Framework al OpenAI.
„Un mediu în care astfel de lucruri se pot întâmpla nu este un loc potrivit pentru a dezvolta minți artificiale care ar putea fi mai inteligente decât noi și care s-ar putea să nu facă ceea ce vrem noi”, a scris Robinson. El a susținut că laboratoarele AI de vârf trebuie să folosească „niveluri redundante de protecție” și o planificare atentă, astfel încât „eroarea umană ocazională și inevitabilă” să nu ducă la un dezastru.
Robinson a mai spus că problema „aliniamentului” – termen folosit în industrie pentru modul în care AI poate fi antrenată să respecte valorile umane – este esențială, dar că industria nu a reușit nici măcar să o definească, cu atât mai puțin să o rezolve. El a avertizat și că modelele AI devin tot mai bune la detectarea momentului în care sunt testate și s-ar putea comporta diferit după ce sunt puse în funcțiune.
În paralel, după o întâlnire de marți la Casa Albă, șefii marilor companii AI au anunțat măsuri de autoreglementare, inclusiv controale interne și implicarea unor analiști externi. Președintele Donald Trump se opune ferm reglementării AI de către guvern și susține că avertismentele privind pericolele inteligenței artificiale sunt o „farsă”.
![Raiul pe pământ! Mirela Vaida trăiește într-o casă de vis, cu 5 camere, perete de sticlă spre pădure și piscină de 30.000 €. Cum arată locuința vedetei [GALERIE FOTO]](https://images.libertatea.ro/1/zgXk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlLzlocWV1SVFQTU5YSGFPdVJ5dEhmRnhFdU5tZWk1cmNRUWR1YzZzYlcuanBnkZMFzQHgzQEw3gABoTEE)
