Liderii din spatele ChatGPT cer reglementări pentru a preveni distrugerea omenirii de Inteligenţa Artificială

Într-un scurt comunicat publicat pe site-ul companiei OpenAI, creatorul ChatGPT, cofondatorii Greg Brockman și Ilya Sutskever și directorul executiv, Sam Altman, au transmis că este nevoie de un organism de reglementare internațional care să înceapă să lucreze la modul de „inspectare a sistemelor, solicitarea de audituri, testarea conformității cu standardele de siguranță, impunerea restricțiilor privind gradul de implementare și nivelurile de securitate” pentru a reduce riscul „existențial” pe care astfel de sisteme îl pot prezenta.

„Este posibil ca, în următorii 10 ani, sistemele de inteligență artificială să depășească nivelul de competență al experților în majoritatea domeniilor și să desfășoare activități productive similare cu cele ale unei corporații de astăzi”, au semnalat aceștia.

În ceea ce privește atât perspectivele pozitive, cât și cele negative, suprainteligenţa va fi mai puternică decât alte tehnologii cu care umanitatea a trebuit să se confrunte în trecut. Putem avea un viitor mult mai prosper, dar trebuie să gestionăm riscurile pentru a ajunge acolo.

Liderii OpenAI:

Cei trei lideri solicită „un anumit grad de coordonare” între companiile care lucrează la ultimele descoperiri în domeniul cercetării AI, pentru a se asigura că dezvoltarea unor modele tot mai puternice se integrează fără probleme în societate, prioritarizând în același timp siguranța.

Această coordonare poate fi realizată, de exemplu, printr-un proiect condus de guvern sau printr-un acord colectiv pentru a limita creșterea capacității AI.

Cercetătorii au avertizat de zeci de ani asupra riscurilor potențiale ale suprainteligenței, dar pe măsură ce dezvoltarea AI a accelerat, aceste riscuri au devenit mai concrete.

Centrul pentru Siguranța AI (CAIS) din SUA, care se ocupă de „reducerea riscurilor la scară socială generate de inteligența artificială”, descrie opt categorii de risc „catastrofal” și „existențial” pe care dezvoltarea AI le-ar putea prezenta.

O lume în care sistemele AI sunt supuse voluntar la tot mai multe sarcini ar putea duce la „pierderea abilității de autoguvernare a umanității și la dependența totală de mașinării”, în vreme ce un grup restrâns de oameni care controlează sisteme puternice ar putea „face din AI o forță de centralizare”, potrivit CAIS.

Cu toate acestea, liderii OpenAI spun că aceste riscuri înseamnă că „oamenii din întreaga lume ar trebui să decidă în mod democratic limitele și valorile implicite ale sistemelor de inteligență artificială”, dar admit că „nu știm încă cum să concepem un astfel de mecanism”. Cu toate acestea, ei spun că dezvoltarea continuă a unor sisteme puternice merită riscul.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE