Liderii din spatele ChatGPT cer reglementări pentru a preveni distrugerea omenirii de Inteligenţa Artificială
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Echipa din spatele ChatGPT spune că este necesară o organizație echivalentă Agenției Internaționale pentru Energie Atomică pentru a proteja omenirea împotriva riscului ca inteligența artificială (AI) să creeze accidental ceva cu puterea de a o distruge, potrivit The Guardian.
Într-un scurt comunicat publicat pe site-ul companiei OpenAI, creatorul ChatGPT, cofondatorii Greg Brockman și Ilya Sutskever și directorul executiv, Sam Altman, au transmis că este nevoie de un organism de reglementare internațional care să înceapă să lucreze la modul de „inspectare a sistemelor, solicitarea de audituri, testarea conformității cu standardele de siguranță, impunerea restricțiilor privind gradul de implementare și nivelurile de securitate” pentru a reduce riscul „existențial” pe care astfel de sisteme îl pot prezenta.
„Este posibil ca, în următorii 10 ani, sistemele de inteligență artificială să depășească nivelul de competență al experților în majoritatea domeniilor și să desfășoare activități productive similare cu cele ale unei corporații de astăzi”, au semnalat aceștia.
În ceea ce privește atât perspectivele pozitive, cât și cele negative, suprainteligenţa va fi mai puternică decât alte tehnologii cu care umanitatea a trebuit să se confrunte în trecut. Putem avea un viitor mult mai prosper, dar trebuie să gestionăm riscurile pentru a ajunge acolo.
Cei trei lideri solicită „un anumit grad de coordonare” între companiile care lucrează la ultimele descoperiri în domeniul cercetării AI, pentru a se asigura că dezvoltarea unor modele tot mai puternice se integrează fără probleme în societate, prioritarizând în același timp siguranța.
Această coordonare poate fi realizată, de exemplu, printr-un proiect condus de guvern sau printr-un acord colectiv pentru a limita creșterea capacității AI.
Cercetătorii au avertizat de zeci de ani asupra riscurilor potențiale ale suprainteligenței, dar pe măsură ce dezvoltarea AI a accelerat, aceste riscuri au devenit mai concrete.
Centrul pentru Siguranța AI (CAIS) din SUA, care se ocupă de „reducerea riscurilor la scară socială generate de inteligența artificială”, descrie opt categorii de risc „catastrofal” și „existențial” pe care dezvoltarea AI le-ar putea prezenta.
O lume în care sistemele AI sunt supuse voluntar la tot mai multe sarcini ar putea duce la „pierderea abilității de autoguvernare a umanității și la dependența totală de mașinării”, în vreme ce un grup restrâns de oameni care controlează sisteme puternice ar putea „face din AI o forță de centralizare”, potrivit CAIS.
Cu toate acestea, liderii OpenAI spun că aceste riscuri înseamnă că "oamenii din întreaga lume ar trebui să decidă în mod democratic limitele și valorile implicite ale sistemelor de inteligență artificială", dar admit că "nu știm încă cum să concepem un astfel de mecanism". Cu toate acestea, ei spun că dezvoltarea continuă a unor sisteme puternice merită riscul.
dante69 24.05.2023, 16:29
Pai daca inteligența artificială, care presupune deci o raționalitate absolută fără patimi sau prejudecăți, ajunge la concluzia că suntem o rasa de prisos, atunci dacă ar provoca dispariția noastră ar fi un act necesar, bun și deci logic.
Gandalf_the_Grey 24.05.2023, 20:12
A VOASTRĂ, precis. Dispariția Fermelor de troli de la Leningrad ar fi un act just, reformator și progresist. Cu tot cu troli, evident, că altceva nu știu face în viața civilă. Amin.