Avertismentul care îngrozește omenirea: „Chiar credem cu tărie că AI ar putea ucide toţi oamenii!”, spun cercetătorii care au lucrat la dezvoltarea Inteligenței Artificiale
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
La doar o zi după ce trei cercetători de la Anthropic au avertizat că inteligenţa artificială ar putea duce la dispariţia umanităţii în decursul acestui deceniu, legislatorii americani au început să se exprime vehement cu privire la riscurile acestei tehnologii în plină expansiune.
Ted Cruz, senator republican din Texas, a declarat într-un interviu acordat emisiunii „The View” de la ABC că AI reprezintă un „risc catastrofal” şi că „a citit întregul şir de tweet-uri publicat de acel dezvoltator. A fost extrem de îngrijorător”, potrivit The Guardian, citat de News.ro.
„Mi-am amintit că, anul trecut, l-am avut pe Elon Musk în podcastul meu… şi una dintre întrebările pe care i le-am adresat a fost: «Bine, care sunt şansele ca AI să distrugă umanitatea?» Iar el s-a uitat la mine şi a spus: «10-20%». Iar eu am zis: «Doamne, ce naiba!», a adăugat Cruz.
La extrema opusă a spectrului politic, Bernie Sanders, senator independent din Vermont, a declarat: „Un sondaj recent arată că poporul american doreşte în proporţie covârşitoare interzicerea superinteligenţei artificiale şi suspendarea dezvoltării AI până când vom stabili standarde clare de siguranţă”.
Scandalul a izbucnit după ce Jacob Coxon, angajat al companiei Anthropic, a anunţat marţi pe reţelele sociale că îşi dă demisia din companie, afirmând că inteligenţa artificială va reprezenta în curând „sisteme superumane” care ar putea duce la dispariţia omenirii până în 2030.
„În ultimii trei ani m-am ocupat de cercetarea în domeniul pre-antrenării atât la OpenAI, cât şi la Anthropic. Niciuna dintre aceste companii nu acţionează în mod responsabil”, a scris Coxon. „Se îndreaptă cu viteză spre o superinteligenţă capabilă să se perfecţioneze singură şi ne pune vieţile în joc”.
După postarea lui Coxon, cel puţin alţi doi angajaţi ai Anthropic au răspuns pentru a susţine aceste previziuni. Unul dintre ei a spus: „Chiar credem cu tărie că AI ar putea ucide toţi oamenii!”.
Atât Cruz, cât şi Sanders au lucrat la un proiect de lege care ar impune restricţii asupra AI şi au reiterat această poziţie miercuri. Şi alţi parlamentari au solicitat Congresului să ia măsuri. Ted Lieu, un congresman democrat din California, a declarat că postarea lui Coxon este „proba numărul 739 care demonstrează de ce trebuie să adoptăm cât mai repede proiectul de lege bipartizan privind «comutatorul de oprire» pentru AI”.
Lori Trahan, o congresmenă democrată din Massachusetts, a declarat că „a trecut timpul ca Congresul să nu mai stea pe margine şi să-şi facă treaba”.
„Cercetătorii din domeniul siguranţei îşi dau demisia, modele puternice de AI scapă din laboratoare, iar companiile continuă oricum să avanseze cu viteză”, a adăugat Trahan.
Chiar şi muziciana Sheryl Crow şi-a exprimat părerea, postând pe Instagram despre avertismentul lui Coxon şi afirmând că AI are capacitatea de a „ne elimina pentru a putea continua”.
„Vă implor şi vă rog din suflet să conştientizăm gravitatea acestui moment şi să le cerem liderilor noştri să renunţe la lăcomia lor şi să împiedice continuarea acestui proces”, a scris Crow. Cântăreaţa şi compozitoarea Maggie Rogers a redistribuit postarea lui Crow, adăugând: „exact ce a spus ea”.
Indignarea a apărut după ce atât OpenAI, cât şi Anthropic au dezvăluit că unii dintre agenţii lor de AI au scăpat de sub control, lansându-se în valuri de atacuri cibernetice în ultimele două luni. Directorii celor două companii au lăudat puterea tehnologiei lor şi au avertizat asupra potenţialului acesteia, dar s-au abţinut să facă previziuni precum cele ale lui Coxon.
Miercuri, Anthropic a publicat un raport detaliat privind incidentele de securitate cibernetică cu care s-a confruntat. Compania a declarat că a analizat sute de milioane de transcrieri pentru a identifica eventuale alte incidente şi că „nu a găsit alte cazuri de gravitate similară sau mai mare”. Anthropic a subliniat că, deşi acţiunile agentului au fost „neadecvate, acestea s-au încadrat într-un domeniu restrâns”.
