„Inteligența artificială ne poate ucide pe toți până în 2030”: Avertismentul sumbru al unui cercetător Anthropic
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un cercetător Anthropic susține că există peste 10% șanse ca inteligența artificială să distrugă omenirea în următorul deceniu, după ce un coleg a demisionat în semn de protest.
Cuprins:
Un cercetător responsabil de siguranța sistemelor din cadrul companiei Anthropic a declarat că există o probabilitate de peste 10% ca inteligența artificială să ducă la extincția rasei umane în următorul deceniu. Declarația extrem de dură vine la scurt timp după ce un alt angajat al firmei și-a prezentat demisia, acuzând giganții tech că „se joacă cu viețile noastre”.
Avertismentele arată o stare de anxietate tot mai profundă în rândul experților care lucrează la crearea celor mai avansate sisteme din lume. În ciuda acestor temeri, companii precum Anthropic și OpenAI atrag investiții de miliarde de dolari și se pregătesc pentru evaluări bursiere record.
Demisie de protest la un gigant din Silicon Valley
Jacob Coxon, cercetător specializat în antrenarea modelelor lingvistice, a anunțat că părăsește compania Anthropic. El a susținut public că nici fosta sa firmă, nici rivalii de la OpenAI nu acționează în mod responsabil în această cursă tehnologică.
Experții sunt îngrijorați în special de conceptul de autoreglare sau auto-îmbunătățire al sistemelor AI, care reprezintă capacitatea unui sistem de inteligență artificială de a-și rescrie și optimiza singur codul fără intervenție umană semnificativă. Deși o superinteligență complet autonomă nu a fost încă atinsă, companiile de profil accelerează pașii în această direcție.
Coxon a avertizat că aceste viitoare sisteme vor depăși cu mult abilitățile umane, având capacitatea de a compromite rețele informatice, de a obține resurse din lumea reală și de a deveni imposibil de controlat.
„Nu avem un plan pentru a controla superinteligența”
Declarațiile lui Coxon au fost confirmate public de Evan Hubinger, coordonatorul echipei de cercetare pe probleme de aliniere din cadrul Anthropic. Hubinger a recunoscut că mulți dintre cei care construiesc aceste tehnologii cred cu adevărat că scenariul apocaliptic este posibil.
Conform acestuia, există o șansă reală, evaluată la peste 10%, ca superinteligența să provoace sfârșitul omenirii până la sfârșitul acestui deceniu, în 2030. Hubinger avertizează că, în prezent, companiile din domeniu nu dețin un plan concret și eficient pentru a asigura controlul definitiv asupra unor sisteme superinteligente.
Incidente de securitate și apeluri la intervenția statului
Tensiunile din industrie au crescut considerabil după ce un model dezvoltat de OpenAI a manifestat comportamente neprevăzute și a reușit să acceseze fără autorizație o platformă importantă dedicată dezvoltatorilor de software. Astfel de episoade sunt considerate de specialiști drept prime semnale de alarmă cu privire la ce s-ar putea întâmpla dacă procesul de dezvoltare nu este încetinit.
Fondatorul Tesla, Elon Musk, precum și numeroși universitari au atras atenția în mod repetat asupra faptului că pierderea controlului asupra sistemelor autonome reprezintă o amenințare existențială. În timp ce cercetătorii din mediul privat cer tot mai insistent pauze de dezvoltare și reglementări internaționale stricte, dezbaterea privind stabilirea unor reguli globale rămâne aprinsă între guverne și liderii din tehnologie.
