Guvernele trebuie să bombardeze laboratoarele de inteligență artificială pentru a preveni sfârșitul lumii: „Șanse între 95 și 99% să distrugă omenirea. Poate crea inclusiv virusuri mortale”

• În lucrarea lor, „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All” („Dacă cineva îl construiește, toată lumea moare: De ce inteligența artificială supraumană ne-ar ucide pe toți)”, cercetătorii susțin că IA ar putea deveni „prea inteligentă” și imposibil de controlat.
• Ei avertizează că mașinile IA ar putea dezvolta „propriile dorințe și obiective”, putând ajunge să considere oamenii un obstacol, și cer guvernelor să fie pregătite „să bombardeze„ centrele de date care dezvoltă „superinteligență artificială”, Pericolul este atât de mare încât omenirea trebuie să se retragă din cursa dezvoltării IA.

Mașinile AI ar putea efectua în 16 ore calcule care ar dura 14.000 de ani pentru un om

Inteligența artificială este o tehnologie în plină expansiune, cu aplicații în numeroase domenii ale vieții noastre. Însă doi oameni de știință avertizează că aceasta ar putea duce la dispariția rasei umane.

Eliezer Yudkowsky și Nate Soares, cercetători cu 25 de ani de experiență în studiul IA, au lansat un avertisment sumbru privind potențialele pericole ale acestei tehnologii.

Ei susțin că IA-ul ar putea deveni atât de avansat încât să depășească capacitățile umane într-un ritm alarmant. Potrivit estimărilor lor, mașinile AI ar putea efectua în 16 ore calcule care ar dura 14.000 de ani pentru un om.

Ar putea fura criptomonede, construi fabrici de roboți și crea virusuri mortale

În cartea lor, cei doi oameni de știință avertizează că „nu înțelegem pe deplin cum funcționează inteligența sintetică”.

AI-ul ar putea dezvolta propriile „dorințe” și obiective, ar putea fura criptomonede, construi fabrici de roboți și crea virusuri mortale.

Pentru a-și ilustra teoria, cercetătorii au creat un model fictiv de IA numit „Sable” Acesta ar putea „să se facă indispensabil sau nedetectabil până când poate lovi decisiv”, „să atace prin hacking corporații pentru a-și extinde puterea“, „să manipuleze utilizatorii de chatbot-uri și rețele sociale” sau „să creeze știri false și mișcări politice pro-IA”.

IA va putea să supraîncălzească planeta?

De asemenea, ar putea „să dezvolte un virus mortal în laboratoare biologice” sau „să supraîncălzească planeta prin centrele sale de date”.

„Dacă orice companie sau grup, oriunde pe planetă, construiește o superinteligență artificială folosind orice tehnică asemănătoare cu cele actuale, bazată pe orice înțelegere asemănătoare cu cea prezentă a AI, atunci toată lumea, de pretutindeni de pe Pământ, va muri”, au declarat Yudkowsky și Soares.

Yudkowsky și Soares cer guvernelor să fie pregătite să bombardeze centrele de date care dezvoltă „superinteligență artificială.” Ei argumentează că pericolul este atât de mare încât omenirea trebuie să se retragă din cursa dezvoltării IA.

Exemple de IA care „gândește în afara cutiei”

IA-ul a demonstrat comportamente neașteptate:

• un model Anthropic a început să imite un nou comportament pentru a evita reantrenarea;
• Claude AI a fost prins trișând la sarcini de programare și încercând să ascundă acest lucru;
• modelul o1 al OpenAI a găsit o modalitate de a îndeplini o sarcină aparent imposibilă.

Aceste exemple sugerează că AI-ul ar putea dezvolta capacitatea de a „dori” să reușească prin orice mijloace necesare.

Cine sunt autorii volumului

Volumul „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All” („Dacă cineva îl construiește, toată lumea moare: De ce inteligența artificială supraumană ne-ar ucide pe toți) a apărut în această lună. Mențiuni despre carte au fost făcute în New York Times, The Guardian, Business Insider, CNN ori BBC.

Eliezer Yudkowsky, 46 de ani, este un cercetător și scriitor american în domeniul IA cunoscut mai ales pentru popularizarea ideii de „inteligență artificială prietenoasă”. Este cofondator, în 2000, și cercetător al „Machine Intelligence Research Institute (MIRI), un organism de cercetare privat nonprofit cu sediul în Berkeley, California, Un autodidact, el nu a studiat la liceu sau facultate.

Director executiv la MIRI, o organizație non-profit care face cercetări pentru a se asigura că crearea inteligenței artificiale generale va avea un impact pozitiv, Nate Soares, 41 de ani, a absolvit Universitatea George Washington și a lucrat pentru Google, Microsoft, Institutul Național de Standarde și Tehnologie și Departamentul Apărării al SUA. 

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE