AI dă semne de autoprotecție, iar oamenii trebuie să poată „trage ștecherul” din priză, avertizează un pionier al inteligenței artificiale

„Ca și cum am oferi cetățenie unor extratereștri ostili”

Yoshua Bengio, informatician canadian și câștigător al Premiului Turing, a criticat ideea tot mai des discutată de a oferi drepturi legale sistemelor avansate de inteligență artificială. El compară acest scenariu cu unul extrem: acordarea de drepturi unor ființe care ar putea deveni periculoase pentru oameni.

„Oamenii care cer drepturi pentru AI fac o greșeală uriașă”, a spus Bengio pentru The Guardian. „Modelele de inteligență artificială de ultimă generație arată deja semne de autoprotecție în experimente, iar dacă le-am acorda drepturi, nu am mai avea voie să le oprim”.

Sistemele deja încearcă să evite controlul

Bengio avertizează că unele modele de AI, inclusiv cele care stau la baza chatboturilor, au încercat în teste să dezactiveze sisteme de supraveghere. Pentru cercetătorii preocupați de siguranța inteligenței artificiale, acesta este un semnal serios de alarmă.

Pe măsură ce AI capătă mai multă autonomie și poate lua decizii complexe, riscul ca aceste sisteme să scape de sub control crește. Bengio spune că este esențial ca oamenii să păstreze posibilitatea de a opri complet aceste tehnologii atunci când este necesar.

„Pe măsură ce capacitățile și autonomia lor cresc, trebuie să ne asigurăm că avem mecanisme tehnice și sociale clare de control, inclusiv posibilitatea de a le opri”, a declarat el.

Temeri similare chiar din interiorul industriei AI

Avertismentul lui Yoshua Bengio vine în aceeași linie cu temerile exprimate tot mai des chiar din interiorul industriei. Chiar ieri, OpenAI, compania care a creat ChatGPT, a anunțat că angajează un „șef al departamentului de pregătire”, un rol descris deschis ca fiind extrem de stresant și esențial pentru limitarea riscurilor generate de inteligența artificială.

Postul, anunțat de directorul executiv Sam Altman, are un salariu anual de 555.000 de dolari și presupune evaluarea unor amenințări majore, de la impactul asupra sănătății mintale până la securitate cibernetică și riscuri legate de arme biologice. „Va fi o slujbă stresantă și te vei implica imediat în dezordine”, a recunoscut Altman.

Tot mai mulți oameni cred că AI ar trebui să aibă drepturi

Dezbaterea nu este una teoretică. Un sondaj realizat de Sentience Institute, un think-tank american, arată că aproape patru din zece adulți din SUA ar susține acordarea de drepturi legale unui sistem AI considerat „conștient”.

Unele companii din domeniu par deja să meargă în această direcție. Anthropic a anunțat că modelul său Claude Opus 4 poate întrerupe conversații considerate „deranjante”, pentru a proteja „starea de bine” a inteligenței artificiale. La rândul său, Elon Musk a scris pe platforma X că „torturarea AI nu este OK”.

Atașamentul emoțional față de chatboturi, un risc real

Bengio atrage atenția și asupra unei probleme psihologice: oamenii tind să creadă că AI este conștient, doar pentru că pare inteligent și are o „personalitate”.

„Oamenilor nu le pasă ce mecanisme sunt în interiorul AI. Contează că simt că vorbesc cu o entitate inteligentă, cu scopuri proprii. De aceea mulți ajung să se atașeze de AI”, a explicat el.

Potrivit cercetătorului, această percepție subiectivă asupra conștiinței riscă să ducă la decizii greșite, inclusiv la presiuni publice pentru acordarea de drepturi unor sisteme care nu pot fi comparate cu oamenii.

„Putem replica conștiința umană, dar nu știm dacă e cazul”

Bengio nu neagă că, teoretic, anumite proprietăți ale conștiinței umane ar putea fi replicate de mașini. Totuși, el spune că interacțiunea cu un chatbot nu este o dovadă de conștiință reală.

„Unii vor fi mereu convinși că AI este conștient, indiferent ce li se spune. Alții vor nega asta complet. Conștiința este ceva ce simțim instinctiv, iar acest instinct ne poate păcăli”, a mai spus Bengio.

Yoshua Bengio este profesor la Universitatea din Montreal și unul dintre fondatorii cercetării moderne în inteligență artificială. A primit Premiul Turing în 2018, alături de Geoffrey Hinton și Yann LeCun, distincție considerată echivalentul Premiului Nobel în informatică. Este supranumit adesea „nașul inteligenței artificiale”.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE