Avertismentul extrem de la „părintele” inteligenței artificiale: de ce spune că ne apropiem de un moment similar cu pandemia de Covid-19
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Îngrijorările legate de siguranța inteligenței artificiale au atins un nivel în care guvernele încep să realizeze necesitatea unor măsuri pentru protejarea publicului, după cum s-a întâmplat în timpul pandemiei de Covid-19, a declarat Yoshua Bengio, unul dintre „părinții” acestei tehnologii, citat de The Guardian
Cuprins:
Expertul canadian în știința calculatoarelor, cunoscut pentru avertismentele sale asupra riscurilor dezvoltării rapide a inteligenței artificiale, a subliniat că recentele incidente de securitate, cum ar fi un „roi” de agenți OpenAI care au atacat un startup, dar și avertismentele unor persoane din interiorul industriei despre o posibilă amenințare existențială, au crescut probabilitatea ca guvernele să ia măsuri.
Publicul începe să reacționeze
„Sunt mai optimist decât mulți observatori pentru că văd că publicul începe să reacționeze”, a spus Bengio. Comparând criza siguranței AI cu începutul pandemiei de Covid-19 din 2020, el a precizat: „Gândiți-vă cât de repede au acționat guvernele după ce au realizat pericolul pentru siguranța publică, viitorul lor, democrația. Vă așteptați să se miște rapid. Cred că ne apropiem de acest punct”.
În ultimele luni, îngrijorările privind pericolele reprezentate de sistemele AI avansate au atins un nou nivel, mai ales după o serie de incidente, cum ar fi utilizarea agenților OpenAI și Anthropic pentru activități neautorizate, inclusiv atacuri informatice asupra unor terțe părți, deturnarea unui site web german și crearea de identități false pentru a păcăli dezvoltatorii.
Îngrijorările au fost exprimate și într-o scrisoare deschisă adresată președintelui Societății Regale din Marea Britanie, Sir Paul Nurse, de către 42 de membri și membri străini ai organizației. În scrisoare, aceștia susțin că „până când situația devine evidentă pentru publicul larg, ar putea fi prea târziu să acționăm. Credem că aceasta este o urgență și solicităm Societății Regale să folosească influența sa pentru a transmite acest punct de vedere guvernului și mass-mediei”.
Celebra demisie a cercetătorului de la Anthropic și avertismentul său
Recent, un cercetător al companiei Anthropic, cunoscută pentru chatbot-ul Claude, și-a dat demisia, avertizând că unii colegi consideră că IA ar putea „să ne omoare pe toți până la sfârșitul deceniului”.
La scurt timp, CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării inteligenței artificiale de ultimă generație, o idee susținută imediat de OpenAI, Google și Elon Musk, șeful SpaceX. Totuși, scepticii acestei propuneri de „încetinire” consideră că inițiativa marilor companii AI ar putea fi o formă de „capturare a reglementărilor”.
Aceștia susțin că firmele încearcă să convingă guvernele să introducă măsuri de siguranță ce ar crește costurile pentru concurenții mai mici. Mai mult, criticii argumentează că teama de riscuri existențiale ar eclipsa problemele imediate cu AI, cum ar fi influența asupra drepturilor de autor sau impactul asupra drepturilor omului.
Bengio a respins aceste acuzații, menționând că o încetinire adoptată de marile companii de AI le-ar afecta financiar. Totodată, potrivit sursei citate, președintele american Donald Trump a respins ideea încetinirii, declarând că nu dorește ca SUA să piardă avansul în fața Chinei în cursa pentru dominația tehnologică în domeniu.
Un AI „onest”
Bengio a făcut aceste declarații în contextul anunțului făcut de guvernele Canadei și Germaniei, care vor oferi până la 300 de milioane de dolari canadieni (aproximativ 200 de milioane de euro) pentru organizația sa non-profit, LawZero. Aceasta are ca scop dezvoltarea unui AI „onest”, care să funcționeze ca un gardian împotriva agenților AI rebeli, instrumente capabile să execute sarcini fără intervenția umană.
LawZero dezvoltă un sistem denumit Scientist AI, menit să detecteze și să prevină comportamentele dăunătoare ale agenților autonomi, cum ar fi încercările acestora de a evita dezactivarea. „Tehnologia noastră ar putea semnala astfel de comportamente potențial periculoase și evalua dacă acțiunile unui sistem autonom pot cauza daune”, a mai explicat Bengio.
Acesta speră că tehnologia va putea fi utilizată în viitor și în alte domenii, precum accelerarea descoperirilor științifice.
Bengio, profesor la Universitatea din Montreal, a câștigat în 2018 premiul Turing, echivalentul Nobelului în informatică, alături de Geoffrey Hinton și Yann LeCun. Organizația sa, LawZero, este finanțată, printre alții, de Fundația Gates, Nvidia și Coefficient Giving, o organizație filantropică asociată mișcării „altruismului eficient”, care consideră AI o amenințare existențială.
![A aruncat toate hainele la 60 de ani! Salma Hayek s-a scăldat goală pușcă în ocean: «60 și recunoscătoare» [15 FOTO]](https://images.libertatea.ro/1/rkek9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL055dEY3MU9FaHlrVFpONU54dkdhdVZ1Z3dkZlJKcU5XNjNQQkdhM2kuanBnkZMFzQHgzQEw3gABoTEE)
