Potrivit The Guardian, Bengio a declarat că progresele start-upului chinezesc DeepSeek ar putea reprezenta o evoluție îngrijorătoare într-un domeniu dominat în ultimii ani de SUA. „Va însemna o cursă mai strânsă, ceea ce de obicei nu este un lucru bun din punctul de vedere al siguranței AI”, a spus el.

Concurența în domeniul AI

Bengio a mai explicat că firmele americane și alți rivali ai DeepSeek s-ar putea concentra pe recâștigarea avantajului în loc de siguranță. OpenAI, dezvoltatorul ChatGPT, a promis să accelereze lansările de produse ca răspuns la provocarea DeepSeek.

„Dacă vă imaginați o competiție între două entități și una crede că este mult în față, atunci își poate permite să fie mai prudentă și să știe, în același timp, că va rămâne în față”, a explicat Bengio. „În schimb, dacă aveți o competiție între două entități care cred că cealaltă este la același nivel, atunci trebuie să accelereze. Poate că nu acordă la fel de multă atenție siguranței”.

Raportul internațional privind siguranța AI

Primul raport complet internațional privind siguranța AI a fost elaborat de un grup de 96 de experți, inclusiv laureatul cu Premiul Nobel Geoffrey Hinton. Raportul afirmă că, de la publicarea unui studiu interimar în mai anul trecut, sistemele AI cu scop general, precum chatboții, au devenit mai capabile în „domenii relevante pentru utilizarea cu rea-intenție”.

Femeia grav bolnavă care a învins sistemul. A fost nevoită să-și cumpere singură un medicament care a costat 95.000 de euro, pentru a-și salva viața
Recomandări
Femeia grav bolnavă care a învins sistemul. A fost nevoită să-și cumpere singură un medicament care a costat 95.000 de euro, pentru a-și salva viața

Acestea includ utilizarea de instrumente automatizate pentru a evidenția vulnerabilitățile în software și sisteme IT, precum și oferirea de îndrumări privind producerea de arme biologice și chimice.

Riscuri potențiale ale AI

Conform aceleiași surse, raportul mai menționează că noile modele AI pot genera instrucțiuni tehnice pas cu pas pentru crearea de agenți patogeni și toxine care depășesc capacitățile experților cu doctorate. OpenAI a recunoscut că modelul său avansat o1 ar putea ajuta specialiștii în planificarea producerii de amenințări biologice.

Bengio a declarat că au apărut deja modele care, cu ajutorul camerei unui smartphone, ar putea ghida, teoretic, oamenii prin sarcini periculoase, cum ar fi încercarea de a construi o armă biologică. „Aceste instrumente devin din ce în ce mai ușor de utilizat de către nonexperți, deoarece pot descompune o sarcină complicată în pași mai mici pe care oricine îi poate înțelege, și apoi te pot ajuta interactiv să le faci corect. Și asta e foarte diferit de utilizarea, să zicem, a căutării Google”, a explicat el.

Raportul menționează că sistemele AI s-au îmbunătățit semnificativ de anul trecut în capacitatea lor de a detecta defecte în software în mod autonom, fără intervenție umană. Acest lucru ar putea ajuta hackerii să planifice atacuri cibernetice. Cu toate acestea, raportul afirmă că efectuarea de atacuri autonome în lumea reală este dincolo de capacitățile actuale ale sistemelor de AI, deoarece acestea necesită „un nivel excepțional de precizie”.

Sile Cămătaru, absolvent al cursului „Planeta albastră”, a cerut liberarea condiționată. Din ce motive au respins judecătorii a treia cerere
Recomandări
Sile Cămătaru, absolvent al cursului „Planeta albastră”, a cerut liberarea condiționată. Din ce motive au respins judecătorii a treia cerere

Creșterea conținutului deepfake

Raportul mai indică spre o creștere semnificativă a conținutului deepfake, unde tehnologia este utilizată pentru a produce o imagine sau un clip extrem de asemănătoare cu realitatea. Deepfake-urile au fost folosite pentru a păcăli companiile să piardă bani, pentru șantaj și pentru a crea imagini pornografice ale unor persoane.

Există riscuri de utilizare malițioasă, deoarece modelele cu sursă închisă, unde codul de bază nu poate fi modificat, pot fi vulnerabile la „jailbreakuri” care ocolesc măsurile de siguranță. În același timp, modelele „open source” precum Llama de la Meta, care pot fi descărcate gratuit și modificate de specialiști, prezintă riscuri de „facilitare a utilizării malițioase sau greșite” de către actori rău intenționați.

Într-o notă ulterioară adusă la raport, Bengio mai menționează apariția în decembrie a unui nou model avansat de „raționament” de la OpenAI numit o3. Capacitatea acestuia de a progresa într-un test-cheie de raționament abstract a fost o realizare pe care mulți experți, inclusiv el însuși, o considerau imposibilă. Raportul mai subliniază necesitatea unei abordări prudente și a unor măsuri de siguranță robuste pe măsură ce tehnologia AI continuă să evolueze rapid.

   

Urmărește cel mai nou VIDEO

Google News Urmărește-ne pe Google News

Comentează

Loghează-te în contul tău pentru a adăuga comentarii și a te alătura dialogului.

„Noi nu aveam banii la comun. Aveam până și două frigidere diferite. Dacă mergeam la cumpărături, ne puneam separatorul între”. Ți se face pielea de găină dacă auzi ce i-a mărturisit Alina Sorescu lui Cătălin Măruță, despre mariajul ei cu Alexandru Ciucu. De ce nu a putut divorța mai devreme
Unica.ro
„Noi nu aveam banii la comun. Aveam până și două frigidere diferite. Dacă mergeam la cumpărături, ne puneam separatorul între”. Ți se face pielea de găină dacă auzi ce i-a mărturisit Alina Sorescu lui Cătălin Măruță, despre mariajul ei cu Alexandru Ciucu. De ce nu a putut divorța mai devreme
Lovitură dură! Președintele Klaus Iohannis trebuie să dea statului 260.000 de euro. Decizie definitivă a ÎCCJ, după ce a pierdut două case
Viva.ro
Lovitură dură! Președintele Klaus Iohannis trebuie să dea statului 260.000 de euro. Decizie definitivă a ÎCCJ, după ce a pierdut două case
WOW, iată cel mai nou cuplu din showbiz-ul românesc! El - cântăreț și fiul unuia dintre cei mai mari artiști ai României, ea - actriță tânără și frumoasă. S-au afișat recent împreună și reacțiile oamenilor curg neîncetat. Chimia dintre ei este explozivă!
Libertateapentrufemei.ro
WOW, iată cel mai nou cuplu din showbiz-ul românesc! El - cântăreț și fiul unuia dintre cei mai mari artiști ai României, ea - actriță tânără și frumoasă. S-au afișat recent împreună și reacțiile oamenilor curg neîncetat. Chimia dintre ei este explozivă!
Un fost primar judecat pentru avansuri sexuale a contestat că în înregistrări ar fi vocea sa. Ce îi spunea victimei: „Îţi asigur tot ce vrei, te duc în lumea bună”
Adevarul.ro
Un fost primar judecat pentru avansuri sexuale a contestat că în înregistrări ar fi vocea sa. Ce îi spunea victimei: „Îţi asigur tot ce vrei, te duc în lumea bună”
Dani Oțil, un antreprenor de succes. Care este noua afacere a prezentatorului de la Antena 1: „E greu să găsești în altă parte…”
Elle.ro
Dani Oțil, un antreprenor de succes. Care este noua afacere a prezentatorului de la Antena 1: „E greu să găsești în altă parte…”
NEATENȚIA ar putea s-o coste scump pe Laura Vicol! Ce au descoperit procurorii DIICOT în declarația ei de avere. DETALIUL care ar putea face diferența în dosarul NORDIS
Unica.ro
NEATENȚIA ar putea s-o coste scump pe Laura Vicol! Ce au descoperit procurorii DIICOT în declarația ei de avere. DETALIUL care ar putea face diferența în dosarul NORDIS
"Ești iubirea mea". A făcut două împrumuturi la bancă și urma să-și vândă casa, după ce "Elon Musk" i-a cerut bani pentru rachetă
Observatornews.ro
"Ești iubirea mea". A făcut două împrumuturi la bancă și urma să-și vândă casa, după ce "Elon Musk" i-a cerut bani pentru rachetă
Horoscop 10 februarie 2025. Racii vor fi tentați să ceară ajutor de la cei din jur pentru a rezolva probleme simple, doar ca să se simtă mai bine
HOROSCOP
Horoscop 10 februarie 2025. Racii vor fi tentați să ceară ajutor de la cei din jur pentru a rezolva probleme simple, doar ca să se simtă mai bine

Știri mondene

Știri România

RECOMANDĂRI