Săptămâna trecută, DeepSeek a creat panică în Silicon Valley, demonstrând că se poate construi o inteligență artificială puternică cu un buget redus. Însă, relatează Bloomberg, în unele privințe, acest lucru era prea frumos pentru a fi adevărat.

Testele recente au arătat că modelele de inteligență artificială ale DeepSeek sunt mai vulnerabile la manipulare decât cele ale concurenților săi mai scumpi din Silicon Valley. Acest lucru pune sub semnul întrebării întreaga narațiune David versus Goliat privind inteligența artificială „democratizată”, care a rezultat din ascensiunea fulminantă a companiei.

Miliardele de dolari pe care OpenAI, Google și Microsoft le-au cheltuit pe infrastructura propriilor modele par acum mai puțin o risipă corporatistă și mai mult un cost necesar pentru a fi pionieri în cursa AI și pentru a menține avantajul cu servicii mai sigure.

Vulnerabilități de securitate

LatticeFlow AI, o firmă elvețiană de software care măsoară conformitatea modelelor de inteligență artificială cu reglementările, afirmă că două versiuni ale modelului R1 al DeepSeek se clasează pe ultimele locuri, printre alte sisteme de top, în ceea ce privește securitatea cibernetică.

Șefii CFR Călători și-au crescut indemnizațiile în austeritate. Trenurile de călători din România au înregistrat în primele opt luni din 2023 întârzieri cumulate de 4,6 ani
Recomandări
Șefii CFR Călători și-au crescut indemnizațiile în austeritate. Trenurile de călători din România au înregistrat în primele opt luni din 2023 întârzieri cumulate de 4,6 ani

Se pare că atunci când compania chineză a modificat modelele open-source existente de la Meta Platforms Inc. și Alibaba, cunoscute sub numele de Llama și Qwen, pentru a le face mai eficiente, este posibil să fi stricat unele dintre caracteristicile-cheie de siguranță ale acestor modele în timpul procesului.

Modelele DeepSeek erau deosebit de vulnerabile la „deturnarea obiectivelor” și la scurgerea de informații, au declarat reprezentanți ai LatticeFlow. Acest lucru se referă la situația în care o inteligență artificială poate fi păcălită să ignore măsurile de siguranță și să dezvăluie informații sensibile sau să efectueze acțiuni dăunătoare pe care ar trebui, în mod normal, să le prevină.

Implicații pentru afaceri

Când o companie își conectează sistemele la inteligența artificială generativă, de obicei va lua un model de bază de la o companie precum DeepSeek sau OpenAI și va adăuga unele dintre propriile date, indicații și logică. Însă hackerii ar putea obține un potențial acces la aceste instrucțiuni sensibile, spune Petar Tsankov, director executiv al LatticeFlow AI.

Alți cercetători în domeniul securității au investigat modelele DeepSeek și au descoperit vulnerabilități, în special în ceea ce privește determinarea modelelor să facă lucruri pe care nu ar trebui să le facă, cum ar fi oferirea de instrucțiuni pas cu pas despre cum să construiești o bombă sau să pornești o mașină fără cheie, un proces cunoscut sub numele de jailbreaking.

Cât de aproape este România de „pana prostului” la gaze. Expert: „Am golit niște depozite de lângă București și aici avem cei mai mulți consumatori și CET-urile”
Recomandări
Cât de aproape este România de „pana prostului” la gaze. Expert: „Am golit niște depozite de lângă București și aici avem cei mai mulți consumatori și CET-urile”

„DeepSeek este complet nesigur împotriva tuturor abordărilor de jailbreak, în timp ce modelele de raționament OpenAI și Anthropic au devenit mult mai sigure prin comparație cu versiunile lor mai vechi, fără raționament, pe care le-am testat anul trecut”, spune Alex Polakov, CEO al Adversa AI, o firmă israeliană de securitate AI care a testat modelele DeepSeek.

Soluții și compromisuri

Tsankov spune că întreprinderile dornice să folosească totuși DeepSeek datorită prețului său scăzut pot trata o problemă serioasă „cu plasturi”. Una dintre abordări ar fi adaptarea modelului DeepSeek cu instruire suplimentară, un proces care poate costa sute de mii de dolari. O altă abordare implică adăugarea unui set complet nou de instrucțiuni care să ordone modelului să nu răspundă la încercările de furt de informații.

Acoperirea fisurilor în acest mod este mai ieftină, costând mii de dolari, potrivit lui Tsankov. Când întreprinderile doresc să utilizeze inteligența artificială generativă pentru sarcini cu mize reduse, cum ar fi rezumarea rapoartelor de date pentru uz intern, aceste probleme de securitate ar putea fi un preț care merită plătit.

Impactul asupra încrederii în afaceri

Însă, în general, deficiențele de siguranță ale DeepSeek ar putea afecta încrederea în afaceri într-un moment de progres relativ lent în implementarea inteligenței artificiale. Deși aproximativ 50 de bănci mari și-au intensificat utilizarea inteligenței artificiale generative în 2024 la aproximativ 300 de aplicații, mai puțin de un sfert dintre firme au putut raporta date concrete care să indice economii de costuri, câștiguri de eficiență sau venituri mai mari, potrivit Evident Insights, o firmă de cercetare cu sediul la Londra.

Procesul crimei de la Sibiu. Ucigașii aflați în arest susțin că omul de afaceri Adrian Kreiner ar fi căzut pe scări și s-ar fi sufocat cu pătura
Recomandări
Procesul crimei de la Sibiu. Ucigașii aflați în arest susțin că omul de afaceri Adrian Kreiner ar fi căzut pe scări și s-ar fi sufocat cu pătura

Instrumentele de inteligență artificială generativă sunt, fără îndoială, inteligente și vor fi transformatoare. Dar implementarea lor în afaceri a fost intermitentă și lentă, iar o parte din motive sunt îngrijorările legate de securitate și conformitate.

Sondajele în rândul liderilor de afaceri tind să constate că între o treime și jumătate dintre aceștia au securitatea ca principală preocupare pentru inteligența artificială.

   

Google News Urmărește-ne pe Google News

Comentează

Loghează-te în contul tău pentru a adăuga comentarii și a te alătura dialogului.

Alexandru Papadopol și Cristiana Luca s-au cununat religios în weekend! Mireasa a purtat o rochie albă, simplă și largă, cu un decolteu generos, iar mirele s-a îmbrăcat într-un costum negru. Cum au fost fotografiați în biserică și cine sunt nașii / FOTO
Unica.ro
Alexandru Papadopol și Cristiana Luca s-au cununat religios în weekend! Mireasa a purtat o rochie albă, simplă și largă, cu un decolteu generos, iar mirele s-a îmbrăcat într-un costum negru. Cum au fost fotografiați în biserică și cine sunt nașii / FOTO
Soțul Laurei Vicol spunea: „Dacă voiam să fiu un escroc, nu făceam o firmă atât de mare. Dacă s-ar întâmpla ceva cu mine sau cu asociații mei azi și firma s-ar duce în faliment, toată lumea și-ar primi banii…” Noi detalii ies la iveală despre Vladimir Ciorbă! Lovitura pe care o dădea procurorilor
Viva.ro
Soțul Laurei Vicol spunea: „Dacă voiam să fiu un escroc, nu făceam o firmă atât de mare. Dacă s-ar întâmpla ceva cu mine sau cu asociații mei azi și firma s-ar duce în faliment, toată lumea și-ar primi banii…” Noi detalii ies la iveală despre Vladimir Ciorbă! Lovitura pe care o dădea procurorilor
Au apărut imaginile pe care Laura Vicol le-ar vrea șterse din online. Cum arăta acum 10 ani. E de nerecunoscut. 20 de poze cu transformările “de lux” și “de look” are avocatei
Libertateapentrufemei.ro
Au apărut imaginile pe care Laura Vicol le-ar vrea șterse din online. Cum arăta acum 10 ani. E de nerecunoscut. 20 de poze cu transformările “de lux” și “de look” are avocatei
Derută în propaganda rusă. Trump a devenit „om de stat rezonabil”. Ideologii lui Putin și-au schimbat peste noapte tonul în privința Ucrainei
Adevarul.ro
Derută în propaganda rusă. Trump a devenit „om de stat rezonabil”. Ideologii lui Putin și-au schimbat peste noapte tonul în privința Ucrainei
Alexandru Papadopol și Cristiana Luca s-au cununat religios la o zi după cununia civilă. Imagini emoționante de la eveniment
Elle.ro
Alexandru Papadopol și Cristiana Luca s-au cununat religios la o zi după cununia civilă. Imagini emoționante de la eveniment
„Brigitte Macron s-a născut bărbat”. Scandal în Franța după investigația unor jurnaliști, în legătură cu trecutul Primei Doamne. Aceștia spun că au dovezi fotografice care atestă că Brigitte Macron a trecut printr-o operație de schimbare de sex în anii ’80. Situația a luat amploare
Unica.ro
„Brigitte Macron s-a născut bărbat”. Scandal în Franța după investigația unor jurnaliști, în legătură cu trecutul Primei Doamne. Aceștia spun că au dovezi fotografice care atestă că Brigitte Macron a trecut printr-o operație de schimbare de sex în anii ’80. Situația a luat amploare
Un avion Delta Airlines s-a răsturnat după o aterizare forţată, pe Aeroportul din Toronto. Opt persoane, rănite
Observatornews.ro
Un avion Delta Airlines s-a răsturnat după o aterizare forţată, pe Aeroportul din Toronto. Opt persoane, rănite
Horoscop 18 februarie 2025. Gemenii poartă pe umeri o povară grea de mai mult timp, iar această povară poate deveni și mai grea astăzi
HOROSCOP
Horoscop 18 februarie 2025. Gemenii poartă pe umeri o povară grea de mai mult timp, iar această povară poate deveni și mai grea astăzi

Știri mondene

Știri România

RECOMANDĂRI