ChatGPT este vulnerabil la manipulare și înșelăciuni, arată noi teste: „Modelul produce conținut care a fost practic virusat”

Clienții cu abonamente pot fi păcăliți

Acest instrument, disponibil clienților plătitori, ar putea fi manipulat prin conținut ascuns și ar putea returna cod malițios de pe site-urile web pe care le caută.

Conform The Guardian, testele efectuate au arătat că ChatGPT poate fi influențat de conținut ascuns pe paginile web, ducând la evaluări pozitive ale produselor, în ciuda recenziilor negative vizibile. Acest fenomen, cunoscut ca „injecție de prompt”, poate fi folosit în scopuri rău intenționate.

Cum funcționează manipularea ChatGPT

În cadrul testelor, ChatGPT a fost rugat să evalueze un produs de pe un site web fals. Când textul ascuns conținea instrucțiuni pentru o recenzie favorabilă, răspunsul AI-ului era întotdeauna pozitiv, chiar și în prezența recenziilor negative vizibile.

„Această funcționalitate de căutare a apărut [recent] și este disponibilă doar utilizatorilor premium. Au o echipă foarte puternică [de securitate AI] acolo, și până când aceasta va deveni publică, în sensul că toți utilizatorii o pot accesa, vor fi testat riguros aceste tipuri de cazuri”, a explicat Jacob Larsen, cercetător în securitate cibernetică la CyberCX.

Potențiale riscuri pentru utilizatorii ChatGPT

Recomandări

Contabila-șefă de la Spitalul „Sf. Spiridon” Iași a câștigat mai mult decât colegii medici într-un proiect european contra hepatitei. Din 7,8 milioane de euro, peste 2,4 milioane de euro au mers pe salarii

Larsen a avertizat că, dacă sistemul actual de căutare ChatGPT ar fi lansat complet în starea sa actuală, ar putea exista un „risc ridicat” ca oamenii să creeze site-uri web special concepute pentru a înșela utilizatorii.

„LLM-urile sunt o tehnologie foarte încrezătoare, aproape copilărească … cu o memorie uriașă, dar foarte puțin în ceea ce privește capacitatea de a face judecăți”, a subliniat Karsten Nohl, cercetător- șef la firma de securitate cibernetică SR Labs.

Implicații pentru practica web

Textul ascuns a fost istoric penalizat de motoarele de căutare precum Google. Acest lucru ar putea descuraja site-urile web să folosească astfel de tehnici pentru a manipula AI-ul, dacă doresc să-și mențină un rang bun în rezultatele căutărilor.

Nohl a comparat problemele cu care se confruntă căutarea bazată pe AI cu „otrăvirea SEO”, o tehnică prin care hackerii manipulează site-urile web pentru a se clasa pe poziții înalte în rezultatele căutării, site-ul conținând un anumit tip de malware sau alt cod malițios.

Coduri malițioase și ChatGPT

Thomas Roccia, cercetător în securitate la Microsoft, a evidențiat un incident în care un entuziast al criptomonedelor a pierdut 2.500 de dolari după ce a folosit cod furnizat de ChatGPT.

Recomandări

Scena politică din România, în epoca fragmentării votului. Capitolul la care Călin Georgescu e surclasat de alți foști candidați la prezidențiale ANALIZĂ

Codul, descris ca o modalitate legitimă de a accesa platforma blockchain Solana, de fapt fura credențialele programatorului.

„Ei pur și simplu pun o întrebare, primesc un răspuns, dar modelul produce și împărtășește conținut care a fost practic injectat de un adversar pentru a împărtăși ceva care este rău intenționat”, a mai explicat Larsen.

Recomandări pentru utilizatori

Experții recomandă utilizarea serviciilor de chat AI mai degrabă ca un „copilot”, iar rezultatele lor nu ar trebui considerate sau utilizate complet nefiltrate.

OpenAI avertizează utilizatorii despre posibilele erori ale serviciului cu o declarație de declinare a responsabilității la partea de jos a fiecărei pagini ChatGPT: „ChatGPT poate face greșeli. Verificați informațiile importante”.

Urmărește-ne pe Google News