Informațiile medicale false sau înșelătoare date de rezumatele AI de la Google pun oamenii în pericol

Deși compania susține că aceste prezentări generale, create cu ajutorul inteligenței artificiale generative pentru a oferi rapid informații esențiale despre diverse subiecte, sunt „utile” și „fiabile”, în practică unele dintre ele s-au dovedit inexacte și potențial periculoase.

Caz extrem de periculos

Mai multe astfel de rezumate, afișate în partea superioară a rezultatelor de căutare, au oferit informații medicale eronate.

Într-un caz considerat de specialiști drept „extrem de periculos”, Google a recomandat greșit persoanelor cu cancer pancreatic să evite alimentele bogate în grăsimi.

Experții avertizează că această indicație este exact opusul recomandărilor corecte și ar putea crește riscul de deces al pacienților.

Într-un alt exemplu „alarmant”, rezumatele AI au furnizat date greșite despre analizele esențiale ale funcției hepatice, ceea ce ar putea determina persoane cu afecțiuni grave ale ficatului să creadă, în mod eronat, că sunt sănătoase.

De asemenea, căutările legate de testele pentru depistarea cancerului la femei au returnat informații „complet incorecte”, care ar putea duce la ignorarea unor simptome reale.

Îngrijorare privind datele generate de AI

Un purtător de cuvânt al Google a declarat că multe dintre exemplele prezentate erau „capturi de ecran incomplete” și că, din evaluările companiei, acestea făceau trimitere la surse cunoscute și recomandau consultarea unui specialist.

Totuși, ancheta The Guardian se înscrie într-un context mai larg de îngrijorare privind datele generate de inteligența artificială, care pot induce în eroare utilizatorii ce tind să le considere de încredere.

Anul trecut, un studiu a arătat că mai mulți chatboți AI ofereau sfaturi financiare inexacte, iar preocupări similare au fost ridicate și în legătură cu rezumatele automate de știri.

Sophie Randall, directoarea Forumului de Informații pentru Pacienți, a atras atenția că aceste exemple demonstrează cum prezentările generale ale Google bazate pe AI pot plasa informații medicale greșite în fruntea căutărilor online, punând în pericol sănătatea oamenilor.

La rândul său, Stephanie Parker, directoarea departamentului digital al organizației Marie Curie, a subliniat că persoanele caută informații online adesea în momente de criză, iar datele inexacte sau scoase din context le pot afecta grav starea de sănătate.

Situații problematice

Investigația a identificat mai multe situații problematice în secțiunea Google AI Overviews, în urma semnalelor de alarmă trase de organizații din domeniul sănătății și profesioniști medicali.

Anna Jewell, de la Pancreatic Cancer UK, a calificat drept „complet greșită” recomandarea de a evita grăsimile în cazul cancerului pancreatic, avertizând că acest lucru poate reduce șansele pacienților de a tolera tratamente salvatoare, precum chimioterapia sau intervențiile chirurgicale.

Și informațiile oferite despre intervalele „normale” ale analizelor hepatice s-au dovedit înșelătoare, prezentând valori fără context și fără a ține cont de factori precum vârsta, sexul sau etnia.

Pamela Healy, directoarea British Liver Trust, a spus că acest lucru este periculos, deoarece persoanele cu boli hepatice grave ar putea interpreta greșit rezultatele și să nu mai solicite consult medical.

În cazul cancerului vaginal, o căutare a indicat testul Papanicolau drept metodă de depistare, ceea ce este eronat. Athena Lamnisos, directoarea organizației Eve Appeal, a explicat că acest test nu detectează cancerul vaginal și că informația greșită ar putea determina femeile să ignore simptome serioase.

Ea a mai atras atenția asupra faptului că aceleași căutări au generat răspunsuri diferite în momente diferite, ceea ce sporește confuzia și riscurile.

Sfaturi periculoase privind psihoza și reacția Google

Probleme similare au fost identificate și în cazul căutărilor legate de sănătatea mintală. Stephen Buckley, de la organizația Mind, a declarat că unele rezumate AI privind psihoza sau tulburările de alimentație oferă „sfaturi foarte periculoase”, sunt inexacte sau pot descuraja oamenii să caute ajutor.

De asemenea, acestea pot reflecta stereotipuri sau narațiuni stigmatizante existente.

În replică, Google a susținut că majoritatea covârșitoare a rezumatelor AI sunt corecte și utile și că nivelul lor de acuratețe este comparabil cu alte funcții de căutare existente de ani de zile.

Compania a precizat că îmbunătățește constant calitatea acestor prezentări și că, atunci când apar erori sau lipsă de context, ia măsuri în conformitate cu politicile sale.

„Investim semnificativ în calitatea prezentărilor bazate pe inteligență artificială, mai ales pentru subiecte sensibile precum sănătatea, iar marea majoritate oferă informații corecte”, a transmis un purtător de cuvânt al Google.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE