ChatGPT și Gemini pun diagnostice greșite în 80% din cazuri, dacă nu primesc suficiente informații, arată un nou studiu

Chatboții AI greșesc când au puține informații

Cercetătorii au testat 21 de modele lingvistice, inclusiv versiuni ale ChatGPT, Gemini, Claude, Grok și DeepSeek, folosind 29 de cazuri medicale reale.

Rezultatul principal:

• în peste 80% din cazuri, AI nu a reușit să genereze corect lista posibilelor diagnostice inițiale
• performanța crește semnificativ doar când primesc date complete.

Studiul arată că modelele sunt mai eficiente la finalul procesului diagnostic, dar au dificultăți majore în etapa inițială.

Noile informații vin într-o perioadă în care mulți oameni, din toată lumea, ajung greu la medic fie din cauza listelor lungi de așteptare, fie din cauza costurilor.

AI „ghicește” corect doar cu informații complete

Potrivit cercetării, atunci când sistemele primesc toate datele relevante (analize, examene fizice, istoricul complet), rata de acuratețe crește la peste 90%.

„Aceste modele sunt excelente în stabilirea unui diagnostic final odată ce datele sunt complete, dar au dificultăți la începutul unui caz, când nu există prea multe informații”, a declarat Arya Rao, autoarea principală a studiului, cercetătoare MESH și studentă la doctorat la Harvard Medical School.

Riscurile utilizării AI în medicină: nu înlocuiește medicul

Experții avertizează că utilizatorii pot lua decizii medicale greșite bazate pe răspunsuri incomplete ale chatbotului.

Dr. Marc Succi, director executiv al Incubatorului MESH, un centru de inovare de la MGB, a explicat: „Nu poți pur și simplu să ai încredere în ceea ce spune chatbot-ul. Este un început bun, dar este nevoie de supraveghere și de o persoană implicată”.

Cercetătorii atrag atenția că unele persoane pot interpreta greșit informațiile AI și pot:

• solicita investigații inutile (ex: biopsii fără indicație)
• amâna tratamente urgente (ex: accident vascular cerebral confundat cu simptome banale).

Echipa de cercetare a subliniat că inteligența artificială poate fi utilă doar ca instrument de suport, nu ca decident medical.

Modelele analizate au arătat:

• performanțe slabe în identificarea inițială a simptomelor
• rezultate bune doar după completarea datelor clinice
• risc de „diagnostic eronat” dacă informațiile sunt incomplete.

Pacient tratat după ani de suferință cu ajutorul ChatGPT

Un exemplu care ilustrează atât potențialul, cât și limitele AI vine din Germania.

Un bărbat de 54 de ani, Michael Hellmich, a povestit pentru publicația DIE ZEIT că inteligența artificială i-a schimbat viața după ce medicii nu au reușit timp de aproape doi ani să-i explice simptomele severe.

„Eram sigur că voi muri”, spune Hellmich, amintindu-și durerile, amețelile, febra și epuizarea extremă.

Problemele au început în martie 2023. Deși a ajuns în repetate rânduri la medici, analizele nu au arătat inițial nimic concludent.

Ulterior, a fost diagnosticat cu meningită, anevrism și accident vascular cerebral (în 2024).

Nemulțumit de lipsa unui diagnostic clar, bărbatul a început să discute cu ChatGPT în 2024.

El a introdus simptomele, a încărcat rapoarte medicale, a cerut întrebări de tip „diagnostic diferențial” și a solicitat investigații suplimentare (RMN, analize specifice).

Chatbotul a ghidat procesul pas cu pas, în colaborare cu medicul de familie.

În 2025, ChatGPT a sugerat medicamentul Jardiance, folosit în mod obișnuit pentru diabet și insuficiență cardiacă.

„Consecința logică a multimorbidității tale”, ar fi fost explicația AI, potrivit pacientului.

După administrarea tratamentului, simptomele s-au ameliorat, însă nici măcar AI nu a putut pune un diagnostic exact, ci doar să găsească un tratament potrivit.

„Niciunul dintre doctori nu a putut să-mi explice de ce”, afirmă Hellmich.

Neamțul a găsit un tratament, dar pentru asta a oferit chatbot-ului acces la o mulțime de informații personale sensibile și analize.

Experții avertizează: AI poate greși grav

Specialiștii atrag atenția că sistemele de inteligență artificială pot avea „halucinații” (răspunsuri plauzibile, dar greșite), pot influența decizii medicale critice și nu pot înlocui consultul de specialitate.

„Fiecare medic responsabil ar trebui să consulte o inteligență artificială atunci când se confruntă cu o boală cu care nu este familiarizat”, spune un medic din München, dar avertizează asupra încrederii excesive a pacienților.

De la „doctor Google”, oamenii au trecut la boții cu AI. Dacă simptomele introduse pe Google ne duceau mereu „la moarte”, ChatGPT are tendința de a spune oamenilor ce vor să audă și să minimizeze urmările. Datele arată că o treime din pacienți a folosit aplicații de sănătate cu inteligență artificială.

Și românii caută din ce în ce mai des sfaturi medicale de la Inteligența Artificială. Ei își pun „singuri” un diagnostic, iar odată ajunși în fața unui medic specialist acceptă cu greu sfaturile acestuia. Recent, un medic chirurg din Galați a fost certat de un pacient pentru că l-ar fi operat prea repede.

Studiul confirmă o realitate importantă: ChatGPT, Gemini și alte modele AI nu sunt fiabile pentru diagnostic medical în lipsa informațiilor complete. Deși pot ajuta la analiză și orientare, medicii rămân esențiali în stabilirea diagnosticului corect și în tratarea pacienților, mai ales în cazurile urgente sau complexe.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE