Când inteligența artificială face operații medicale: proceduri eșuate și părți ale corpului identificate greșit

Sectorul medical nu este singurul în care companiile s-au grăbit să implementeze AI-ul, ca apoi să își dea seama că dă chix: compania Salesforce a concediat patru mii de angajați pentru a-i înlocui cu agenți AI, dar a avut apoi un coșmar în relația cu clienții.

Defecțiuni și efecte adverse

În 2021, o divizie a gigantului sanitar Johnson & Johnson a anunțat „un salt înainte”: a adăugat inteligența artificială la un dispozitiv medical utilizat pentru tratarea sinuzitei cronice, o inflamație a sinusurilor.

Acclarent a declarat că software-ul pentru sistemul său de navigație TruDi va utiliza acum un algoritm de învățare automată pentru a ajuta specialiștii în otorinolaringologie în timpul operațiilor chirurgicale.

Dispozitivul era deja pe piață de aproximativ trei ani.

Până atunci, Administrația pentru Alimente și Medicamente din SUA (FDA) primise rapoarte neconfirmate despre șapte cazuri în care dispozitivul funcționase defectuos și un alt raport despre un pacient rănit.

De când AI a fost adăugat la dispozitiv, FDA a primit rapoarte neconfirmate despre cel puțin 100 de defecțiuni și evenimente adverse.

Cel puțin 10 persoane au fost rănite între sfârșitul anului 2021 și noiembrie 2025, potrivit rapoartelor.

Sistemul de navigație dă erori

Majoritatea ar fi implicat erori în care sistemul de navigație TruDi a informat greșit chirurgii cu privire la locația instrumentelor lor în timp ce le foloseau în interiorul capului pacienților în timpul operațiilor.

Într-un caz, un chirurg a perforat din greșeală baza craniului unui pacient. În alte două cazuri, pacienții ar fi suferit accident vascular cerebral după ce o arteră majoră a fost rănită accidental.

Documentele FDA privind dispozitivele pot fi incomplete și nu au scopul de a determina cauzele accidentelor medicale, astfel încât nu este clar ce rol ar fi putut juca AI în aceste evenimente.

Cele două victime ale accidentelor vasculare cerebrale au intentat fiecare un proces în Texas, susținând că IA sistemului TruDi a contribuit la rănile lor.

„Produsul era, fără îndoială, mai sigur înainte de integrarea modificărilor în software pentru a încorpora inteligența artificială decât după implementarea modificărilor software”, susține unul dintre procese.

Ce spun companiile

Întrebată despre rapoartele FDA privind dispozitivul TruDi, Johnson & Johnson a redirecționat întrebările către Integra LifeSciences, care în 2024 a achiziționat Acclarent și sistemul de navigație TruDi.

Integra LifeSciences a declarat că rapoartele „nu fac altceva decât să indice că un sistem TruDi a fost utilizat într-o intervenție chirurgicală în care a avut loc un eveniment advers”.

A adăugat că „nu există dovezi credibile care să demonstreze o legătură cauzală între sistemul de navigație TruDi, tehnologia AI și presupusele leziuni”.

Informațiile despre incidente apar în momentul în care AI începe să transforme lumea.

Susținătorii prevăd că noua tehnologie va ajuta la găsirea de tratamente pentru boli rare, la descoperirea de noi medicamente, la îmbunătățirea abilităților chirurgilor și la împuternicirea pacienților.

Însă o analiză Reuters a înregistrărilor legale și de siguranță, precum și interviurile cu medici, asistente medicale, oameni de știință și autorități de reglementare, documentează unele dintre pericolele AI în medicină, în contextul în care producătorii de dispozitive, giganții tehnologici și dezvoltatorii de software se grăbesc să o lanseze.

1.357 de dispozitive medicale cu AI

Cel puțin 1.357 de dispozitive medicale care utilizează AI sunt acum autorizate de FDA – dublu față de numărul pe care îl autorizase până în 2022.

Sistemul TruDi nu este singurul cu semnul întrebării: FDA a primit rapoarte care implică zeci de alte dispozitive îmbunătățite cu IA, inclusiv un monitor cardiac despre care se spune că a trecut cu vederea bătăile cardiace anormale și un dispozitiv cu ultrasunete care ar fi identificat greșit părți ale corpului fetal.

Retrageri de produse

Cercetătorii de la universitățile Johns Hopkins, Georgetown și Yale au descoperit recent că 60 de dispozitive medicale autorizate de FDA care utilizează AI au fost asociate cu 182 de retrageri de produse, potrivit unei scrisori de cercetare publicată în JAMA Health Forum în august.

Analiza lor a arătat că 43% dintre retrageri au avut loc la mai puțin de un an după ce dispozitivele au fost aprobate. Aceasta este aproximativ dublul ratei de retragere a tuturor dispozitivelor autorizate în conformitate cu regulile similare ale FDA, se menționează în analiză.

Boom-ul AI reprezintă o problemă pentru FDA, au declarat pentru Reuters cinci oameni de știință actuali și foști ai agenției: agenția se chinuie să țină pasul cu avalanșa de dispozitive medicale îmbunătățite cu AI care solicită aprobarea, după ce a pierdut personal-cheie.

Un purtător de cuvânt al Departamentului Sănătății și Serviciilor Sociale al SUA, care include FDA, a declarat că se dorește creșterea capacității în acest domeniu.

Chatboți

O altă formă de inteligență artificială, chatbot-urile generative cu IA, își face și ea apariția în medicină. Mulți medici folosesc acum AI pentru a economisi timp, de exemplu pentru transcrierea notelor despre pacienți.

Dar medicii spun și că mulți pacienți folosesc chatbot-urile pentru a se autodiagnostica sau pentru a contesta sfaturile profesionale, ceea ce ridică noi provocări și riscuri.

Inteligența artificială a devenit o senzație în mediul de afaceri și în societate după lansarea ChatGPT în urmă cu aproximativ trei ani.

ChatGPT și alți chatboti populari, precum Gemini de la Google și Claude de la Anthropic, utilizează așa-numita AI generativă pentru a crea conținut. Aceștia sunt construiți pe baza unor modele lingvistice de mari dimensiuni, sau LLM, care sunt antrenate pe baza unor cantități uriașe de text și alte date pentru a înțelege și genera limbajul uman.

Aceste instrumente AI sunt acum introduse în domenii medicale, cum ar fi aplicațiile de sănătate pentru consumatori.
Cu toate acestea, AI cuprinde mai mult decât LLM-urile, iar tehnologia a pătruns în medicină cu mult înainte.

Domeniul datează de mai bine de 70 de ani: un moment cheie a fost când matematicianul britanic Alan Turing a întrebat într-un articol din 1950: „Pot mașinile să gândească?”

Încă din 1995

FDA a autorizat primele dispozitive medicale îmbunătățite cu AI în 1995 – două sisteme care utilizau software de potrivire a modelelor pentru depistarea cancerului de col uterin.

Tipul de AI utilizat în prezent în dispozitivele medicale este adesea numit învățare automată, împreună cu un subset cunoscut sub numele de învățare profundă, care sunt antrenate pe date pentru a efectua sarcini specifice.

Tehnologia este utilizată în radiologie, de exemplu, pentru a îmbunătăți și analiza imaginile medicale. Ea poate ajuta la diagnosticarea cancerului prin identificarea tumorilor pe care medicii le-ar putea trece cu vederea.

Cazul Texas

Astfel de sisteme sunt utilizate și în dispozitivele chirurgicale.

În iunie 2022, un chirurg a introdus un balon mic în cavitatea sinusală a lui Erin Ralph la un spital din Fort Worth, Texas. Potrivit unui proces intentat de Ralph, dr. Marc Dean folosea sistemul de navigație TruDi, care utilizează AI, pentru a confirma poziția instrumentelor sale în interiorul capului ei.

Procedura, cunoscută sub numele de sinuplastie, este o tehnică minim invazivă pentru tratarea sinuzitei cronice. Un balon este umflat pentru a mări deschiderea cavității sinusale, pentru a permite o mai bună drenare și ameliorarea inflamației.

Dar sistemul TruDi „l-a indus în eroare și l-a îndrumat greșit” pe Dean, potrivit procesului intentat de Ralph la Tribunalul Districtual din Dallas împotriva Acclarent și a altor pârâți.

O arteră carotidă – care alimentează cu sânge creierul, fața și gâtul – ar fi fost lezată, ducând la formarea unui cheag de sânge. Potrivit unui document depus la tribunal, avocatul lui Ralph a declarat judecătorului că propriile înregistrări ale lui Dean arătau că „nu avea nicio idee că se afla în apropierea arterei carotide”.

După ce pacienta a părăsit spitalul, a devenit evident că suferise un accident vascular cerebral. Mama a patru copii s-a întors și a petrecut cinci zile la terapie intensivă, potrivit unei campanii de strângere de fonduri GoFundMe organizată pentru a-i sprijini recuperarea.

O parte din craniu i-a fost îndepărtată „pentru a permite creierului să se umfle”, se arată în apelul GoFundMe.

„Încă fac terapie”, a spus Ralph într-un interviu acordat la mai bine de un an după accident, într-un blog despre victimele accidentelor vasculare cerebrale. „Este greu să merg fără aparat ortopedic și să-mi recuperez funcționalitatea brațului stâng”.

Carotida „explodată”

În mai 2023, Dean folosea TruDi într-o altă operație de sinuplastie când artera carotidă a pacientei Donna Fernihough ar fi „explodat”.

Sângele „stropise peste tot” – ajungând chiar și pe un reprezentant Acclarent care observa operația, potrivit unui proces intentat de Fernihough la Curtea Districtuală a Statelor Unite din Fort Worth împotriva Acclarent și a mai multor producători. Una dintre arterele carotide ale Fernihough a fost deteriorată.

Ea a suferit un accident vascular cerebral în ziua operației, potrivit procesului intentat de ea.

Acclarent „știa sau ar fi trebuit să știe că presupusa inteligență artificială a cauzat sau a exacerbat tendința produsului sistemului de navigație integrat de a fi inconsistent, inexact și nesigur”, se susține în proces.

Companiile o dau întoarsă

Acclarent a negat acuzațiile din ambele procese, care sunt în curs, potrivit documentelor depuse la tribunal.

Compania susține că nu a proiectat sau fabricat sistemul TruDi, ci doar l-a distribuit, potrivit documentelor depuse la tribunal. Proprietarul Acclarent, Integra LifeSciences, a declarat pentru Reuters că nu există dovezi ale unei legături între tehnologia AI și presupusele leziuni.

Dean a început să ofere consultanță pentru Acclarent în 2014 și a primit peste 550.000 de dolari în onorarii de consultant de la companie până în 2024, potrivit Open Payments, o bază de date federală care urmărește legăturile financiare dintre companii și medici. Cel puțin 135.000 de dolari din aceste onorarii erau legate de sistemul TruDi.

Un avocat al lui Dean a declarat că medicul nu poate comenta din cauza confidențialității pacienților și a litigiilor în curs. Integra a declarat că Dean nu mai este consultant TruDi și că plățile efectuate către acesta după achiziționarea Acclarent au fost pentru mese.

„Instrument de marketing”

În 2021, președintele Acclarent de la acea vreme, Jeff Hopkins, a insistat să se introducă AI în TruDi „ca instrument de marketing” pentru a susține că dispozitivul „avea o tehnologie nouă și inovatoare”, susține Fernihough în procesul său.

Software-ul TruDi utilizează învățarea automată pentru a identifica segmente specifice ale anatomiei unui pacient și pentru a calcula „cea mai scurtă cale validă între două puncte specificate de medic”, potrivit unei postări Acclarent pe LinkedIn.

Tehnologia este concepută pentru a simplifica planificarea chirurgicală și pentru a oferi feedback în timp real în timpul procedurilor, cum ar fi operațiile sinusale.

Avertizările chirurgului

Oficialii Acclarent l-au abordat pe Dean în legătură cu planul de a adăuga AI, se arată în procesul Fernihough. Chirurgul i-a avertizat pe Hopkins și Acclarent „că existau probleme care trebuiau rezolvate”, adaugă plângerea.

În ciuda acestui avertisment, potrivit procesului, Acclarent „și-a redus standardele de siguranță pentru a grăbi lansarea noii tehnologii pe piață” și a stabilit „ca obiectiv o precizie de doar 80% pentru o parte din această nouă tehnologie înainte de a o integra în sistemul de navigație TruDi”.

Organe greșite

FDA avertizează că rapoartele privind evenimentele adverse și disfuncționalitățile dispozitivelor sunt limitate: adesea lipsesc detalii, sunt redactate pentru a proteja secretele comerciale și nu pot fi utilizate singure pentru a atribui vina.

De asemenea, agenția primește uneori mai multe rapoarte pentru un singur incident.

Reuters a constatat că cel puțin 1.401 dintre rapoartele depuse la FDA între 2021 și octombrie 2025 se referă la dispozitive medicale care se află pe o listă FDA de 1.357 de produse care utilizează AI.

Agenția afirmă că lista nu este exhaustivă. Dintre aceste rapoarte, cel puțin 115 menționează probleme cu software-ul, algoritmii sau programarea.

Un raport al FDA din iunie 2025 susținea că software-ul de AI utilizat pentru ecografiile prenatale identifica greșit părțile corpului fetal.

Denumit Sonio Detect, acesta utilizează tehnici de învățare automată pentru a ajuta la analiza imaginilor fetale.
„Algoritmul software-ului Sonio Detect este defectuos și etichetează în mod eronat structurile fetale și le asociază cu părți ale corpului greșite”, se arată în raport, care nu menționează că vreun pacient a fost prejudiciat.

Sonio Detect este deținut de Samsung Medison, o divizie a Samsung Electronics.

Samsung Medison a declarat că raportul FDA despre Sonio Detect „nu indică nicio problemă de siguranță și că FDA nu a solicitat nicio măsură din partea Sonio”.

Nu a găsit ritmul cardiac anormal

Cel puțin 16 rapoarte arată că monitoarele cardiace asistate de AI fabricate de gigantul de dispozitive medicale Medtronic nu au reușit să recunoască ritmurile anormale sau pauzele.

Niciunul dintre rapoarte nu a menționat leziuni.

Medtronic a declarat FDA că unele dintre incidente au fost cauzate de „confuzia utilizatorilor”.
Algoritmii AI din seria LINQ de monitoare cardiace implantabile ale Medtronic sunt descriși ca „inteligență artificială cu învățare profundă”.

Aceștia au redus considerabil alertele false și au păstrat alertele reale privind evenimentele cardiace, potrivit site-ului web al companiei.

Dar compania afirmă, de asemenea, pe site-ul său și în documentația produsului, că tehnologia sa AI, AccuRhythm AI, poate clasifica eronat ritmurile cardiace anormale sau pauzele reale.

Medtronic a declarat pentru Reuters că a analizat toate cele 16 episoade și a concluzionat că dispozitivul său a ratat doar un singur eveniment cardiac anormal.

Medtronic a declarat că unele dintre incidente au fost legate de probleme cu afișarea datelor, nu de tehnologia AI.

Compania a refuzat să explice pe deplin ce a mers prost în fiecare incident.

Autorități nepregătite

În interviuri, cinci oameni de știință actuali și foști ai FDA care au analizat dispozitive medicale bazate pe AI au declarat că autoritățile federale de reglementare sunt acum mai puțin pregătite să facă față valului de dispozitive noi.

FDA impune efectuarea de studii clinice pentru medicamentele noi, dar dispozitivele medicale sunt supuse unor teste diferite.

Conform regulilor FDA, majoritatea dispozitivelor bazate pe AI care ajung pe piață nu trebuie testate pe pacienți.

O nouă incertitudine

În schimb, producătorii respectă regulile FDA citând dispozitive autorizate anterior care nu aveau capacități legate de AI.

Poziționarea dispozitivelor noi ca actualizări ale celor existente este o practică consacrată, dar inteligența artificială aduce o nouă incertitudine.