O aplicație de inteligență artificială pretinde că poate detecta infecțiile sexuale dacă trimiți poze genitale. Experții avertizează asupra riscurilor privind intimitatea

Calmara, dezvoltată de startup-ul HeHealth, încurajează femeile să trimită fotografii cu organele genitale ale partenerilor lor sexuali și pretinde că inteligența sa artificială poate detecta prezența bolilor cu transmitere sexuală.

Scanările genitale „alimentate de inteligența artificială” ar putea fi următorul pas major în materie de inteligență artificială, susțin Mei Ling Lu și Yudara Kularathne, fondatorii HeHealth.

„Vrăjitorie” brevetată

Fondatoarea și partenerul său de afaceri susțin că „vrăjitoria” lor „brevetată” de inteligență artificială poate analiza imaginile organelor genitale masculine pentru a detecta prezența unor infecții cu transmitere sexuală comune.

Platforma lansată luna aceasta, este comercializată ca un instrument de bunăstare sexuală pentru femei, încurajându-le să trimită „verificări ale penisului” sau fotografii ale părților intime ale partenerilor lor.

În 60 de secunde, Calmara susține că algoritmul său poate identifica prezența a peste 10 boli și infecții, precum herpesul, sifilisul și HPV, cu o precizie de până la 96%.

Potop de critici

Calmara a fost întâmpinată însă cu un potop de critici privind consimțământul, preocupările legate de confidențialitatea datelor și posibilitatea ca materiale despre abuzuri sexuale asupra copiilor să ajungă pe serverele companiei.

Recomandări

Oficialii americani au „îngrijorări serioase cu privire la nerespectarea” dreptului internațional umanitar în Fâșia Gaza. Posibilele consecințe pentru Israel

„Nu cred că este o soluție să faci fotografii ale organelor genitale ale altcuiva și să le împărtășești cu o aplicație care nici măcar nu este un furnizor de servicii medicale și nu este supusă acelorași standarde la care ar fi supus un cabinet medical”, spune Sara Geoghegan, consilier la Electronic Privacy Information Center (Centrul pentru Informații privind Intimitatea electronică – n.r.), organizație care se concentrează pe probleme legate de confidențialitatea consumatorilor.

Piață de 23 de miliarde de dolari

Inteligența artificială în domeniul sănătății reprezintă o piață de 23 de miliarde de dolari, iar multe companii se grăbesc să implementeze modele de diagnosticare, de primire a pacienților, de gestionare a spitalelor și o serie de alte utilizări.

Calmara face parte dintr-o explozie de produse orientate spre consumator bazate pe inteligența artificială, cum ar fi chatboți de terapie și aplicații de antrenor de sănătate care invocă inteligența artificială ca soluție pentru o gamă largă de probleme de sănătate.

Anul trecut, Asociația Națională pentru Tulburări de Alimentație și-a eliminat propriul chatbot pentru că oferea sfaturi dăunătoare, cum ar fi recomandarea de pierdere în greutate și măsurarea grăsimii corporale.

Recomandări

Balanța aderării la UE. Câștig de 65 de miliarde de euro pentru România. „Dacă vrem să vedem cum ar fi arătat țara noastră fără UE, ar trebui să mergem în Republica Moldova”

Dilema consimțământului

„Natura consimțământului este imposibilă în acest caz”, spune Sara Geoghegan.

Calmara oferă un produs similar pentru bărbați pentru autoverificarea infecțiilor cu transmitere sexuală.

HeHealth a obținut o finanțare de 1,1 milioane de dolari de la investitori externi, au declarat fondatorii săi. Datele PitchBook enumeră ca investitori ai platformei Institutul de Inovare și Antreprenoriat al Universității de Management din Singapore, Plug and Play Tech Center din California și fondul japonez de capital de risc ARKRAY 4U.

Cum a fost dezvoltată aplicația

HeHealth pretinde, în plus, că pune în legătură utilizatorii din Statele Unite, Singapore și India cu experți în sănătate sexuală la „clinicile sale partenere verificate”. Compania susține că inteligența sa artificială este alimentată de un „set de date de proprietare” verficat și care a fost testat de peste 30.000 de utilizatori din întreaga lume.

Aceste date conțin mai multe mii de imagini – atât originale, cât și sintetice – a cinci boli ale penisului, imaginile originale fiind obținute de la medici din India, Sri Lanka, Singapore, Australia, SUA și Marea Britanie, conform companiei.

Nu este clar de ce Calmara pretinde că identifică prezența a mai mult de 10 boli, când modelul de inteligență artificială pe care îl folosește a fost antrenat pe doar cinci. De asemenea, Forbes nu a reușit să găsească dovezi că modelul și eficacitatea acestuia au fost revizuite în mod independent. Utilizarea de date sintetice – în acest caz, imagini augmentate sau generate artificial – este problematică.

Recomandări

Nicușor Dan ocupă prima poziție în intențiile de vot ale bucureștenilor, în primul sondaj realizat după intrarea în cursă a Gabrielei Firea. Câte procente ar obține Piedone

Anul trecut, cercetătorii de la Massachusetts Institute of Technology au arătat că imaginile sintetice ar putea fi generate cu ajutorul unor modele text-imagine precum Stable Diffusion, dar au avertizat că dependența de astfel de biblioteci ar putea, de asemenea, amplifica prejudecățile.

În plus, echipa HeHealth afirmă că a dezvoltat „un instrument personalizat de extragere de pe web pentru a descărca imagini disponibile în mod liber pe internet și, de asemenea, imagini din surse publice, cu precădere din America de Nord.

Dilema etică

În cazul Calmara, „persoana căreia îi este destinată aplicația nu este cea ale cărei imagini genitale sunt partajate, astfel încât subiectul real al acestei practici invazive nu este cel al cărui consimțământ este căutat”, spune Geoghegan.

Apoi, există întrebarea ce se întâmplă cu o fotografie după ce un utilizator o trimite. Când Calmara s-a lansat, imaginile au fost stocate pe serverele AWS și păstrate pentru o perioadă de timp pe care fondatorii au refuzat să o împărtășească.

AWS vine de la Amazon Web Services, serviciu de cloud computing furnizat de gigantul Amazon.

Pozele vor fi șterse automat, nu și datele

După reacțiile publice, fondatorii au schimbat politica de păstrare. Acum, imaginile sunt șterse automat din Calmara după ce au fost scanate pentru boli sexuale.

HeHealth, pe de altă parte, stochează datele utilizatorilor, inclusiv imagini.

Dar politica de confidențialitate a HeHealth afirmă că unele informații despre utilizatori sunt partajate cu „furnizorii de servicii și partenerii care ne ajută în operarea serviciilor”.

Forbes a întrebat dacă imaginile de pe platformă sunt folosite pentru a rafina modelul său de inteligență artificială. Fondatorii au negat că fotografiile sunt partajate, dar au spus că medicii parteneri revizuiesc în prezent fiecare imagine trimisă de utilizatori, iar răspunsurile lor sunt folosite pentru a reeduca modelul.

Afiliere la un serviciu medical

Compania nu a dezvăluit cine sunt acești medici sau care este relația lor de muncă cu compania.

În California, HeHealth este afiliată cu CityHealth, un serviciu de asistență medicală prin abonament cu locații în jurul zonei San Francisco.

Kathy Chu, purtătorul de cuvânt al CityHealth, a declarat că acesta oferă consultanță medicală pacienților care folosesc HeHealth.

Problema confidențialității datelor

Puține dintre aceste informații sunt evidente în aplicația Camara.

„Site-ul descrie «modul fantomă» sau «incognito», dar nu îmi oferă suficiente informații pentru a spune cât de mult protejează confidențialitatea”, spune Glenn Cohen, profesor la Harvard Law School, specializat în etică medicală. „De asemenea, nu știu dacă unele dintre date, chiar și eliminând datele identificare, nu sunt în mod inerent reidentificabile”, continuă el.

Chiar dacă o platformă precum Calmara șterge imaginile împărtășite de utilizatori, aceasta continuă să colecteze acest material și, prin urmare, poate răspunde în fața anumitor legi privind confidențialitatea datelor, conform lui Wendell Bartnick, partener la Reed Smith, casă de avocatură ce consiliază companiile din domeniul sănătății în materie de securitate cibernetică și confidențialitate a datelor.

Calmara a susținut că serviciile sale nu intră sub incidența HIPAA – legea privind portabilitatea și responsabilitatea în domeniul asigurărilor de sănătate, deoarece nu pot fi folosite pentru a identifica pe cineva.

„Nu există nicio modalitate prin care o companie să controleze ce fel de date primește, iar o fotografie ar putea foarte bine să includă fața cuiva, care ar fi probabil considerată informație personală reglementată de unele legi de stat”, a declarat Bartnick.

„Un dezastru ambulant”

În urma lansării Calmara, Carey Lening, un cercetător în domeniul confidențialității și expert în domeniul infosec la Castlebridge, a publicat o analiză profundă a practicilor de confidențialitate ale companiei, numind-o un „pur și simplu un dezastru ambulant”.

După ce Forbes a contactat-o pe Lu pentru un interviu, HeHealth a eliminat, o listă de „parteneriate academice de elită în curs de desfășurare” de pe site-ul său, care includea Universitatea din California de Sud, Școala de Sănătate Publică T.H. Chan de la Harvard și Universitatea din Carolina de Nord din Chapel Hill. Toate cele trei școli au declarat pentru Forbes că nu au avut un parteneriat nici cu HeHealth, nici cu Calmara.

Kularathne a insistat pentru Forbes că el, în calitate de director executiv al HeHealth, are într-adevăr parteneriate cu acestea. Când Forbes a cerut să vadă acordurile sale cu universitățile, Kularathne a spus că nu le poate furniza, invocând motive de confidențialitate.

Profesorul de etică medicală Glenn Cohen, de la Harvard Medical School, a declarat că pacienții au dreptul să știe ce se face cu imaginile pe care le trimit, cum este antrenată inteligența artificială și cum diferă acuratețea acesteia între diverse categorii demografice. „Cine a revizuit algoritmul în afara companiei și ce asigurări de fiabilitate sunt în măsură să ofere? Care este planul companiei pentru cazurile în care există o eroare?”, se mai întrabă el.

Urmărește-ne pe Google News