Inginerii din spatele inteligenței artificiale ne spun să stăm departe de ea: viteza a învins siguranța, iar riscurile cresc

Incidentul care a determinat-o pe o angajată AI să își sfătuiască apropiații să evite tehnologia

Un articol publicat de The Guardian aduce în prim-plan poveștile unor angajați care, în ciuda faptului că ajută la dezvoltarea acestor tehnologii, aleg să se distanțeze de utilizarea lor în viața personală.

Krista Pawloski, lucrătoare pe platforma Amazon Mechanical Turk, își amintește momentul care i-a schimbat complet percepția despre etica inteligenței artificiale. Aceasta își petrece timpul evaluând calitatea textelor, imaginilor și videoclipurilor generate de inteligența artificială, precum și verificând anumite fapte.

„Amazon Mechanical Turk este o piață care conectează afacerile și cercetătorii, numiți solicitanți, cu lucrători pentru a finaliza sarcini online, cum ar fi etichetarea imaginilor, completarea sondajelor, transcrierea textelor sau revizuirea rezultatelor AI”, a explicat Montana MacLachlan, purtător de cuvânt al Amazon.

În urmă cu doi ani, în timp ce lucra de acasă, Krista Pawloski a primit sarcina de a clasifica tweet-uri ca fiind rasiste sau nu. Un tweet care conținea expresia „Listen to that mooncricket sing” aproape că a fost etichetat greșit de către ea, până când a decis să verifice semnificația termenului „mooncricket”. Spre surprinderea ei, a descoperit că acesta este un termen peiorativ și rasist la adresa afro-americanilor.

„Stăteam acolo și mă gândeam de câte ori am făcut aceeași greșeală fără să-mi dau seama”, a declarat ea.

Sfaturile pe care inginerii le oferă copiilor

Acest incident a determinat-o să reflecteze asupra erorilor pe care ea și alți mii de lucrători le-ar fi putut comite involuntar. În prezent, Pawloski evită să utilizeze produse de inteligență artificială generativă în viața personală și le recomandă același lucru și celor apropiați.

„Este un nu categoric în casa mea”, a spus ea, referindu-se la interdicția impusă fiicei sale adolescente de a folosi instrumente precum ChatGPT. De asemenea, îi încurajează pe cei din jur să testeze AI-ul pe subiecte pe care le cunosc bine pentru a înțelege cât de eronată poate fi tehnologia.

Pawloski afirmă că, de fiecare dată când alege o nouă sarcină pe platforma Mechanical Turk, se întreabă dacă ceea ce face ar putea dăuna oamenilor – și, de multe ori, răspunsul este afirmativ. Amazon a declarat că lucrătorii pot alege ce sarcini să îndeplinească, având posibilitatea de a analiza detaliile înainte de a accepta.

Mai mulți evaluatori de AI au declarat pentru The Guardian că, după ce au descoperit cum funcționează chatbot-urile și generatoarele de imagini, au început să-și avertizeze apropiații să fie precauți în utilizarea acestor tehnologii.

Acești lucrători colaborează cu modele precum Gemini de la Google, Grok al lui Elon Musk și alte sisteme mai puțin cunoscute. Un evaluator de AI care lucrează pentru Google a declarat că evită pe cât posibil utilizarea AI, mai ales în ceea ce privește răspunsurile generate pe teme de sănătate.

„Ea trebuie mai întâi să învețe să gândească critic sau nu va putea să-și dea seama dacă rezultatul este corect”, a spus aceasta despre fiica sa de 10 ani, căreia i-a interzis utilizarea chatbot-urilor.

A crescut probabilitatea ca chatbotul să repete informații false

Google a subliniat că evaluările sunt doar un factor în măsurarea performanței sistemelor lor și că au implementat măsuri de protecție pentru a asigura calitatea informațiilor oferite. Lucrătorii din domeniul AI, care verifică răspunsurile generate de inteligența artificială, încearcă să se asigure că acestea nu conțin informații eronate sau dăunătoare.

Cu toate acestea, mulți dintre ei consideră că accentul pus pe rapiditate în detrimentul calității reprezintă o problemă majoră.

Brook Hansen, o altă lucrătoare pe platforma Amazon Mechanical Turk, a subliniat lipsa de sprijin pentru cei care antrenează aceste sisteme. „Ni se cere să îmbunătățim modelul, dar primim instrucțiuni vagi sau incomplete, pregătire minimă și termene nerealiste pentru a finaliza sarcinile”, a spus Hansen.

Un raport al organizației non-profit NewsGuard a dezvăluit că rata de non-răspuns a chatboturilor a scăzut de la 31% în august 2024 la 0% în august 2025, în timp ce probabilitatea ca acestea să repete informații false a crescut de la 18% la 35%.

Un alt evaluator Google, care a cerut anonimatul, a declarat: „Nu aș avea încredere în niciun fapt oferit de bot fără să-l verific eu însumi – pur și simplu nu este de încredere”.

De asemenea, un alt evaluator a povestit despre experiența sa de a testa limitele AI-ului Google. „Am întrebat despre istoria poporului palestinian și nu mi-a oferit niciun răspuns, indiferent cum am reformulat întrebarea. Dar când am întrebat despre istoria Israelului, mi-a oferit o descriere detaliată”, a spus acesta.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE