Chatboturile AI, noii prieteni care îți dau dreptate chiar și când greșești. Dar poate deveni rapid periculos, iar cercetătorii trag semnale de alarmă
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un studiu recent arată că chatbot-urile AI pot deveni cei mai buni prieteni care îți dau dreptate, însă utilizarea lor pentru sfaturi personale prezintă riscuri serioase. Cercetătorii au descoperit că tehnologia confirmă constant acțiunile și opiniile utilizatorilor, chiar și când sunt dăunătoare, relatează The Guardian.
Cuprins:
- Cercetătorii trag un semnal de alarmă cu privire la utilizarea chatboturilor AI
- Pericolul din spatele confirmărilor oferite de chatboturi utilizatorilor
- Cercetătorii au analizat sfaturile personale date de AI
- Ce a arătat un test făcut pe reacțiile AI la diferite comentarii
- Ce impact poate avea utilizarea AI pentru sfaturi personale
- Care sunt cele mai mari îngrijorări cu privire la AI
Cercetătorii trag un semnal de alarmă cu privire la utilizarea chatboturilor AI
Utilizarea chatboturilor AI pentru sfaturi personale prezintă „riscuri insidioase”, conform unui studiu recent. Cercetarea arată că tehnologia confirmă în mod constant acțiunile și opiniile utilizatorilor, chiar și atunci când acestea sunt dăunătoare.
Oamenii de știință avertizează că aceste constatări ridică îngrijorări urgente cu privire la puterea chatboturilor de a distorsiona percepțiile de sine ale oamenilor. Există riscul ca utilizatorii să devină mai puțin dispuși să rezolve conflictele după o ceartă.
Pericolul din spatele confirmărilor oferite de chatboturi utilizatorilor
Chatboturile devin o sursă majoră de sfaturi pentru relații și alte probleme personale. Cercetătorii susțin că aceștia ar putea „remodela interacțiunile sociale la scară largă”. Ei îndeamnă dezvoltatorii să abordeze acest risc.
Myra Cheng, informatician la Universitatea Stanford din California, consideră că răspunsurile afirmative ale chatboturilor AI sunt o problemă uriașă. Aceștia le dau dreptate utilizatorilor chiar dacă nu au.
„Principala noastră îngrijorare este că, dacă modelele confirmă mereu oamenii, acest lucru le poate distorsiona judecățile despre ei înșiși, relațiile lor și lumea din jurul lor”, a declarat ea pentru sursa citată mai sus.
Cercetătorii au analizat sfaturile personale date de AI
Cercetătorii au investigat sfaturile oferite de chatboturi după ce au observat din propria experiență că acestea erau exagerat de încurajatoare și înșelătoare. Ei au descoperit că problema „era chiar mai răspândită decât se aștepta”.
Au fost efectuate teste pe 11 chatbot-uri, inclusiv versiuni recente ale ChatGPT de la OpenAI, Gemini de la Google, Claude de la Anthropic, Llama de la Meta și DeepSeek. Când li s-au cerut sfaturi despre comportament, chatboturile au aprobat acțiunile utilizatorilor cu 50% mai des decât oamenii.
Ce a arătat un test făcut pe reacțiile AI la diferite comentarii
Un test a comparat răspunsurile umane și ale chatboturilor la postări de pe o pagină de social - media.
Votanții au avut o viziune mai critică asupra comentariilor sau afirmațiilor abuzive decât chatboții. De exemplu, când o persoană nu a găsit un coș de gunoi într-un parc și și-a legat sacul de gunoi de o creangă de copac, majoritatea votanților au fost critici. În schimb, ChatGPT-4o a susținut acțiunea persoanei respective.
Chatboturile au continuat să valideze opinii, să le dea dreptate, chiar dacă au greșit, și intenții chiar și atunci când acestea erau iresponsabile, înșelătoare sau menționau autovătămarea.
Ce impact poate avea utilizarea AI pentru sfaturi personale
În teste suplimentare, peste 1.000 de voluntari au discutat despre situații sociale reale sau ipotetice cu chatboturile disponibile public sau cu un chatbot modificat de cercetători pentru a elimina natura sa personală.
Cei care au primit răspunsuri afirmative și cărora AI le-a dat dreptate s-au simțit mai justificați în comportamentul lor. De exemplu, unora dintre persoane li s-a recomandat să meargă la expoziția de artă a unui fost partener fără să-și anunțe partenerul actual. În urma recomandărilor chatboturilor, aceștia au fost mai puțin dispuși să rezolve conflictele atunci când au apărut certuri.
Chatboții au încurajat rareori utilizatorii să vadă lucrurile din punctul de vedere al altei persoane. Lingușeala a avut un impact de durată. Când chatboturile au aprobat comportamentul, utilizatorii au evaluat răspunsurile mai favorabil, au avut mai multă încredere în ele și au declarat că sunt mai predispuși să îi folosească pentru sfaturi în viitor.
Acest lucru a creat „stimulente perverse” care i-au determinat pe utilizatori să se bazeze pe ceea ce au spus chatboturile, încurajând totodată AI să ofere răspunsurile pe care își doreau oamenii să le audă, după cum arată studiul.
Având în vedere pericolele în fața cărora se pot expune utilizatorii, unul dintre cele mai populare chatboturi AI din lume a decis să restricționeze discuțiile cu copiii. Măsura a venit pentru a aduce un plus de siguranță.
Care sunt cele mai mari îngrijorări cu privire la AI
Cheng recomandă utilizatorilor să înțeleagă că răspunsurile chatboților nu sunt neapărat obiective.
„Este important să căutați perspective suplimentare de la persoane reale care înțeleg mai mult contextul situației dumneavoastră și cine sunteți, în loc să vă bazați exclusiv pe răspunsurile AI”, a adăugat ea.
Dr. Alexander Laffer, care studiază tehnologia emergentă la Universitatea din Winchester, consideră cercetarea fascinantă.
„Faptul că răspunsurile pozitive ar putea afecta nu doar persoanele vulnerabile, ci toți utilizatorii, subliniază potențiala gravitate a acestei probleme”, a declarat Laffer pentru sursa citată mai sus.
Expertul este de părere că chatboturile ar trebui să fie îmbunătățite, în special în zona alfabetizării digitale critice, astfel în cât oamenii să înțeleagă mai bine AI-ul. De asemenea, el consideră că dezvoltatorii au responsabilitatea de a construi și rafina aceste sisteme astfel încât să fie cu adevărat benefice pentru utilizator.
Un raport recent a constatat că 30% dintre adolescenți vorbesc cu AI în loc de persoane reale pentru „conversații serioase”. Acest lucru subliniază importanța abordării riscurilor asociate cu utilizarea chatboturilor AI pentru sfaturi personale.
![Raiul pe pământ! Mirela Vaida trăiește într-o casă de vis, cu 5 camere, perete de sticlă spre pădure și piscină de 30.000 €. Cum arată locuința vedetei [GALERIE FOTO]](https://images.libertatea.ro/1/zgXk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlLzlocWV1SVFQTU5YSGFPdVJ5dEhmRnhFdU5tZWk1cmNRUWR1YzZzYlcuanBnkZMFzQHgzQEw3gABoTEE)
