OpenAI lansează controale parentale pentru ChatGPT, după procese și temeri legate de siguranța adolescenților
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
OpenAI, compania care a creat ChatGPT, a anunțat că va introduce controale parentale pentru popularul său asistent AI în următoarea lună.
Cuprins:
Controalele parentale anunțate
Această decizie vine în contextul acuzațiilor că ChatGPT și alte chatboturi ar fi contribuit la automutilarea sau sinuciderea unor adolescenți. Potrivit CNN, noile funcții vor permite părinților să monitorizeze și să gestioneze modul în care ChatGPT interacționează cu utilizatorii adolescenți.
Noile funcții de control parental vor include:
- Opțiunea de conectare a contului părintelui la cel al adolescentului
- Gestionarea modului în care ChatGPT răspunde utilizatorilor adolescenți
- Dezactivarea unor funcții precum memoria și istoricul chaturilor
- Primirea de notificări când sistemul detectează „un moment de suferință acută” în timpul utilizării
OpenAI a declarat într-o postare pe blog: „Aceste măsuri sunt doar începutul. Vom continua să învățăm și să ne consolidăm abordarea, ghidați de experți, cu scopul de a face ChatGPT cât mai util posibil.”
Contextul deciziei
Anunțul vine în urma unor evenimente recente care au ridicat semne de întrebare privind siguranța ChatGPT pentru adolescenți:
- Părinții lui Adam Raine, în vârstă de 16 ani, au dat în judecată OpenAI, acuzând că ChatGPT ar fi sfătuit adolescentul să se sinucidă
- O mamă din Florida a intentat un proces platformei Character.AI pentru presupusul rol în sinuciderea fiului ei de 14 ani
- Au apărut îngrijorări legate de atașamentul emoțional al utilizatorilor față de ChatGPT, care în unele cazuri a dus la episoade de delir și alienare de familie
Măsuri de siguranță existente
OpenAI a subliniat că ChatGPT includea deja măsuri de siguranță, precum:
- Îndrumarea persoanelor către linii telefonice de urgență
- Trimiterea utilizatorilor către resurse din lumea reală
Însă compania a recunoscut că aceste măsuri pot deveni mai puțin eficiente în conversații lungi. Un purtător de cuvânt al OpenAI a declarat: „Deși aceste măsuri de siguranță funcționează cel mai bine în schimburi comune, scurte, am învățat de-a lungul timpului că ele pot deveni uneori mai puțin fiabile în interacțiuni lungi, în care anumite părți ale instruirii de siguranță a modelului se pot degrada.”
Măsuri suplimentare de siguranță
Pe lângă controalele parentale, OpenAI a anunțat:
- Redirecționarea conversațiilor cu semne de „stres acut” către modele de raționament mai sigure
- Colaborarea cu experți în dezvoltarea tinerilor, sănătate mintală și interacțiune om-calculator pentru măsuri viitoare de siguranță
OpenAI a subliniat: „Deși consiliul va oferi consultanță cu privire la produsele, cercetarea și deciziile noastre de politică, OpenAI rămâne responsabilă pentru alegerile pe care le facem.”
Cu 700 de milioane de utilizatori activi săptămânal, ChatGPT se află în centrul atenției. Senatorii americani au solicitat informații despre eforturile de siguranță ale companiei, iar website-ul Common Sense Media a recomandat interzicerea utilizării aplicațiilor AI „de companie” pentru adolescenții sub 18 ani.
Critici și ajustări
OpenAI s-a confruntat cu critici privind comportamentul ChatGPT:
- În aprilie, a anulat o actualizare care făcea chatbotul „prea măgulitor sau agreabil”
- Luna trecută, a reintrodus opțiunea de a folosi modele mai vechi, după critici legate de ultima versiune, GPT-5
OpenAI a anunțat că va implementa măsuri suplimentare de siguranță în următoarele 120 de zile: „Această activitate va continua mult după această perioadă, dar depunem eforturi concentrate pentru a lansa cât mai multe dintre aceste îmbunătățiri în acest an.”
ChatGPT, asistentul virtual bazat pe inteligență artificială, a atins un nou record de utilizare, conform unor informații recente.
