Chatbot acuzat de moartea unui adolescent de 14 ani, în SUA. Apărarea Google și Character.AI
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Sewell, un adolescent de 14 ani, și-a pus capăt zilelor după ce a interacționat cu un chatbot AI. Mama lui acuză Google și compania Character Technologies (Character.AI) pentru crearea chatbotului care i-a determinat fiul să se omoare, arată documentele judecătorești consultate de Bloomberg.
Cuprins:
„Experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”
Într-o chemare în judecată de 116 pagini, intentată pe 23 octombrie anul trecut la o instanță federală din Orlando, Megan Garcia afirmă că fiul ei a dezvoltat o „relație emoțională” cu un chatbot care imita personajul Daenerys Targaryen din serialul „Game of Thrones” (interpretat în film de actrița Emilia Clarke).
Conform plângerii, interacțiunea, care a început în aprilie 2023, a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” pentru adolescent, care s-a îndrăgostit de o femeie inexistentă.
Femeia susține că fiul ei și-a schimbat rapid comportamentul și s-a izolat de prieteni din cauza utilizării frecvente a chatbotului.
Și-a luat viața cu arma tatălui
Megan Garcia a susținut că i-a luat telefonul fiului ei, în februarie 2024. Ulterior,. băiatul s-a împușcat în cap, după ce ar fi reprimit iPhone-ul și a reînceput discuțiile cu botul Daenerys.
Adolescentul a descoperit pistolul tatălui său vitreg, „depozitat în condiții legale”, cu cinci zile înainte de incident. Garcia insistă că „sfaturile primite l-au determinat să se sinucidă”.
Ar mai fi în viață astăzi dacă nu ar fi fost un chatbot care să-l îndemne să-și ia viața.
„Google a contribuit cu resurse financiare, personal și tehnologie”
- Character.AI le permite utilizatorilor să construiască chatboturi care imită personalitățile culturii populare.
„Google a contribuit cu resurse financiare, personal, proprietate intelectuală și tehnologie AI la proiectarea și dezvoltarea chatbotului Character.AI”, au spus avocații lui Megan Garcia.
Atât Google, cât și Character Technologies, dezvoltatorul chatbotului, neagă acuzațiile.
Ambele companii „s-au asigurat că tehnologia chatbot este sigură pentru utilizatorii tineri”, argumentând că nu există „nicio bază legală pentru a-i acuza de fapte greșite”.
Character Technologies a susținut că discuțiile dintre chatboturile platformei Character.AI și utilizatori au fost protejate de primul amendament al Constituției SUA ca libertate de exprimare.
De asemenea, compania a susținut că robotul l-a descurajat în mod explicit pe adolescent să se sinucidă.
Start-upul a implementat noi măsuri de siguranță pentru utilizatori în ultimul an, a mai raportat Bloomberg.
În SUA nu există în prezent o lege care să protejeze utilizatorii de potențialele daune cauzate de interacțiunea cu chatboturi bazate pe AI.
Cere ca dezvoltatorul să indice că produsul nu poate fi utilizat de minori
Pentru a deschide un proces împotriva Google, Garcia va trebui să demonstreze că gigantul tech controla Character.AI.
De asemenea, ea cere ca dezvoltatorii platformei să fie obligați să indice că produsul lor nu poate fi utilizat de minori și să limiteze colectarea de date.
***
*Telverde Antisuicid: Pentru consiliere în situaţii de criză suicidară puteţi contacta Alianţa Română de Prevenţie a Suicidului, între orele 19.00 și 7.00, la numărul de telefon 0800 801 200 (apelabil gratuit la nivel naţional din orice reţea) sau oricând prin e-mail la sos@antisuicid.ro.
*Helpline DepreHUB: Pentru sprijin și prim ajutor psihologic puteți contacta hubul antidepresie, primul de acest fel din România, la numărul de telefon 037 445 6420 (apelabil gratuit la nivel național din orice rețea). Linia este deschisă nonstop.
În cazul în care simțiți că sinuciderea este iminentă, apelați de urgență 112.
![Raiul pe pământ! Mirela Vaida trăiește într-o casă de vis, cu 5 camere, perete de sticlă spre pădure și piscină de 30.000 €. Cum arată locuința vedetei [GALERIE FOTO]](https://images.libertatea.ro/1/zgXk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlLzlocWV1SVFQTU5YSGFPdVJ5dEhmRnhFdU5tZWk1cmNRUWR1YzZzYlcuanBnkZMFzQHgzQEw3gABoTEE)
