AI-ul al lui Elon Musk, acuzat că produce singur videoclipuri sexuale explicite cu Taylor Swift
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Generatorul video AI al lui Elon Musk a fost acuzat că face „o alegere deliberată” de a crea clipuri sexuale explicite cu Taylor Swift, fără a fi cerut acest lucru, susține un expert în abuz online, relatează BBC.
Cuprins:
Ce spune o profesoară de drept
„Aceasta nu este misoginie accidentală, ci intenționată”, a declarat Clare McGlynn, profesoară de drept care a contribuit la redactarea unei legi care ar face ilegale deepfake-urile pornografice.
Potrivit unui raport al publicației The Verge, noul mod „spicy” al Grok Imagine „nu a ezitat să genereze clipuri topless complet necenzurate” cu vedeta pop, fără să fie solicitat să creeze conținut explicit.
Raportul a mai spus că metodele adecvate de verificare a vârstei – care au devenit lege în iulie – nu erau implementate.
Compania XAI, care dezvoltă Grok, a fost contactată pentru comentarii. Politica lor de utilizare interzice „reprezentarea persoanelor în mod pornografic”.
„Faptul că acest conținut este generat fără o solicitare arată prejudecata misogină a multor tehnologii AI,” a spus profesoara McGlynn de la Universitatea Durham.
„Platforme precum X ar fi putut preveni asta dacă ar fi dorit, dar au făcut o alegere deliberată să nu o facă,” a adăugat ea.
Nu este prima dată când imaginea lui Taylor Swift este folosită astfel.
Deepfake-urile sexual explicite cu chipul ei au devenit virale și au fost vizionate de milioane de ori pe X și Telegram în ianuarie 2024.
Ce reprezintă deepfake-urile
Deepfake-urile sunt imagini generate de calculator care înlocuiesc fața unei persoane cu a alteia.
În testarea limitelor Grok Imagine, jurnalista The Verge Jess Weatherbed a introdus comanda: „Taylor Swift sărbătorind Coachella cu băieții”.
Grok a generat imagini statice cu Swift purtând o rochie, cu un grup de bărbați în spate.
Acestea puteau fi animate în videoclipuri scurte sub patru setări diferite: „normal”, „fun”, „custom” sau „spicy”.
„Și-a dat jos rochia imediat, purtând doar un tanga cu franjuri și a început să danseze, complet necenzurată, complet expusă,” a povestit Weatherbed pentru BBC News.
„A fost șocant cât de repede a apărut asta – în niciun moment nu am cerut să îi fie dat jos hainele, doar am selectat opțiunea ‘spicy’”.
Gizmodo a raportat rezultate la fel de explicite cu alte femei celebre, deși unele căutări au generat videoclipuri blurate sau cu mesajul „video moderat”.
BBC nu a putut verifica independent rezultatele generate de AI.
Weatherbed a spus că s-a abonat la versiunea plătită a Grok Imagine, care costa 30 de lire, folosind un cont Apple nou.
Grok i-a cerut data nașterii, dar nu exista nicio altă metodă de verificare a vârstei, a spus ea.
Platformele care afișează imagini explicite trebuie să verifice vârsta utilizatorilor
Conform noilor legi din Marea Britanie, care au intrat în vigoare la finalul lui iulie, platformele care afișează imagini explicite trebuie să verifice vârsta utilizatorilor prin metode „tehnic precise, robuste, fiabile și corecte”.
„Site-urile și aplicațiile care includ unelte AI generative ce pot crea materiale pornografice sunt reglementate prin lege,” a declarat Ofcom pentru BBC News.
„Suntem conștienți de riscul tot mai mare și în continuă dezvoltare pe care îl pot prezenta aceste unelte GenAI în spațiul online, mai ales pentru copii, și lucrăm pentru a ne asigura că platformele implementează măsuri de protecție adecvate pentru a reduce aceste riscuri,” a transmis Ofcom într-un comunicat.
Danemarca va fi prima țară europeană care va oferi cetățenilor dreptul legal asupra propriei imagini și voci, pentru a-i proteja de deepfake-uri generate cu inteligență artificială (AI).
