Premieră în UE: amenda primită de părinții unui copil care a generat imagini cu colegele sale dezbrăcate

Amendă de 2.000 de euro primită într-un caz de deepfake cu imagini generate de AI

Agenția Spaniolă pentru Protecția Datelor (AEPD) a impus o amendă de 2.000 de euro, redusă la 1.200 de euro pentru plata promptă, creatorului și distribuitorului de imagini artificiale cu corpuri nude.

Această tehnică, cunoscută sub numele de deepfake, implică utilizarea inteligenței artificiale (IA) pentru a suprapune fața victimei pe imaginea unei alte persoane nude. Este prima dată când se aplică o amendă în Spania pentru distribuirea de imagini ale unei persoane private, modificate prin IA, potrivit El Pais și El Diario.

Decizia AEPD, publicată pe 27 octombrie, nu oferă detalii specifice despre victime, dar se referă la reglementări legate de minori. Potrivit presei spaniole, cronologia cazului coincide cu scandalul din septembrie 2023, când imagini false cu nuduri create cu IA ale cel puțin 20 de fete minore din Almendralejo, Badajoz, au fost distribuite.

Un copil din Spania a general cu AI imagini cu colegele sale dezbrăcate

La începutul anului școlar 2023-2024, în Almendralejo, un oraș cu 30.000 de locuitori, au început să circule fotografii cu mai multe fete dezbrăcate, în mediul online. În urma cercetărilor, s-a stabilit că imaginile nu erau reale, fuseseră generate cu AI.

O altă persoană ar fi folosit aplicația ClothOff pentru a plasa fețele lor pe imagini cu corpurile altor tinere dezbrăcate. Aceste deepfake-uri s-au răspândit rapid pe rețelele sociale și au fost încărcate „pe portaluri precum Only Fans și diverse site-uri pornografice”, după cum relatează presa din Spania.

Sancțiunea dată recent de către AEPD pedepsește distribuirea neautorizată a datelor personale, cum ar fi fotografiile persoanelor în cauză. Specific, se menționează că tratamentul datelor personale ale unui terț a fost ilegal.

Cum a început ancheta în cazul imaginilor generate cu AI

Conform documentului, fosta directoare a AEPD, Mar España, a decis să inițieze investigații preliminare pe 20 septembrie 2023, la două zile după ce presa a dezvăluit cazul. Pe 2 octombrie, o persoană privată a depus la AEPD reclamația care a dus la sancțiune.

„Trebuie reamintit (…) că persoanele au puterea de a dispune de datele lor personale, inclusiv de imaginea lor, precum și de difuzarea acestora, fiind, fără îndoială, demnă de protecție persoana ale cărei date personale sunt capturate și difuzate încălcând ordinea juridică”, se arată în rezoluția celor de la AEPD.

Părinții minorului au plătit amenda de 1.200 de euro

Procesul de sancționare al AEPD a fost deschis împotriva minorului care a distribuit fotografiile, deși notificarea a fost trimisă părinților săi, în calitate de reprezentanți legali. Părinții au ales să achite prompt sancțiunea, astfel să au beneficiat de reducere.

Documentul menționează, de asemenea, că unul dintre părinți a plătit amenda de 1.200 de euro în aprilie. Aplicația folosită pentru realizarea montajului (ClothOff), precum și platformele prin care a fost distribuit, sunt exonerate de responsabilități în rezoluția AEPD.

Primul caz de deepfake sancționat de AEPD

Aceasta este prima sancțiune emisă de o autoritate de protecție a datelor din Uniunea Europeană pentru distribuirea unui deepfake. Unii experți consideră că suma amenzii (2.000 de euro, reducibilă la 1.200) este foarte mică, având în vedere amploarea daunelor.

„Foarte puține riscuri legate de IA provoacă atâta alarmă socială precum crearea de deepfake-uri sexuale neconsimțite ale minorilor. Nu spun că impunerea unei amenzi de un milion de euro în acest caz ar rezolva problema, dar cineva ar putea crede că o sancțiune exemplară este minimul care se poate cere în acest moment”, a precizat avocatul și delegatul pentru protecția datelor Jorge García Herrero, potrivit sursei citate mai sus.

În timp ce cazul din Almendralejo a fost tratat în principal prin sistemul de justiție penală, intervenția AEPD subliniază complexitatea acestor probleme. Experții trag un semnal de alarmă asupra necesității unei abordări multidisciplinare pentru a proteja drepturile și demnitatea indivizilor în fața eventualelor pericole cauzate de utilizarea inteligenței artificiale în astfel de scopuri.

Danemarca este prima țară din Europa care a oferit cetățenilor dreptul legal asupra propriei persoane, prin care să se poată proteja de imaginile sau înregistrările generate cuv AI.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE