China reglementează interacțiunea inteligenței artificiale cu oamenii. Companiile trebuie să prevină dependența emoțională și riscurile psihologice

Această măsură subliniază eforturile Beijingului de a modela lansarea rapidă a AI destinată consumatorilor prin consolidarea cerințelor de siguranță și etică.

Normele propuse s-ar aplica produselor și serviciilor de AI oferite publicului în China, care prezintă trăsături de personalitate, modele de gândire și stiluri de comunicare simulate ale oamenilor și interacționează emoțional cu utilizatorii prin text, imagini, audio, video sau alte mijloace.

Fără utilizare excesivă

Proiectul prezintă o abordare de reglementare care ar obliga furnizorii să avertizeze utilizatorii cu privire la folosirea excesivă și să intervină atunci când utilizatorii dau semne de dependență.

Conform propunerii, furnizorii de servicii ar fi obligați să își asume responsabilități în materie de siguranță pe tot parcursul ciclului de viață al produsului și să stabilească sisteme de revizuire a algoritmilor, de securitate a datelor și de protecție a informațiilor personale.

Riscuri psihologice

Proiectul vizează, de asemenea, potențialele riscuri psihologice.

Furnizorii ar trebui să identifice starea utilizatorilor și să evalueze emoțiile acestora, precum și nivelul lor de dependență de serviciu. Dacă se constată că utilizatorii manifestă emoții extreme sau un comportament de dependență, furnizorii ar trebui să ia măsurile necesare pentru a interveni, se arată în proiect.

Fără zvonuri, obscenități și violență

Măsurile stabilesc limite în ceea ce privește conținutul și comportamentul, precizând că serviciile nu trebuie să genereze conținut care pune în pericol securitatea națională, răspândește zvonuri sau promovează violența sau obscenitatea.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE