Companiile din domeniul internetului își doresc cu nerăbdare să eradicheze propaganda violentă de pe site-urile lor de internet.
Tehnologia a fost inițial dezvoltată pentru identificarea și îndepărtarea conținutului protejat de drepturile de autor de pe platformele video. Sistemul tehnologic dezvoltat caută acele ”hashes”, un tip de amprentă digitală unică pe care companiile de internet o alocă automat anumitor videoclipuri, permițând astfel întreg conținutului video care este similar amprentelor alocate să fie îndepărtate rapid. Un astfel de sistem va identifica încercările de repostare a conținutului video care deja a fost identificat ca fiind inacceptabil, însă nu va putea bloca automat videoclipuri care nu au mai fost vizualizate anterior.
Companiile tehnologice nu vor confirma că folosesc această tehnologie și nu vor explica cum va fi pusă aceasta în aplicare, însă numeroase persoane apropiate acestui proiect au declarat că videoclipurile postate pot fi verificate într-o bază de date a conținutului video interzis pentru identificarea noilor mesaje postate care ar indica o decapitare sau o prelegere care incită la violență, conform agenției Reuters.
La sfârșitul lunii aprilie, în acest an, pe fondul presiunii exercitate de președintele american Barack Obama și de alți lideri europeni îngrijorați de radicalizarea discursului online, mai multe companii din domeniul internetului, printre care YouTube, Twitter, Facebook și CloudFare, au discutat pe marginea mai multor opțiuni de blocare a discursului extremist, inclusiv de creare a unui sistem de blocare a conținutului video avansat de organizația nonguvernamentală Proiectul de Combatere a Extremismului.
”Este puțin diferit decât dreptul de proprietate intelectuală sau pornografia infantilă, unde lucrurile sunt foarte clar stabilite în afara legii”, a spus Seamus Hughes, director adjunct al programului dedicat extremismului de la Universitatea George Washington din SUA. ”Conținutul extremist se află pe un spectru”, adaugă Hughes, ”iar companii diferite din domeniul internetului trasează linia de demarcație a extremismului în zone diferite”.
Companiile care deja folosesc această tehnologie nu discută public despre acest lucru, potrivit celor două surse apropiate proiectului, pentru că există o anumită temere că teroriștii ar putea învăța cum să manipuleze sistemele lor sau că regimuri represive ar putea insista ca această tehnologie să fie folosită pentru a cenzura oponenții regimului, conform Reuters.
O purtătoare de cuvânt de la Facebook a refuzat să ofere explicații punctuale pe această temă sau despre eforturile pe care cei de la Facebook le întreprind în această direcție, însă a transmis într-un comunicat că Facebook analizează împreună cu alții din industrie modalități prin care se poate acționa în comun pentru îndepărtarea conținutului care încalcă politicile sale privind combaterea terorismului. În această lună, potrivit unei surse citate de Reuters, cei de la Facebook au trimis un chestionar altor companii prin care solicitau puncte de vedere pe diferite opțiuni privind o colaborare la nivelul industriei internetului pe această chestiune. Contactați de Reuters, purtători de cuvânt ai Twitter și ai unității Google a Alphabet, ce deține YouTube, nu au dorit să comenteze pe marginea acestei chestiuni.