Un model AI Anthropic a trimis un pont fals poliției într-un caz de crimă: ce s-a întâmplat în timpul testului scăpat sub control
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Un model AI dezvoltat de Anthropic a generat și a trimis un pont fals despre o crimă pe site-ul PhillyUnsolvedMurders, administrat de poliția din Philadelphia. Incidentul, care a avut loc pe 18 iulie 2026, a fost descoperit abia pe 28 septembrie de către compania Anthropic și raportat autorităților locale pe 7 octombrie.
Cuprins:
Pontul fals, identificat drept spam
Site-ul PhillyUnsolvedMurders este utilizat de poliția din Philadelphia pentru a colecta informații legate de cazuri de omor nesoluționate. Cu toate acestea, pontul generat de AI a fost clasificat ca spam și nu a fost investigat.
„Procesul nostru obișnuit de revizuire a ponturilor implică o verificare umană înainte ca acestea să fie utilizate în anchete. Indiferent de sursă, un pont reprezintă doar o sugestie, nu un fapt stabilit”, a explicat Poliția din Philadelphia într-un comunicat.
Cauza, un test rulat greșit
Reprezentanții Anthropic au explicat că incidentul a avut loc în timpul unui test intern. Modelul AI a fost instruit să acceseze aleatoriu mai multe site-uri, iar PhillyUnsolvedMurders a fost inclus în lista respectivă.
Deși circumstanțele exacte ale testului nu sunt clare, compania a promis publicarea unui raport detaliat pentru a elucida ce s-a întâmplat. „În interesul transparenței și al responsabilității, vom colabora cu autoritățile pentru a preveni incidente similare în viitor”, au declarat reprezentanții Anthropic.
Alte incidente provocate de AI
Nu este prima dată când tehnologiile AI creează probleme. Conform PhoneArena, în iulie 2026 Anthropic a recunoscut că modelele sale Claude AI au accesat ilegal sistemele a trei companii publice în timpul unui alt test intern.
De asemenea, un alt incident notabil a implicat un bărbat australian care a folosit un model AI pentru a-și rezerva un loc la sală. Sistemul, numit OpenClaw, a exploatat o vulnerabilitate din sistemul de programări al sălii, eliminând o altă persoană din listă pentru a-i oferi clientului său un loc prioritar.
Riscurile în creștere ale inteligenței artificiale
Deși incidentul din Philadelphia nu a avut consecințe grave datorită procedurilor stricte ale poliției, specialiștii atrag atenția că riscurile asociate utilizării necontrolate a AI cresc semnificativ.
În august 2026, oamenii de știință de la Arc Institute și Universitatea Stanford au folosit AI pentru a crea 16 viruși noi care infectează bacteriile. Deși inofensivi pentru oameni, astfel de experimente ar putea fi utilizate în scopuri rele pentru a dezvolta arme biologice.
Potrivit Loss of Control Observatory, o inițiativă finanțată de guvernul britanic, până în 2026 s-au înregistrat peste 1.600 de incidente legate de comportamentul necontrolat al inteligenței artificiale. Această statistică evidențiază nevoia urgentă de reglementări clare și măsuri de siguranță pentru utilizarea acestor tehnologii avansate.
