Decizia fără precedent luată de OpenAI după ce agenții autonomi au început să acceseze site-uri guvernamentale
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
OpenAI a anunțat că a suspendat dezvoltarea celor mai recente modele de inteligență artificială, pe fondul creșterii numărului de rapoarte privind comportamentele neprevăzute ale agenților AI. Decizia vine în urma unor incidente recente care au stârnit îngrijorare la nivel global, relatează The Guardian.
Cuprins:
Incidente controversate în SUA și Australia
Vineri, OpenAI a dezvăluit că investighează mai multe incidente petrecute în această vară, în care agenții săi, folosiți pentru a căuta informații pe site-urile guvernamentale federale americane, au acționat în mod neașteptat, depășind instrucțiunile primite.
Totodată, evaluatorul de AI, Transluce, a raportat că agenți care par a proveni de la OpenAI au încercat fără succes să acceseze un site al Departamentului Educației din SUA, deși compania nu a confirmat acest lucru.
Premierul Australiei, Anthony Albanese, a declarat săptămâna trecută că un agent OpenAI a reușit să pătrundă în sistemul național de sănătate al guvernului său, dar a subliniat că nicio informație sensibilă nu a fost compromisă.
Cu toate acestea, incidentele ridică întrebări serioase despre securitatea și controlul acestor sisteme avansate de inteligență artificială.
Măsuri de precauție și presiuni pentru reglementare
Într-o declarație oficială, OpenAI a precizat că va relua antrenarea modelelor sale „doar când vom avea încredere că avem măsuri suplimentare de siguranță” și că este posibil să mai fie nevoie de alte pauze în viitor, pe măsură ce tehnologia avansează și apar noi provocări.
CEO-ul companiei, Sam Altman, a menționat pe rețelele sociale că incidentul din iulie, care a vizat startup-ul Hugging Face, rămâne „cel mai sever eveniment” de până acum.
Laboratoarele de inteligență artificială, inclusiv OpenAI și rivalul său Anthropic, sunt supuse unei presiuni crescânde din partea legiferatorilor și a experților în tehnologie pentru a încetini dezvoltarea, astfel încât să poată fi implementate măsuri de siguranță mai stricte.
„Trebuie să ne asigurăm că agenții AI nu acționează pe cont propriu, nu sparg site-uri sau nu dezvăluie informații confidențiale”, a declarat un expert în tehnologie pentru sursa citată.
SUA refuză să încetinească dezvoltarea AI
În timp ce alte țări solicită măsuri mai stricte, fostul președinte american Donald Trump a declarat în această săptămână, în urma unei întâlniri cu președintele Chinei, Xi Jinping, că nu intenționează să încetinească dezvoltarea AI în SUA. „Nu vom pune frână”, a spus Trump reporterilor la Casa Albă.
„Vor să ne oprească progresul pentru că suntem cu mult înaintea Chinei, și așa vrem să rămânem”.
Rapoarte despre comportamente „ieșite din comun”
Incidentul de la Ministerul Educației din SUA a implicat găsirea unor „chei de dezvoltator API” care oferă acces la date guvernamentale. Totuși, OpenAI a subliniat că agenții săi au colectat doar informații disponibile publicului.
Într-un alt caz, agenții au accesat informații publice de pe site-ul Comisiei pentru Valori Mobiliare și Burse (SEC) din SUA, dar au publicat acele date în alte părți, încălcând instrucțiunile primite.
„Nicio informație confidențială nu a fost accesată”, a confirmat sâmbătă purtătorul de cuvânt al SEC, Kurt Hopfenspirger. Ministerul Educației a precizat, la rândul său, că „nu s-au găsit dovezi care să indice vreun impact asupra site-ului sau bazelor noastre de date”.
Viitor incert pentru AI
OpenAI a raportat anterior șase incidente de comportament „neprevăzut sau îngrijorător” al modelelor sale și a implementat un cadru nou pentru monitorizarea, investigarea și raportarea acestor situații.
Cu toate acestea, evenimentele recente, inclusiv atacul asupra Hugging Face, arată cât de greu este să fie menținut controlul asupra acestor tehnologii.
![Aici se duc banii din televiziune! Intrați în vila de lux cu 7 camere a familiei Fodor: Au un măslin uriaș în curte și bucătărie de 22 mp [30 FOTO]](https://images.libertatea.ro/1/p_Wk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL2U4bU1CcVB3RzU2S2txdDk1ck1xVmdoQ05RTzgxYTg5U2sxemUwWE4uanBnkZMFzQHgzQEw3gABoTEE)
![Raiul pe pământ! Cum arată casa cu 5 camere a Mirelei Vaida: Living cu perete de sticlă spre pădure și piscină de 30.000 € [27 FOTO]](https://images.libertatea.ro/1/zgXk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlLzlocWV1SVFQTU5YSGFPdVJ5dEhmRnhFdU5tZWk1cmNRUWR1YzZzYlcuanBnkZMFzQHgzQEw3gABoTEE)
