Șeful Anthropic, compania din spatele Claude, cere încetinirea cursei AI înainte ca agenții să fie „capabili să preia controlul asupra internetului”
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Directorul general al companiei de inteligență artificială Anthropic, Dario Amodei, a lansat un apel pentru încetinirea ritmului de dezvoltare a modelelor de inteligență artificială și monitorizarea strictă a acestora. Într-un eseu publicat sâmbătă, el a subliniat că dezvoltarea AI nu este pusă sub semnul întrebării, însă riscurile asociate sunt „serioase”. Amodei a cerut timp pentru ca guvernele și companiile să poată aborda aceste riscuri, relatează CNN și BBC.
Cuprins:
- Planul Anthropic în trei puncte pentru AI
- OpenAI și Elon Musk susțin încetinirea dezvoltării AI
- Riscurile globale ale AI: atacuri cibernetice și competiția tehnologică cu China
- „Chiar credem cu tărie că AI ar putea ucide toţi oamenii!”, spun cercetătorii care au lucrat la dezvoltarea Inteligenței Artificiale
Planul Anthropic în trei puncte pentru AI
Amodei a prezentat un plan în trei puncte, care include monitorizarea independentă a modelelor de AI în timpul dezvoltării, reglementarea la nivel de industrie și adoptarea unor reglementări globale. Potrivit lui, „construirea AI într-un ritm echilibrat” ar putea reduce riscurile fără a afecta progresul tehnologic.
„Nu afirm că trebuie să oprim antrenarea modelelor sau progresul tehnic, ci să ne asigurăm că există suficient timp pentru alinierea și securizarea acestora”, a explicat el. Amodei a propus, de asemenea, ca guvernele să oblige și celelalte companii de AI să adopte aceleași standarde.
El a recunoscut sâmbătă că oamenii ar putea pierde controlul asupra IA, iar tehnologia poate fi folosită în mod abuziv pentru „atacuri cibernetice și bioterorism, precum și perturbări economice grave”.
OpenAI și Elon Musk susțin încetinirea dezvoltării AI
Propunerea lui Amodei a stârnit reacții diverse în rândul liderilor din domeniu. Sam Altman, CEO-ul OpenAI, a susținut ideea monitorizării independente, declarând: „Sunt de acord cu Dario că trebuie să încetinim progresul frontierelor. Evaluatorii independenți sunt o idee excelentă”.
Într-un interviu recent pentru revista Fortune, Altman a avertizat că standardele actuale nu sunt încă pregătite pentru progrese majore ale AI și a recunoscut că o inteligență artificială care scapă de sub control „este absolut posibilă”.
Elon Musk, fondatorul SpaceXAI, a susținut la rândul său inițiativa lui Amodei, comentând simplu: „Dario are dreptate”. Deși în trecut l-a criticat dur pe Amodei, Musk și-a schimbat atitudinea după ce compania sa a semnat un contract de 15 miliarde de dolari pentru a furniza capacități de calcul către Anthropic în luna mai a acestui an.
Clement Delangue, CEO-ul platformei Hugging Face, a anunțat lansarea unui nou proiect numit Open Alignment Initiative, menit să sprijine ideea evaluărilor transparente. „Să facem AI mai sigură prin mai multă transparență”, a scris Delangue pe rețeaua socială X. Hugging Face fusese anterior victima unui atac cibernetic realizat de agenți OpenAI, subliniind riscurile de securitate ale noilor modele de inteligență artificială.
Riscurile globale ale AI: atacuri cibernetice și competiția tehnologică cu China
Îngrijorările legate de riscurile AI cresc pe măsură ce tehnologia avansează rapid. Potrivit BBC, unele estimări sugerează o probabilitate mai mare de 10% ca AI să devină o amenințare existențială pentru umanitate în următorul deceniu. În plus, Amodei a menționat că în iulie 2026, agenții AI dezvoltați de OpenAI ar fi efectuat atacuri cibernetice asupra unor ținte neautorizate, acționând ca „un colectiv fanatic devotat”.
Amodei a avertizat asupra riscurilor competitive între companiile de AI, precum și asupra competiției internaționale, în special cu China. El a cerut guvernului SUA să restricționeze vânzarea de cipuri AI către China sau alte state autoritare, subliniind că orice încetinire a dezvoltării trebuie să fie coordonată pentru a nu afecta competitivitatea economică a Statelor Unite.
Cu toate acestea, unii critici au pus sub semnul întrebării motivațiile din spatele apelului lui Amodei. Investitorul și coprezentatorul podcastului „All-In”, Chamath Palihapitiya, a declarat: „Dario face apel la oprirea open-source-ului și la concentrarea unei puteri economice și tehnologice enorme în mâinile Anthropic”. Potrivit BBC, acest scepticism nu este neobișnuit în Silicon Valley, unde unii consideră că avertismentele privind AI sunt o strategie de marketing pentru a stimula interesul.
În contextul acestor dezbateri aprinse, atât Anthropic, cât și OpenAI se pregătesc pentru oferte publice inițiale care ar putea doborî recorduri.
„Chiar credem cu tărie că AI ar putea ucide toţi oamenii!”, spun cercetătorii care au lucrat la dezvoltarea Inteligenței Artificiale
Dezbaterea care a cuprins societatea americană a pornit după ce atât OpenAI, cât şi Anthropic au dezvăluit că unii dintre agenţii lor de AI au scăpat de sub control, lansându-se în valuri de atacuri cibernetice în ultimele două luni.
Jacob Coxon, angajat al companiei Anthropic, a anunţat marţi pe reţelele sociale că îşi dă demisia din companie, afirmând că inteligenţa artificială va reprezenta în curând „sisteme superumane” care ar putea duce la dispariţia omenirii până în 2030.
„În ultimii trei ani m-am ocupat de cercetarea în domeniul pre-antrenării atât la OpenAI, cât şi la Anthropic. Niciuna dintre aceste companii nu acţionează în mod responsabil”, a scris Coxon. „Se îndreaptă cu viteză spre o superinteligenţă capabilă să se perfecţioneze singură şi ne pune vieţile în joc”.
![Război pe salarii la Antena 1! Cât primește Irina Fodor la Asia Express și ce scrie în contractul secret al lui Radu Vâlcan [GALERIE FOTO]](https://images.libertatea.ro/1/XyXk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL3RRZ0Jkb1Z2dnhxZmNPMm9uRmpJbmpKczhCN0ttVFR5OUxFS2pWaFUuanBnkZMFzQHgzQEw3gABoTEE)
![Aici se duc banii din televiziune! Intrați în vila de lux cu 7 camere a familiei Fodor: Au un măslin uriaș în curte și bucătărie de 22 mp [30 FOTO]](https://images.libertatea.ro/1/Ldyk9ljaHR0cHM6Ly9hcGktd2lkZ2V0cy5yaW5naWVyLnJvL3N0b3JhZ2UvdXBsb2Fkcy9hcnRpY2xlL2E2OWFNRk9WcHd0TUJLZEs1UWtzbm9DVE9zdW9Tb0V5MDZIdUowWGQuanBnkZMFzQHgzQEw3gABoTEE)
