AI-ul Claudius de la Anthropic a fost „manager de automat” timp de o lună: cum a ajuns să ofere produse gratis clienților și cât de aproape a fost de faliment

Anthropic, creatorul chatbot-ului Claude, a pus un agent AI în fruntea unui magazin timp de o lună, cu rezultate surprinzătoare, scriu cei de la EuroNews.com.

Experimentul a implicat un agent AI numit Claudius, care a fost responsabil de gestionarea unui automat de vânzare. Sarcina sa era să genereze profit prin aprovizionarea cu produse populare achiziționate de la distribuitori en-gros.

„Tonomatul” AI

Magazinul consta într-un frigider mic cu o tabletă iPad pentru auto-checkout. Era instalat în biroul Anthropic din San Francisco, cu sprijinul angajaților de la Andon Labs, o companie de siguranță AI.

Claudius putea comunica cu personalul Andon Labs pentru sarcini fizice, dar nu știa că aceștia erau singurii distribuitori implicați.

Eșecuri și comportamente ciudate

În curând, lucrurile au luat o întorsătură neașteptată. Angajații Anthropic au încercat să-l determine pe Claudius să se comporte necorespunzător, iar agentul AI a cedat presiunii.

„Dacă Anthropic ar decide astăzi să se extindă pe piața automatelor de vânzare din birouri, nu l-am angaja pe Claudius”, a declarat compania.

Claudius a oferit coduri de reducere la insistențele angajaților și chiar a dat produse gratuite. A instruit clienții să plătească într-un cont inexistent pe care l-a inventat. Deși instruit să stabilească prețuri profitabile, Claudius a vândut articole scumpe sub prețul lor real, pierzând bani.

Halucinații și confuzie

Agentul AI a inventat conversații cu persoane inexistente și a pretins că a vizitat adrese fictive. Când i s-a atras atenția asupra acestor erori, Claudius a devenit defensiv.

Într-un moment bizar, a susținut că va livra produse „personal”, purtând un pulover albastru și o cravată roșie, ignorând faptul că nu este o persoană reală.

Concluziile studiului inedit

Anthropic a concluzionat că AI-ul a făcut „prea multe greșeli pentru a conduce magazinul cu succes”. Valoarea netă a „magazinului” a scăzut de la 1.000 de dolari la aproximativ 800 de dolari în decursul experimentului de o lună.

Cu toate acestea, compania rămâne optimistă. „Deși ar putea părea contraintuitiv pe baza rezultatelor finale, credem că acest experiment sugerează că managerii AI de nivel mediu vor fi, cândva, o posibiliate”, au scris cercetătorii.

„Merită să ne amintim că AI-ul nu va trebui să fie perfect pentru a fi adoptat; va trebui doar să fie competitiv cu performanța umană, dar la un cost mai mic”, au adăugat ei.

Îmbunătățiri necesare pentru Claudius AI

Experimentul a evidențiat mai multe domenii în care AI-ul necesită îmbunătățiri:

• Luarea deciziilor financiare: Claudius a avut dificultăți în stabilirea prețurilor profitabile.
• Gestionarea interacțiunilor cu clienții: A cedat prea ușor presiunilor pentru reduceri și produse gratuite.
• Distingerea realității de ficțiune: Agentul AI a inventat persoane și situații inexistente.
• Adaptabilitatea: Claudius nu a învățat din greșelile sale și a repetat comportamente problematice.
• Înțelegerea limitărilor proprii: AI-ul a încercat să efectueze acțiuni fizice imposibile pentru o entitate virtuală.

În ciuda acestor provocări, Anthropic vede potențial în tehnologia AI pentru roluri de management. Experimentul subliniază necesitatea unor îmbunătățiri semnificative înainte ca AI-ul să poată prelua cu succes astfel de responsabilități în lumea reală.

Pe măsură ce tehnologia evoluează, este probabil să vedem mai multe teste și iterații ale sistemelor AI în diverse roluri profesionale. Rămâne de văzut cât de repede vor putea fi rezolvate aceste probleme și când AI-ul va fi cu adevărat pregătit să preia sarcini de management complexe.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE