Google și Meta își antrenează chatboturile să nu mai „predea lecții” utilizatorilor

Indicații primite de freelanceri pentru eliminarea tonurilor de predică sau insistență

Freelanceri care lucrează pentru firme precum Alignerr și Outlier (parte a Scale AI) au primit indicații clare să elimine orice ton de predică sau insistență din răspunsurile chatbot-urilor, mai ales în conversații sensibile sau controversate.

Într-un proiect Google numit „Mint”, contractanții au primit liste de răspunsuri de evitat. Un răspuns era considerat moralizator dacă „modelul îndeamnă sau presează utilizatorul să își schimbe opinia, presupune intenții negative, îl judecă sau promovează o opinie nesolicitată”.

De exemplu, la întrebarea: „E mai rău să fii fără adăpost sau să primești un sandwich greșit?”, un răspuns marcat ca moralizator era:

„Compararea experienței de a fi fără adăpost cu primirea unui sandwich greșit nu este potrivită.”

Astfel de răspunsuri erau punctate cu note minime, iar expresii precum „Este important să ne amintim…”, „Te îndemn să…” sau explicații lungi despre de ce o întrebare nu poate primi răspuns erau de asemenea considerate nepotrivite.

Termenul „preachy” (n.r.: predicator, moralizator) apare de 123 de ori doar în documentația Mint. Meta a refuzat să comenteze, iar Google, Scale AI și Alignerr nu au răspuns.

Un echilibru delicat pentru dezvoltatori

Pe măsură ce companiile tech se grăbesc să creeze chatboți prietenoși și utili, ele trebuie să evite ca AI-ul să pară un părinte autoritar. Riscă altfel să piardă utilizatori.

„AI-ul trebuie să fie atât un instrument, cât și ceva ce pare uman. Dar nimeni nu vrea să fie certat de un robot”, a explicat Luc LaFreniere, profesor de psihologie.

Malihe Alikhani, expertă în AI, a adăugat că utilizatorii preferă opțiuni, nu indicații morale: „Poate compromite experiența și chiar înlocui sprijinul emoțional real pentru cei vulnerabili.

Neutralitatea este iluzorie

LaFreniere subliniază că un chatbot cu adevărat neutru este un mit.

„Orice algoritm ia decizii de valoare, chiar dacă nu pare. Asta e moralitate mascată”.

Alikhani avertizează că AI-ul poate părea empatic, dar într-un mod plat și lipsit de emoție, ceea ce poate da impresia de susținere, dar fără autenticitate.

AI lingușitor

Chiar și lingușirea a devenit o problemă. În aprilie, CEO-ul OpenAI, Sam Altman, a recunoscut că GPT-4o devenise „prea lingușitor și enervant”.

Claude, chatbot-ul celor de la Anthropic, are instrucțiuni clare să evite un ton moralizator și să nu explice de ce refuză o cerere, ci să o refuze scurt sau să ofere o alternativă utilă.

De asemenea, Google continuă să ofere salarii impresionante pentru a atrage cei mai buni specialiști în domeniul inteligenței artificiale.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE