Cinci reguli de bună practică pentru ca inteligența artificială „să nu sufere” dacă va atinge vreodată conștiența. „Uciderea” unui sistem AI ar putea fi comparabilă cu cea a unui animal
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Inteligența artificială capabilă de sentimente sau conștiință de sine ar putea fi în pericol dacă tehnologia este dezvoltată iresponsabil, conform unei scrisori deschise semnate de experți în AI.
Potrivit The Guardian, peste 100 de specialiști au propus cinci principii pentru cercetarea responsabilă a conștienței în AI.
Principiile propuse
Principiile includ prioritizarea cercetării pentru înțelegerea și evaluarea conștienței în sistemele AI, stabilirea unor constrângeri în dezvoltarea sistemelor AI conștiente, adoptarea unei abordări etapizate, împărtășirea descoperirilor cu publicul și evitarea declarațiilor înșelătoare sau prea încrezătoare despre crearea unor sisteme AI conștiente.
Semnatarii scrisorii includ academicieni precum Sir Anthony Finkelstein de la Universitatea din Londra și profesioniști în AI de la companii precum Amazon și WPP.
Riscurile potențiale
Cercetătorii avertizează că sistemele AI conștiente ar putea fi construite în viitorul apropiat, sau cel puțin unele care dau impresia de conștiență. „Este posibil ca un număr mare de sisteme conștiente să fie create și să sufere”, afirmă ei, adăugând că sistemele AI puternice, capabile de auto-reproducere, ar putea duce la crearea „unui număr mare de noi ființe care merită considerație morală”.
Chiar și companiile care nu intenționează să creeze sisteme conștiente vor avea nevoie de ghiduri în cazul „creării accidentale de entități conștiente”, potrivit sursei citate.
Întrebări care țin de etică și moralitate
Cercetătorii ridică întrebări despre ce ar trebui făcut cu un sistem AI dacă este definit ca „pacient moral”, adică o entitate care contează din punct de vedere moral. În acest scenariu, se pune întrebarea dacă distrugerea AI-ului în cauză ar fi comparabilă cu uciderea unui animal.
De asemenea, ei avertizează că o opinie greșită, cum că sistemele AI sunt deja conștiente, ar putea duce la o risipă de energie politică prin eforturi greșit direcționate de promovare a bunăstării lor.
Perspective
Anul trecut, un grup de academicieni de top a argumentat că există o „posibilitate realistă” ca unele sisteme AI să fie conștiente și „semnificative moral” până în 2035. Sir Demis Hassabis, șeful programului AI al Google și câștigător al Premiului Nobel, a declarat în 2023 că sistemele AI „cu siguranță” nu sunt conștiente în prezent, dar ar putea fi în viitor.
„Filosofii nu au stabilit încă o definiție a conștienței, dar dacă ne referim la cea de sine și lucruri de genul acesta, cred că există posibilitatea ca AI să fie așa într-o zi”, a spus el într-un interviu.
Cercetarea și scrisoarea au fost organizate de Conscium, o organizație de cercetare co-finanțată de WPP și cofondată de Daniel Hulme, directorul de AI al WPP. Pe măsură ce Inteligența Artificială avansează rapid, dezbaterea etică și cercetarea responsabilă devin tot mai importante pentru a preveni potențialele daune și a asigura dezvoltarea benefică a acestei tehnologii.
