Avertisment: „Momentul Inteligenței Artificiale seamănă cu momentul în care am interzis clonarea umană”
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Albert-Laszlo Barabasi, om de știință maghiar născut în România și ajuns la Harvard, explică într-un interviu pentru Libertatea care sunt preocupările experților internaționali cu privire la dezvoltarea ChatGPT.
Cuprins:
Albert-Laszlo Barabasi, 56 de ani, și-a dedicat întreaga carieră studiului rețelelor, fie că sunt cele informatice sau legăturile dintre celulele umane. Cercetările sale au implicări în diverse domenii, de la medicină și farmacie la politici publice și securitate.
Originar din Miercurea Ciuc și plecat din țară în 1989, Barabasi împreună cu echipa de cercetători cu care colaborează în Boston, SUA, a lucrat la unul dintre modelele algoritmului prin care se răspândesc virusurile în timpul pandemiei. „Sunt destul de sigur că următorul virus care va veni va fi precum COVID”, crede omul de știință.
Pe 6 mai, la Muzeul Județean Mureș, din Târgu Mureș, a fost vernisată și o expoziție care a transformat în opere de artă studiile sale științifice, eveniment la care a fost prezentă și Libertatea. Cercetătorul a povestit atunci cum a fost copilăria sa în România comunistă, ce a însemnat să fie imigrant în SUA în anii ‘90 și ce spune știința despre cum poate fi obținut succesul, temă pe care a studiat-o și a pus-o într-o carte.
ChatGPT, între „îl folosesc zilnic” și „cam prost”
Libertatea: Sunteți îngrijorat în vreun fel de chatul GPT? Pentru că au existat mari oameni de știință sau gânditori ai lumii care s-au opus dezvoltării acestuia.
Albert-Laszlo Barabasi: În primul rând, trebuie să spun că îl folosesc zilnic. Deci, pe de o parte, sunt un mare fan, deoarece este un instrument care îmbunătățește cu adevărat productivitatea în moduri pe care înainte le credeam de neimaginat.
În același timp, cred că este cam prost. Am avut întâi verificarea ortografică, apoi am avut verificarea gramaticii. Acum avem un ChatGPT care oferă și o verificare a stilului și are și o unealtă de căutare.
Așa că, pe de o parte, este fabulos că o avem. Anumite procese, chiar și pentru mine, sunt mult mai ușoare datorită acestui lucru. Nu sunt deloc îngrijorat de ChatGPT. Ceea ce mă îngrijorează pe mine și pe alții este ceea ce urmează.
- Ce urmează?
- Max Tegmark (profesor suedez la MIT, președinte al institutului Future of Life, n.red.) îmi este prieten. El este cel care a inițiat acea scrisoare în care a cerut să se stopeze anumite procese de cercetare în IA timp de șase luni.
Îi înțeleg perfect argumentele. El nu spune să nu mai facem cercetări în acest sens. El spune că, de fapt, trebuie să facem mai multă cercetare ca să înțelegem unde ar putea duce această descoperire.
Există un precedent în știință. În anii ’60, când a devenit disponibil primul așa-numit ADN recombinat, acesta ne-a permis pentru prima dată să inserăm gena unui organism în altul, gena umană într-o broască, dacă vreți, iar asta a stârnit preocupări similare.
Atunci, biologii au adoptat un moratoriu timp de câteva luni pentru a nu mai face cercetări în acest sens până când nu vor înțelege care sunt implicațiile. Iar una dintre implicații a fost interzicerea clonării umane. Iar acum există legi în fiecare țară care interzic clonarea umană.
Există un singur caz în care s-a născut o persoană cu gene clonate, iar persoana responsabilă a făcut închisoare pentru asta. Așadar, legile au funcționat și am reușit să oprim aspectele pe care noi, ca societate, le considerăm îngrijorătoare și care nu sunt neapărat în interesul nostru.
Ce s-a întâmplat atunci?
Profesorul Barabasi face referire la cazul din 2019 al cercetătorului chinez He Jiankui, care a primit o pedeapsă de trei ani de închisoare și o amendă de 430.000 de dolari pentru că ar fi editat ADN-ul unor embrioni gemeni și apoi au început o sarcină.
El și colegii săi au recrutat cupluri în care bărbatul era seropozitiv, iar femeia nu, ca parte a unui efort de a crea embrioni cu o mutație genetică în măsură să protejeze urmașii cuplurilor de virusul HIV. Dar aproape imediat după ce He și-a anunțat cercetările și după ce s-au născut gemenele cunoscute sub numele de Lulu și Nana, comunitatea științifică mondială a catalogat fapta ca fiind lipsită de etică.
- Și ce e de făcut, domnule Barabasi?
- Ceea ce solicită Max și toți ceilalți este o conversație similară în ceea ce privește AI, nu să interzicem AI, nu să oprim AI, ci să înțelegem potențialul acesteia, să înțelegem potențialele efecte negative asupra societății și apoi să dăm societății o șansă de a o reglementa, înainte de a o dezlănțui.
„Să încercăm să evităm să ne gândim că pe vremea noastră era mai bine”
- Am fost de curând la un liceu și elevii de acolo, nativi digital, voiau să știe dacă fiind în contact tot timpul cu realitatea virtuală, vom ajunge la un punct în care nu vom mai putea distinge între realitate și realitate virtuală?
- Da, absolut. Absolut. Și sunt destul de sigur că, să zicem, într-o perioadă de cinci ani, videoclipurile pe care le urmăriți pe Facebook, veți fi singurul care le va urmări, în sensul că telefonul dvs. le va genera și Facebook va genera videoclipurile special pentru dvs. pe baza interesului dvs. personal și pe baza profilului dvs. Nimeni altcineva nu va mai vedea același videoclip. Deci, în acest sens, bula va deveni și mai densă.
- Dar acesta este un mod contrar ideii de rețea socială, pentru că fiecare dintre noi va avea o singură rețea, propria rețea. Nu devii mai izolat?
- Nu spun că este o veste bună. Mă uit și la copiii mei. Sunt ei mai puțin sociabili decât am fost eu la vârsta lor? Nu, pentru că ei comunică în mod constant cu prietenii lor, sunt în permanență în contact. Va exista mereu o generație mai în vârstă care va spune că pe vremea mea era mai bine. Așa că haideți să încercăm să evităm să ne gândim că pe vremea noastră era mai bine și să încercăm să ne gândim că aceasta este o schimbare calitativă.
- „Pe vremea noastră” nu aveam însă mai multă libertate și putere de a alege propria rețea?
- Noi nu am avut niciodată libertatea de a ne construi rețelele. Rețelele din care făceam parte erau definite de locul în care te-ai născut, de unde ai mers la școală. Cel mai bun prieten al tău este, de obicei, colegul tău de cameră din facultate sau din liceu sau persoana care stătea lângă tine în liceu și care, în mod cu totul întâmplător, nu a făcut niciodată o alegere în privința asta. Așadar, știm foarte bine că legăturile sociale nu se bazează pe alegerea pe care o facem, ci pe cantitatea de timp pe care suntem forțați să îl petrecem împreună din cauza unor influențe exterioare.
- Pare însă o distopie faptul că ajungi să trăiești o lume în care nu ai libertate, în care rețelele sociale ne vor arăta ceea ce cred că ne place.
- Deja face asta. Ai 5.000 de prieteni pe Facebook, dar probabil vezi conținut de la 100 sau 200 dintre ei. Pe restul dintre ei, Facebook nici măcar nu se obosește să ți-i arate, pentru că a decis că ceea ce postează ei nu este de interes pentru tine. Nu vei da niciodată click pe ele.
Adică, asta se întâmplă automat, prin cod. Să spunem că modul în care copiii noștri comunică este inferior celui în care am comunicat noi și este greșit. De fapt, ei sunt în permanență în contact. Fiul meu se joacă mereu online cu prietenii lui, din dormitorul lui.
Este mai rău sau mai bine? Nu sunt atât de sigur. Cu siguranță e diferit. Și ar trebui să urmărim pe termen lung fenomenul pentru a ne da seama dacă asta are vreo consecință.
„Deja din 2019 știam că există o mare problemă care vine spre noi”
- În timpul pandemiei, cred că fiecare stat a luptat cu pandemia prin diferite proceduri. Știm astăzi care funcționează?
- În laboratorul meu din Boston, Alessandro Vespignani (fizician americano-italian, n.red.) a descoperit în 2001, de fapt, cum se răspândesc virusurile în rețele complexe. Iar în următorii 20 de ani, a dezvoltat instrumente de predicție foarte puternice pentru a prezice răspândirea COVID.
Prin urmare, deja în decembrie 2019, în institutul nostru, știam că există o mare problemă care vine spre noi. Doar că, să spunem, politicul nu era pregătit să asculte. Dar cunoștințele și previziunile erau acolo cu privire la care ar putea fi efectele și scenariile potențiale.
- Deci, o puteam opri?
- Depinde de natura virusului. Nu există un singur răspuns la acest lucru. Motivul pentru care a trebuit să avem un lockdown este că am avut un tip de virus care se răspândea fără simptome.
Deci, toate celelalte virusuri pe care le-am întâlnit înainte începeau să infecteze odată ce se manifestau simptomele. Așa că existau modalități de a-l opri prin punerea în carantină a individului. Dar atunci când ai un virus invizibil și nu ai un test care să-ți permită să afli că cineva este infectat, nu ai niciun instrument pentru a-l opri pentru că nu știi cine este bolnav.
Așadar, acest răspuns la răspândirea COVID a fost specific tipului de virus cu care aveam de-a face. Următorul virus poate fi total diferit. Și poate că nu va fi vorba de un lockdown și sperăm din tot sufletul că tot ceea ce am învățat prin intermediul COVID ne va ajuta să gestionăm mai bine virusul data viitoare.
Dar, încă o dată, nu există o soluție universală. Este diferit să faci față unui virus de tip Ebola, care ucide 30% din persoanele care au fost infectate, și unuia de tipul COVID, care are o mortalitate mult mai mică și este asimptomatic.
- În cazul răspândirii știrilor false, nu poți pune în carantină un ziar, un site. După invazia Ucrainei, unele state europene au sperat că interzicând televiziunea Russia Today, știrile false din acea parte a lumii nu s-au mai răspândit. Aici ce poate fi făcut?
- Da, cu știrile false este o altă poveste. În era inteligenței artificiale, va fi mult mai ușor să le generezi. Acesta este unul dintre lucrurile pe care le-a arătat, de fapt, lucrarea anterioară a lui Alessandro Vespignani, și anume că un lockdown, blocarea răspândirii este doar răspunsul, dacă în acest timp se poate găsi un remediu. Dacă nu există un remediu, să zicem două sau trei săptămâni mai târziu, oricum va scăpa.
- În România, pandemia a avut un efect negativ asupra încrederii în vaccinuri și datele recente au arătat că părinții sunt mai puțin dispuși să își vaccineze copiii.
- Este o poveste lungă care a fost reactivată în timpul pandemiei. Este o poveste care datează din anii ’90, când Lancet (revistă americană de medicină, n.red.) a publicat o lucrare a unui cercetător care susținea că un anumit vaccin provoacă autism.
În câteva luni, a devenit clar că studiul era prea mic, că datele din concluzie erau fabricate, că persoana care a scris lucrarea chiar și-a pierdut licența. A fost prea târziu.
Până în acel moment s-a răspândit acea credință a oamenilor că vaccinul ar putea cauza autismul, chiar dacă nu există dovezi în acest sens. Este foarte interesant modul în care se formează sistemul nostru de convingeri și cât de înrădăcinat este acest lucru. Și nu știu care ar fi răspunsul simplu la asta.
CamelianPropinatiu 11.06.2023, 23:49
Apariția Inteligenței Artificiale era inevitabilă și unele țări vor progresa exploziv. Pentru politicienii altora, ea e tot atât de periculoasă precât Educația.
milli 12.06.2023, 13:44
E o utopie sa crezi ca poti sa mai opresti dezvoltarea AI-ului. Cei care vor reglementa in momentele aceastea de dezvoltare exploziva, vor pierde cursa.
User Șters 12.06.2023, 15:35
Așa ziceau și grecii un grecia antica despre papirus dau ce foloseau eu sa noteze, că o să se strice lumea din cauza că nu o sa mai tina nimeni minte ceva că o să își noteze toți. Așa ziceau oamenii la 1800+ de curentul electric. Așa se zicea și de internet acum 40 de ani. Probabil băiatul din articol ar fi speriet lumea de fiecare dată când apărea o invenție noua.