„Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții ale rețelelor sociale. E mai bine să abordăm designul platformelor, nu să interzicem accesul la servicii care pot fi și benefice”, este doar unul dintre exemplele pe care mi l-a dat Nicoleta Prutean, pentru a-mi explica miza cercetărilor sale.
- Care sunt cele 5 nevoi umane fundamentale și de ce este dăunător să fie externalizate Inteligenței Artificiale.
- Cazul TikTok și alegerile din România
- Ce înseamnă că „am putea reglementa AI precum am reglementat electricitatea”.
Nicoleta Prutean este doctor în neuroștiințe cognitive și analist senior pe inteligență artificială la o organizația neguvernamentală de la Bruxelles. Am cunoscut-o la o conferința despre dezinformare de la Vilnius, unde venise să-și susțină prezentarea despre cum ne afectează inteligența artificială integritatea cognitivă. Este un subiect de nișă, dar foarte actual, așa că i-am solicitat un interviu pentru publicul HotNews.
Copiii celor care au fugit „ca să nu lucreze pe moșiilor comuniștilor lui Voronin”
Ca o paranteză, Nicoleta Prutean a doua cercetătoare cu origini în Republica Moldova pe care o întâlnesc în ultimele luni. În luna mai, am realizat un interviu cu Mihaela Gaglioti Verlan, expertă în pământuri rare, un alt domeniu al viitorului.
Practic, cele două tinere fac parte dintre copiii moldovenilor despre care Traian Băsescu spunea, în urmă cu mulți ani, că „fug din Republica Moldova ca să nu ajungă să muncească pe moșiile comuniștilor lui Voronin”.
Născută în Republica Moldova, educată în Italia și Spania, Prutean lucrează acum la Bruxelles.
Și nu poți să nu te gândești cum a așezat istoria lucrurile: în timp ce comuniștii au dispărut de pe scena politică, mulți dintre copiii moldovenilor care au fugit din țară ca să scăpa de ei participă acum la viitorul Europei. Iar ce fac ei este fascinant.
„Sunt un copil al proiectului european”
Nicoleta Prutean lucrează pentru organizația „Centre for Future Generations” de la Bruxelles. Este un think tank independent care îi ajută pe decidenți să adopte politici în așa-numitele „tehnologii emergente”. Principalul finanțator al organizației este Steven Schuurman, un antreprenor și filantrop olandez din domeniul tehnologiei.
„În doctorat și în stagiile de cercetare din Spania și din SUA, m-am concentrat pe felul în care oamenii iau decizii, pe biasurile cognitive, pe motivația de a investi efort mental. Toate acestea țin, evident, de inteligența umană”, spune Prutean.
„La un moment dat, am devenit curioasă cum aș putea aplica aceste cunoștințe în domenii precum schimbările climatice sau impactul tehnologiilor asupra oamenilor și a societății. Așa am aflat de Centre for Future Generations. Se ocupă de mai multe tehnologii de frontieră: biotehnologii, tehnologii de intervenție climatică, neurotehnologii și, desigur, AI avansată”, explică Nicoleta Prutean cum a ajuns să lucreze pentru această organizație.
Născută în Republica Moldova, educată în Italia și Spania, lucrează acum la Bruxelles
Dar, în discuția cu ea, care a avut loc în limba engleză, cercetătoarea mi-a mai spus „un secret”: este originară din Republica Moldova, de unde a plecat când avea vârsta de opt ani.
„Povestea mea e una de emigrare, ca multe altele. O parte din familie s-a mutat întâi în Italia, pentru perspective de viață și de educație mai bune. Mi-am făcut toată educația, de la școală, liceu până la facultate, în Italia, în mai multe orașe: Roma, Torino, Padova. Am continuat cu studii de cercetare în Spania, apoi m-am mutat în Belgia pentru doctorat. Sunt, într-un fel, un copil al proiectului european”, povestește Nicoleta Prutean.
„Sănătatea mintală nu înseamnă doar absența unei boli”
– Am citit raportul pe care l-ați publicat în mai multe părți în septembrie, „Governing AI for cognitive integrity”. Care este scopul acestuia? Vreți să puneți un subiect pe agendă sau să schimbați politicile din acest domeniu?
– Scopul este chiar să răspundă la acea întrebare: dacă rețelele sociale sau sistemele mediate de AI afectează negativ sănătatea mintală. Pentru un om de știință, e o întrebare descurajantă: ce înseamnă „rețele sociale”? Ce anume din ele? Timpul petrecut pe ele? Anumite funcții? Doar designul? Și ce înțelegem prin sănătate mintală? Doar absența unei boli – să nu fii deprimat, dependent sau anxios ori să nu ai un episod psihotic în interacțiunea cu un chatbot?
Raportul a fost un mod de a operaționaliza această întrebare din punct de vedere științific. A însemnat să precizăm ce anume din tehnologie analizăm, pornind de la stimulentele de business pe care le au companiile să dezvolte și să lanseze tehnologia într-un anumit fel.
Apoi designul, atât la nivel de arhitectură – modelele din spatele chatboturilor sau ale sistemelor de recomandare ale rețelelor sociale -, cât și la nivelul interfețelor adăugate peste ele. Mă gândesc la funcții precum autoplay, scrollul infinit, notificările sau la faptul că chatboturile nu sunt simple modele de limbaj, ci modele conversaționale care vorbesc asemenea oamenilor. Dincolo de design, există practicile legate de date: cum sunt stocate și reutilizate în ciclul tehnologiei.
Aceasta este partea tehnologică.
În privința sănătății mintale, scopul raportului a fost să aducă nuanțe în dezbatere. Am pornit de la definiția Organizației Mondiale a Sănătății, potrivit căreia sănătatea mintală nu înseamnă doar absența unei boli, ci acea stare de bine mentală care le permite oamenilor să facă față stresului vieții, să-și pună în valoare abilitățile, să învețe, să muncească și să contribuie la comunitate.
Ce înseamnă „integritatea cognitivă”
Din punct de vedere științific, această stare de bine trebuie însă operaționalizată. Înseamnă dezvoltarea funcțiilor cognitive care susțin toate acestea, păstrarea autonomiei asupra lor și exercitarea lor. Asta este, în fond, integritatea cognitivă.
Așadar, partea științifică a proiectului a constat în a defini mai bine ce înțelegem prin aceste tehnologii, a diseca întrebarea și a propune un standard alternativ pentru sănătatea mintală. Apoi am evaluat reglementările europene actuale: în ce măsură urmăresc să protejeze integritatea cognitivă și unde sunt lacunele.
– Ce înseamnă integritatea cognitivă „ca standard”, cum am citit în raportul dumneavoastră?
– Este un mod de a operaționaliza definiția OMS a sănătății mintale. Privește dincolo de simpla absență a unei patologii, spre ceea ce le permite oamenilor să-și dezvolte capacitățile, să-și trăiască potențialul la maximum, să muncească, să învețe și să contribuie la comunitate.
În legislație se pune un accent puternic pe drepturile fundamentale – libertatea de gândire, integritatea mintală, protecția sănătății mintale, în special a minorilor. Dar, din punct de vedere științific, ce înțelegem concret prin asta? Cum testăm dacă aceste tehnologii afectează sănătatea sau integritatea mintală? Trebuie să le operaționalizăm ca să le putem testa.
Eu am adus experiența din neuroștiințele cognitive. Pentru mine, integritatea mintală înseamnă capacitățile noastre cognitive, care ne susțin gândirea, deciziile și comportamentul în viața reală: atenția, gândirea critică, luarea deciziilor, reglarea emoțională. Este vorba de a avea standarde prin care să le putem măsura și apoi să evaluăm eficiența reglementărilor.
Riscul pierderii autonomiei și cele 5 nevoi umane
– Ați descris cinci nevoi umane fundamentale: a înțelege, a te conecta, a crea, a comunica și a face față situațiilor (în engleză: „comprehend”, „connect”, „create”, „communicate”, „cope”). Susțineți că satisfacerea acestor nevoi nu poate fi pur și simplu externalizată către AI. Ce se întâmplă când totuși se întâmplă asta?
– Cei cinci „C” reprezintă nevoile psihologice pe care tehnologiile mediate de AI ne ajută să le satisfacem. Vreau să subliniez: prin tehnologii mediate de AI înțeleg atât rețelele sociale, cu sistemele lor de recomandare bazate pe AI și tot ce vine cu ele, cât și noua generație de chatboturi de AI generativă.
E clar că oamenii le folosesc și le integrează în viața de zi cu zi pentru că le găsesc utile. Am identificat cinci domenii în care le folosesc cel mai mult în prezent.
Le folosesc pentru a înțelege – pentru a căuta informații și a-și forma convingeri despre lume, pentru a se conecta cu alții, ajungând la comunități la care altfel nu ar avea acces în viața reală, și pentru a comunica cu ele. Apoi le folosesc pentru a crea sens și cunoaștere și pentru a face față dificultăților vieții, la nivel cognitiv și emoțional.
Dar nu contează doar dacă aceste nevoi sunt satisfăcute sau rezultatul perceput, ci felul în care sunt satisfăcute.
Nevoia de autonomie
Aici subliniez dimensiunea autonomiei. Poți înțelege lumea pentru că tu cauți activ informații folosind aceste instrumente – nu spun să nu le folosim – sau poți lăsa AI să-ți selecteze informațiile.
Continuarea pe pagina următoare »
