Te poți conecta cu alții pentru că ajungi activ la diferite comunități sau pentru că un algoritm te potrivește cu cineva. Poți crea folosind un chatbot ca să-ți amplifici gândirea, gândirea critică, sau poți delega complet procesul, lăsând tehnologia să-ți înlocuiască gândirea. Te poți exprima – gândiți-vă la platforma pe care ne-o oferă rețelele sociale – sau, din cauza felului în care funcționează algoritmul, poți lăsa tehnologia să amplifice anumite voci în detrimentul altora.
Și poți folosi tehnologia ca să te autoreglezi – gândiți-vă cum apelează uneori oamenii la chatboturi pentru sprijin emoțional.
„Chatbotul va adapta o versiune a lumii la nevoile tale”
Dar, dacă faci asta continuu și repetat, chatbotul va adapta o versiune a lumii la nevoile tale, fără să mai fie nevoie să te reglezi singur. Pe termen lung, riscul este ca autonomia noastră în felul în care ne satisfacem aceste nevoi să scadă.
Autonomia contează din două motive. Din punct de vedere neural, trebuie să ne implicăm activ în procesele cognitive care ne susțin comportamentul. E o chestiune de plasticitate: dacă nu ne exersăm aceste capacități, ele se atrofiază în cele din urmă.
Iar din punct de vedere psihologic, autonomia este dimensiunea centrală a unei satisfaceri reale a nevoilor noastre. Autonomia este fundamentală pentru starea noastră de bine mentală.
AI, reglementată „ca electricitatea”
– La conferința despre dezinformare de la Vilnius ați comparat felul cum Uniunea Europeană reglementează domeniul AI cu felul în care este reglementată electricitatea. Înțeleg că legislația europeană trebuie să se adapteze pentru a proteja integritatea cognitivă. Ne puteți da câteva exemple?
– Comparând inteligența artificială cu electricitatea, voiam să spun că nu există un singur act care să reglementeze electricitatea. La fel, AI Act nu este singura reglementare a inteligenței artificiale.
Tindem să ne gândim la tehnologie ca la un întreg, dar ea înseamnă, cum spuneam, o anumită dezvoltare și o anumită implementare, cu componente diferite: antrenarea modelului, practicile legate de date, designul, aplicațiile concrete.
Îmi vin în minte reglementări majore: AI Act, dar și GDPR, depsre protecția datelor personale, sau DSA (Digital Services Act), despre riscurile sistemice ale acestei tehnologii, și legislația privind protecția consumatorilor, pentru că, în cele din urmă, tehnologia ajunge la utilizatori și consumatori.
Pentru mine, reglementarea unor tehnologii transformatoare și de uz general, cum este AI, presupune o gândire integrată, în care diferite reglementări abordează diferite aspecte ale tehnologiei. Iar aplicarea lor trebuie să fie, la rândul ei, integrată, ca să vedem unde sunt lacunele, adică unde e nevoie de mai multă protecție.
– Ce părere aveți despre AI Act? Este utilă pentru cetățenii europeni?
– Aplicarea AI Act a început abia în august. Va trebui mai întâi să treacă o perioadă, ca să judecăm dacă este benefică sau nu. Cred că e prea devreme pentru o astfel de opinie. Dar, repet, nu e vorba doar de AI Act.
Cazul TikTok și alegerile din România
– Alegerile prezidențiale din România din 2024 au fost anulate din cauza unei campanii ilegale pe TikTok. Arată acest caz limitele legislației europene, precum Digital Services Act?
– Da, îmi amintesc. Pot să-mi exprim o opinie. Din ce am înțeles, a fost un amestec de lucruri: ingerințe externe, finanțare nedeclarată a campaniei sau încălcări ale legii electorale, manipulare algoritmică și responsabilitatea platformelor. DSA acoperă partea de responsabilitate a platformelor.
Bănuiesc că vă referiți la faptul că procedurile în acest caz sunt încă deschise, fără o soluție finală. Unii europarlamentari protestează că procesul e prea lent. Cred că motivul ține de felul în care DSA abordează riscurile sistemice.
Legea le cere platformelor să evalueze riscurile sistemice pe care le reprezintă pentru domenii largi de impact social: amenințări la adresa discursului civic sau a alegerilor, dar și sănătatea publică, diseminarea conținutului ilegal și efectele negative asupra drepturilor fundamentale.
Sunt domenii foarte largi, așa că definiția riscului sistemic a rămas destul de vagă. Scopul a fost echilibrarea flexibilității cu supravegherea: definiția e lăsată deschisă interpretării, pentru ca legea să rămână adecvată pe măsură ce tehnologiile – și, deci, impactul lor – evoluează. Asta creează, desigur, probleme, pentru că există ambiguitate, dar are și avantajul că permite interpretarea.
Provocarea este că, atunci când Comisia deschide o procedură, vine cu anumite dovezi, iar compania trebuie să răspundă cu alte dovezi. E un proces care poate dura mult.
Riscul sistemic e lăsat oarecum nedefinit: compania îl operaționalizează așa cum consideră pertinent, iar Comisia acceptă sau nu. În sine, asta face parte, într-un fel, din procesul democratic de evaluare. Dar înseamnă și că această flexibilitate poate fi folosită ca armă pentru a tărăgăna procesul.
Ideea centrală este că e un efect secundar. În sine, nu e rău. Așa a fost concepută legea, ca să rămână flexibilă – acesta e tot rostul ei. Dar poate avea efecte secundare.
Interdicția rețelelor sociale pentru copii: „Oare abordăm problema reală?”
– Ați menționat interzicerea rețelelor sociale pentru adolescenți. Ce părere aveți despre exemplul Australiei și despre ce vrea să facă Comisia Europeană în acest domeniu?
– Am mai multe opinii. Primul ține de dovezile din Australia, unde există o interdicție clară: copiilor sub 16 ani le este interzis accesul la rețelele sociale. Este o interdicție strictă. Aici este o problemă: dacă ne uităm, vedem că în toate aceste țări unde se reglementează această problemă, Marea Britanie, Franța, Australia, fiecare își stabilește propriul prag de vârstă. În Australia e 16 ani, în Franța 15 ani.
Dovezile pe care le avem chiar de la eSafety Commissioner (n.r.- agenția care se ocupă de siguranța în mediul online din Australia) arată că majoritatea copiilor încă accesează aceste instrumente, pentru că nu există metode robuste de verificare a vârstei și din cauza complicității adulților, printre alte motive.
Așadar, pe lângă faptul că o interdicție strictă poate fi ineficientă, pentru mine întrebarea este dacă abordăm problema reală. Motivul pentru care aceste instrumente pot avea efecte negative ține de felul în care sunt concepute.
„Soluția este să abordăm designul platformelor, nu să interzicem accesul la servicii”
Revenim la design și la practicile legate de date și la felul în care acestea afectează funcționarea normală a minții: atenția, gândirea critică, reglarea emoțională. Revenim la integritatea cognitivă, la cât de vulnerabili suntem în fața acestor instrumente. Iar această vulnerabilitate nu are un prag clar de vârstă, cu siguranță nu se termină la 15 sau 16 ani, pragurile discutate în legislațiile actuale. Soluția este să abordăm designul platformelor, nu să interzicem accesul la servicii care pot fi și benefice, mai ales pentru anumite categorii de utilizatori.
UE, prin propunerea EU Kids Act, abordează problema diferit. Nu este gândită ca o interdicție strictă a rețelelor sociale, ci vizează designul platformelor. Și, ceea ce mi se pare foarte important, nu se limitează la rețelele sociale, ci ia în calcul și tehnologiile emergente, precum noile chatboturi de AI.
Practic, dacă platformele nu-și adaptează designul ca să fie sigure prin concepție – fără anumite funcții care declanșează vulnerabilități, mai ales la copii -, copiii pur și simplu nu le pot accesa.
Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții ale rețelelor sociale
Există, deci, o restricție, dar ea obligă platformele să-și schimbe designul serviciilor. Sunt prevăzute categorii de vârstă: până la 13 ani, copiii nu pot accesa aceste servicii decât dacă au un scop educațional, apoi le pot accesa treptat, cu tot mai multă autonomie.
Foarte important – pentru că această propunere este, de fapt, o consolidare a unui articol care există deja în DSA, articolul 28 – este că propunerea a fost susținută de un comitet de oameni de știință care au adunat dovezi despre impactul acestei tehnologii asupra sănătății mintale a copiilor.
Și noi am contribuit la aceste discuții. Potrivit chiar acestor experți, copiii au anumite vârfuri de vulnerabilitate la funcțiile pe care EU Kids Act vrea să le interzică.
Din cauza stadiului lor de dezvoltare, copiii sunt cei mai vulnerabili la anumite funcții. Dar asta nu înseamnă că ceilalți, sau copiii, în momentul în care trec de pragul de vârstă, nu mai sunt vulnerabili.
„Mintea noastră nu se schimbă pur și simplu pentru că acum a apărut AI”
Când m-ați întrebat cât de adecvată este legislația actuală pentru a aborda aceste riscuri, pentru mine punctul central este vulnerabilitatea umană, pe care cred că o limităm prea des la anumite categorii.
Vulnerabilitatea umană are mai multe straturi. Există o vulnerabilitate comună, care ne privește pe toți și ține de felul în care a evoluat mintea umană. Mintea noastră nu se schimbă pur și simplu pentru că acum a apărut AI. Ea s-a format într-un anumit fel de-a lungul evoluției și nu se va schimba mâine. Tehnologia este cea care va trebui să se adapteze.
Peste această vulnerabilitate comună există vulnerabilități individuale și structurale: vârsta, de exemplu, nivelul de alfabetizare, variabilele sociodemografice. Iar al treilea strat este vulnerabilitatea situațională, contextuală: izolarea, o criză, incertitudinea, stresul. Trebuie să gândim dincolo de categoriile stricte și să avem o perspectivă mai largă asupra vulnerabilității umane. În prezent, accentul cade puternic pe minori, ceea ce înțeleg, pentru că ei reprezintă o vulnerabilitate mare, dar nu sunt singurii vulnerabili.
– Care ar trebui să fie următorii pași pentru a crește gradul de conștientizare?
– În prezent, aceste legi sunt propuneri aflate în dezbatere, iar discuția este foarte deschisă. Nu este singura propunere a Comisiei Europene pe această temă. Urmează Digital Fairness Act, care vizează actualizarea legislației europene privind protecția consumatorilor pentru epoca tehnologiilor transformatoare. Cred că acolo există o oportunitate mai mare de a discuta acest concept de vulnerabilitate dincolo de categoriile stricte de vârstă.
În general, cercetarea mea va continua să privească tehnologia ca pe un instrument sociotehnic. Despre aceste tehnologii, în special despre AI, se discută în termeni de capabilități ale modelelor și de caracteristici tehnice, dar, în cele din urmă, ele vor fi folosite de oameni.
„Să dezvolți o tehnologie care să le servească efectiv oamenilor”
Ca să înțelegem impactul real al tehnologiei, trebuie să înțelegem cum îi afectează pe oameni, cum lucrează împreună, cum colaborează, cum interacționează. O mare parte din cercetarea mea va merge în această direcție. Evident, nu va fi vorba doar de evidențierea riscurilor, cum a fost cazul acestui proiect, ci și de felul în care putem valorifica beneficiile tehnologiei pentru a ne amplifica gândirea într-un mod pozitiv, care să ne dea putere.
Este o discuție pe care trebuie s-o avem. Vorbim mult despre AI, dezvoltare, inovare, despre posibilitatea de a dezvolta AI într-un mod european, conform valorilor europene. Dar ce înseamnă asta în practică? Înseamnă să dezvolți o tehnologie care să le servească efectiv oamenilor.
Un ministru pentru AI în România
– O ultimă întrebare. Noul guvern al României va include un ministru pentru inteligența artificială. Pe ce ar trebui să se concentreze un astfel de ministru?
– Primul meu gând este că: este un semnal clar. Cu siguranță arată anumite nevoi sau importanța temei. Apoi apare întrebarea: care este mandatul acestui ministru? Care este scopul lui? Nu știm.
Poate fi vorba, mai larg, de digitalizarea administrației publice, ceea ce e foarte clar, dar poate fi ceva legat mai degrabă de discursul despre suveranitatea națională în AI. Sunt subiecte foarte diferite.
Nu știu care va fi accentul acestui minister, dar, când mă gândesc la nevoile regionale sau europene în materie de AI, mă gândesc, desigur, la dezvoltarea bazinului de talente în AI și, prin urmare, a inovării în AI și la cum o putem sprijini.
Europa are propriul bazin de talente, dar depinde ce înțelegem prin talent sau formare: inginerie de date și dezvoltare software sau ingineria modelelor de AI de frontieră. Europa este foarte puternică la prima categorie și cred că și România. Ce lipsește puțin este investiția în a doua categorie de talente în AI.
