Avertismentul laureatului Nobel: AI trebuie să ajungă să țină la oameni
Cea mai îngrijorătoare parte a declarațiilor sale privește relația viitoare dintre oameni și inteligența artificială. Hinton susține că dezvoltatorii ar trebui să construiască sisteme care să manifeste o preocupare reală pentru bunăstarea oamenilor. În lipsa acestei orientări, avertizează cercetătorul, consecințele ar putea fi catastrofale.
Specialistul a vorbit despre riscul apariției unor virusuri periculoase dezvoltate cu ajutorul AI, dar și despre atacuri cibernetice executate de grupuri de agenți autonomi. Aceste instrumente pot îndeplini sarcini complexe cu intervenție umană redusă, ceea ce creează oportunități pentru automatizarea unor activități periculoase.
Problema controlului asupra sistemelor avansate preocupă deja industria tehnologică. Dezbaterile au ajuns inclusiv la necesitatea dezvoltării unui mecanism de oprire pentru inteligența artificială, care să permită intervenția oamenilor atunci când un sistem funcționează într-un mod neprevăzut.
Geoffrey Hinton are o influență considerabilă în acest domeniu. A primit Premiul Turing în 2018, alături de Yann LeCun și Yoshua Bengio, iar în 2024 a fost recompensat cu Premiul Nobel pentru Fizică pentru contribuțiile sale fundamentale la dezvoltarea rețelelor neuronale. După plecarea de la Google, în 2023, a devenit unul dintre cei mai cunoscuți cercetători care avertizează asupra riscurilor inteligenței artificiale.
Nu toți experții sunt de acord că AI poate avea conștiință
În comunitatea științifică există însă opinii foarte diferite. Yann LeCun, un alt pionier al inteligenței artificiale, contestă ideea că modelele actuale ar avea conștiință. Acesta respinge și scenariile potrivit cărora dezvoltarea AI ar conduce inevitabil la dispariția omenirii.
Diferența dintre comportamentul care imită conștiința și existența conștiinței propriu-zise rămâne esențială. Un sistem poate produce răspunsuri sofisticate, poate identifica situații noi și își poate adapta strategiile fără ca aceste performanțe să demonstreze că are sentimente, intenții proprii sau experiențe interioare.
O perspectivă prudentă asupra acestui subiect a fost prezentată și de fizicianul Cristian Presură, într-un interviu exclusiv pentru Playtech. Cercetătorul a discutat despre diferența dintre capacitățile impresionante ale tehnologiei și atribuirea unor caracteristici umane sistemelor AI.
Dincolo de controversa privind conștiința, avertismentul lui Geoffrey Hinton evidențiază o problemă concretă: tehnologia avansează mai repede decât mecanismele prin care societatea îi poate evalua și limita riscurile. Rămâne de stabilit dacă inteligența artificială va putea dezvolta vreodată conștiință. Până atunci, întrebarea urgentă este cât de sigur pot fi controlate sistemele tot mai autonome.
