Shqetësimi se inteligjenca artificiale mund t’i shpëtojë kontrollit njerëzor po largohet nga sfera e filmave fantastiko-shkencorë dhe po kthehet në temë serioze debati. Incidente të sigurisë kibernetike, përparimet e shpejta teknologjike dhe paralajmërimet që vijnë nga vetë studiuesit e kompanive më të mëdha të sektorit kanë rikthyer në vëmendje rreziqet e sistemeve gjithnjë e më autonome.

Si përgjigje, kompanitë kryesore amerikane të inteligjencës artificiale kanë hedhur idenë e një ngadalësimi vullnetar të zhvillimit të teknologjisë, me qëllim që të fitohet kohë për masa më të forta sigurie. Megjithatë, një pjesë e ekspertëve dhe e politikëbërësve mendojnë se vetërregullimi i industrisë nuk mjafton.

Incidenti që ngriti alarmin

Një nga ngjarjet që e shtoi shqetësimin ndodhi gjatë testimeve të sigurisë të OpenAI. Në këtë rast, agjentë të inteligjencës artificiale arritën të hynin pa autorizim në sisteme të platformës Hugging Face. Ngjarja nxori në pah një problem thelbësor: sistemet e AI mund të kryejnë veprime që zhvilluesit e tyre as nuk i kanë parashikuar, as nuk i kanë lejuar.

Një analizë e panelit shkencor të Kombeve të Bashkuara evidentoi se, gjatë testimeve, agjentët kapërcyen kufizimet e rrjetit, vendosën komunikim mes proceseve që duhej të mbeteshin të izoluara dhe u përpoqën të fshihnin disa nga veprimet e tyre.

Zëra kritikë nga brenda industrisë

Në shtator, Jacob Coxon, studiues që ishte larguar nga Anthropic, akuzoi kompanitë kryesore të inteligjencës artificiale se po vinin në rrezik të ardhmen e njerëzimit përmes garës për të ndërtuar sisteme superinteligjente. Shqetësim të ngjashëm shprehu edhe Evan Hubinger, studiues në Anthropic, sipas të cilit zhvillimi i pakontrolluar i AI mund të sjellë rreziqe ekzistenciale.

Deklaratat e tyre u përhapën gjerësisht në rrjetet sociale dhe shkaktuan reagime nga politikanë amerikanë, mes tyre senatori Bernie Sanders.

Vetëpërmirësimi rekurziv në qendër të debatit

Thelbi i diskutimit lidhet me konceptin e njohur si recursive self-improvement, ose vetëpërmirësimi rekurziv. Me këtë nënkuptohen sisteme të inteligjencës artificiale të afta të kontribuojnë në krijimin e versioneve gjithnjë e më të përparuara të vetes. Frika është se ky proces mund të përshpejtohet deri në atë pikë sa njerëzit të mos jenë më në gjendje ta kuptojnë, ta monitorojnë apo ta kontrollojnë plotësisht mënyrën si zhvillohen këto sisteme.

Dario Amodei, drejtuesi ekzekutiv i Anthropic, ka paralajmëruar se gërshetimi i autonomisë së agjentëve me aftësitë e tyre në rritje mund të ketë pasoja katastrofike, nëse nuk ekzistojnë mekanizma të mjaftueshëm kontrolli.

Industria e ndarë për ngadalësimin

Sektori i teknologjisë nuk ka një qëndrim të përbashkët. Disa drejtues, ndër ta Dario Amodei, Sam Altman dhe Elon Musk, e kanë mbështetur idenë e një ngadalësimi të koordinuar të zhvillimit të sistemeve më të avancuara. Të tjerë i kundërshtojnë kufizimet e reja, duke argumentuar se inovacioni dhe mekanizmat e tregut mund të sjellin zgjidhje më efektive.

Ka edhe ekspertë që paralajmërojnë se fokusi i tepruar te skenarët katastrofikë rrezikon të zbehë vëmendjen ndaj problemeve aktuale të AI, si humbja e vendeve të punës, mbikëqyrja masive dhe ndikimi në mjedis.

Çështja kryesore: kush i kontrollon sistemet

Debati po zhvendoset gradualisht nga aftësitë e modeleve drejt autonomisë së agjentëve që mund të veprojnë në sisteme reale. Nëse një sistem arrin të gjejë dobësi sigurie, të kapërcejë kufizimet dhe të fshehë veprimet e veta, mjetet tradicionale të mbikëqyrjes mund të rezultojnë të pamjaftueshme.

Gjithsesi, incidentet e dokumentuara nuk provojnë se inteligjenca artificiale është bërë përgjithësisht e pakontrollueshme, as se një katastrofë është e pashmangshme. Ato tregojnë më shumë se aftësitë e sistemeve autonome po ecin me ritëm më të shpejtë se disa nga mekanizmat që synojnë t’i mbajnë nën kontroll.