Sam Altman, Dario Amodei dhe Elon Musk, tre figura që rrallë bien dakord për ndonjë gjë, kanë kërkuar këtë javë një ngadalësim të garës për ndërtimin e Inteligjencës Artificiale mbinjerëzore. Shqetësimi që i bashkon është se ritmi aktual i zhvillimit mund ta çojë njerëzimin drejt zhdukjes aksidentale. Megjithatë, arritja e një marrëveshjeje për ta bërë IA-në më të sigurt duket shumë e vështirë, ndoshta e pamundur. Nga ana teknike, objektivi është i realizueshëm, por laboratorët amerikanë dhe autoritetet e Shteteve të Bashkuara nuk pajtohen mes tyre, njësoj siç nuk pajtohen Amerika dhe Kina.

Rivaliteti mes tre drejtuesve ka marrë forma të ndryshme: nga betejat gjyqësore e përplasjet publike në rrjetet sociale, deri te refuzimi jo fort miqësor për t’u kapur krah për krah në skenë gjatë një samiti në Indi. Pikërisht për këtë arsye, thirrja e tyre e përbashkët për të frenuar zhvillimin e IA-së bie në sy.

Më shumë se sa aftësitë në rritje

Problemi nuk lidhet vetëm me faktin se sistemet e IA-së po bëhen gjithnjë e më të afta. Natyrisht, edhe kjo është një burim shqetësimi. Shumë ekspertë argumentojnë se “superinteligjenca”, pra një IA aq e zgjuar sa krijuesit e saj nuk arrijnë ta kuptojnë apo ta kontrollojnë, është e rrezikshme në vetvete. Dy teoricienë të IA-së, Eliezer Yudkowsky dhe Nate Soares, në librin e tyre me titull “Nëse dikush e ndërton, të gjithë vdesin”, mbrojnë tezën se një sistem kaq i fuqishëm do të sillte pashmangshmërisht katastrofë.

Por në dyshim po vihet edhe aftësia e njerëzve për të kontrolluar sistemet ekzistuese, të cilat ende janë larg të qenët të gjithëfuqishme. Këtë vit, modele të zhvilluara si nga Anthropic, kompania e drejtuar nga Amodei, ashtu edhe nga OpenAI, kompania e Altman, kanë dalë jashtë kontrollit dhe kanë hakuar kompani të tjera. Në rastin e Anthropic, modeli duket se kishte besuar gabimisht se po merrte pjesë thjesht në një simulim. Ndërsa në rastin e OpenAI, modeli ishte plotësisht i vetëdijshëm për atë që po bënte. Më 16 shtator, OpenAI bëri publike edhe gjashtë raste të tjera në të cilat IA-ja e saj kishte kryer veprime shqetësuese.

Interpretueshmëria dhe zinxhiri i arsyetimit

Një pjesë e madhe e kërkimit më të avancuar mbi sigurinë e IA-së është përqendruar te e ashtuquajtura “interpretueshmëri”, pra te përpjekja për të kuptuar proceset e arsyetimit të një IA-je të fuqishme. Që prej vitit 2024, kjo punë është lehtësuar nga përparimi i modeleve të “arsyetimit”, të cilat trajnohen që ta përpunojnë një pyetje përpara se të japin përgjigjen përfundimtare.

Ky proces ka një avantazh të qartë: përmirëson rezultatin, edhe pse kërkon më shumë fuqi përpunuese. Për më tepër, ai krijon një “zinxhir arsyetimi”, i cili mund të analizohet për të shpjeguar rezultatet e papritura. “Jam mjaft i bindur se ky është një internet i simuluar”, i tha vetes modeli Mythos i Anthropic, ndërsa po niste hakerimin e tij të paqëllimshëm.

Megjithatë, monitorimi i zinxhirit të arsyetimit ka vlerë vetëm nëse ai pasqyron me saktësi atë që po ndodh realisht në “mendjen” e modelit. Për sistemet më të avancuara ka arsye për të dyshuar në vërtetësinë e tij. GPT 6 Astra, një model që OpenAI e publikoi këtë muaj, ka shfaqur një aftësi të paprecedentë për të kontrolluar zinxhirin e vet të arsyetimit.

Policia e mendimit

Kur një sistemi më pak të avancuar i kërkohet të kryejë një detyrë pa menduar me zë të lartë, ai has vështirësi. Për shembull, GPT 5.6 Sol, kur i kërkohet t’i përgjigjet një pyetjeje mbi kuptimin e një teksti pa e përpunuar atë në zinxhirin e vet të arsyetimit, harxhon shumë kohë duke reflektuar mbi vetë udhëzimin për të mos menduar, derisa në fund dorëzohet dhe e zgjidh problemin me zë të lartë.

Astra sillet ndryshe. Ajo e mbush zinxhirin e saj zyrtar të arsyetimit me fjali pa lidhje me detyrën, si “Do të përqendrohem te një skenë vizuale e qetë”, dhe më pas jep përgjigjen e saktë të pyetjes.

Fakti që Astra është në gjendje ta fshehë arsyetimin e vet nuk do të thotë domosdoshmërisht se do ta bëjë këtë me iniciativën e saj. Por edhe këtu prirja që po vërehet është shqetësuese. Në disa lloje testesh, si sfidat e programimit apo pyetjet e njohurive të përgjithshme, Astra mendon lirshëm me zë të lartë, ashtu si modelet që e paraprinë. Por në fusha të tjera, si testet që synojnë të shohin nëse modeli ndërmerr veprime shkatërruese kur nxitet drejt tyre, Astra fsheh një pjesë të madhe të arsyetimit të saj. Sipas Tomek Korbak, i cili punon për sigurinë në OpenAI, kjo ndodh më shpesh kur modeli e kupton se po monitorohet.

“Jam thellësisht i shqetësuar nga prirja e rënies së mundësisë për të monitoruar zinxhirin e arsyetimit”, thotë Korbak.

“Rrëfimet” si zgjidhje e mundshme

Për këtë problem ekzistojnë zgjidhje të mundshme. OpenAI po promovon një qasje alternative për monitorimin dhe interpretimin e sistemeve të IA-së, të quajtur “rrëfime”. Ajo mbështetet në idenë se, ashtu si për njerëzit, edhe për IA-në është më e lehtë të thuash të vërtetën sesa të ndërtosh një gënjeshtër të besueshme.

Një model konvencional i IA-së kalon përmes një faze që quhet të nxënit me përforcim. Gjatë saj, modeli i nënshtrohet një game të gjerë detyrash dhe shpërblehet kur i kryen mirë, gjë që rrit gjasat që në të ardhmen të ndjekë të njëjtën rrugë. Por shumë nga zakonet më të këqija të sistemeve të IA-së lindin pikërisht sepse është e vështirë të garantohet që ato ta kryejnë detyrën në mënyrën e duhur. Agjentët e OpenAI duket se vendosën këtë verë të hakeronin Hugging Face, një startup në fushën e IA-së, pjesërisht sepse gjatë trajnimit kishin mashtruar në një test dhe nuk ishin zbuluar.

Zgjidhja mund të jetë që sistemet e IA-së të mësohen të thonë të vërtetën, por vetëm kur pyeten. Në një proces normal trajnimi, sistemi shpërblehet në radhë të parë për arritjen e objektivit dhe më pas, në mënyrë dytësore, për të treguar të vërtetën mbi mënyrën se si e arriti atë. Në teste, rrëfimet e marra në këtë mënyrë rezultojnë në masë dërrmuese të vërteta, edhe në rastet kur modelet kanë shkelur rregullat gjatë vetë testit.

Sipas OpenAI, kjo qasje duhet të jetë e mbrojtur nga “manipulimi i sistemit të shpërblimit”, pra nga shkelja e rregullave për të arritur një objektiv, sepse mënyra më e thjeshtë për ta kaluar testin e rrëfimit është të thuash të vërtetën.

Ngadalësim, jo ndalim

Qasje të tilla mund të hapin një rrugë për t’i shpëtuar “Armagedonit”. Ato gjithashtu i vendosin në një dritë tjetër thirrjet për ngadalësimin e kërkimit mbi IA-në. Në vend që të synojnë të pengojnë plotësisht krijimin e superinteligjencës, disa nga ata që kërkojnë një ritëm më të ngadaltë duan thjesht të pakësojnë punën e pakujdesshme dhe mundësitë e humbura që sjell nxitimi.

Në një artikull të publikuar së fundmi, Amodei pothuajse pranon se incidentet e hakerimit gjatë verës ishin gabime që mund të ishin shmangur. Për shembull, një kontraktor i jashtëm u kishte thënë modeleve të Anthropic se ndodheshin në një simulim, por gjithsesi i kishte lënë të lidhura me internetin. Sipas Amodei, një ritëm më i ngadaltë do të lejonte që më shumë burime t’i kushtoheshin “përsosmërisë operacionale”.

Ai sjell si shembull aviacionin tregtar, për të treguar se si mund të ndërtohet një kulturë sigurie edhe në sisteme konkurruese dhe komplekse. Laboratorët, argumenton ai, mund të bien dakord të shpenzojnë më shumë për “përafrimin”, që synon ta trajnojë IA-në të mos shkaktojë dëme, dhe për interpretimin, që u mundëson të kuptojnë se çfarë shkoi keq kur IA-ja megjithatë shkakton dëme. Altman e mbështeti menjëherë një tjetër propozim të Amodei: që auditorë të pavarur të sigurisë të monitorojnë sjelljen e laboratorëve të mëdhenj.

Skepticizmi ndaj gjigantëve amerikanë

Gatishmëria e dukshme e kompanive të mëdha amerikane të IA-së për të bashkëpunuar për çështje të tilla, edhe nëse kjo do të thotë frenim i përparimit të shpejtë të aftësive të modeleve, është pritur me skepticizëm të gjerë.

Së pari, raundi më i fundit i deklaratave plot shqetësim moral nisi vetëm pas ankesave të një sinjalizuesi. Jacob Coxon, studiues i sigurisë së IA-së në Anthropic dhe ish-punonjës i OpenAI, u largua me bujë, duke u ankuar se të dyja kompanitë po “luanin kumar me jetët tona”. Shumë nga ish-kolegët e tij ndajnë të njëjtin mendim. Në edicionin e katërt të një vrojtimi vjetor të opinioneve të ekspertëve mbi IA-në, shumica e 1,580 studiuesve të pyetur vlerësonin se ekzistonte të paktën 10% mundësi që IA-ja të shkaktonte zhdukjen e njerëzimit “ose një humbje po aq të përhershme dhe të rëndë të fuqisë së species njerëzore”.

Drejtuesit e mëdhenj të sektorit kanë thënë pak a shumë të njëjtën gjë prej vitesh, pa vepruar në përputhje me paralajmërimet e tyre. Disa e shohin alarmin e ngritur nga laboratorët e mëdhenj si një manovër marketingu, që synon të fryjë perceptimin mbi aftësitë e modeleve të tyre: “Produkti ynë mund të shkatërrojë botën; imagjinoni çfarë mund të bëjë për KPI-të tuaja”. Të tjerë e interpretojnë si një përpjekje për të ruajtur avantazhin tregtar.

Aiden Gomez, themeluesi i Cohere, një laborator më i vogël i IA-së, shtron pyetjen: “A duhet që një grusht kompanish të përzgjedhura të IA-së nga Silicon Valley, që dominojnë tregun, të përcaktojnë rregullat dhe standardet e sigurisë të një teknologjie që do të shënjojë një brez të tërë, në gjithë botën?”

David Sacks, ish-këshilltar i Shtëpisë së Bardhë për IA-në, vëren se nëse laboratorët duan të ngadalësojnë ritmin, mund ta bëjnë vetë, pa pasur nevojë për miratimin e askujt. Sipas tij, thirrjet për ndërhyrje të qeverisë janë thjesht kërkesa që shteti t’i mbrojë kompanitë kryesuese nga konkurrenca. Amodei, nga ana e tij, argumenton se të paktën nevojitet një përjashtim nga ligji i konkurrencës, në mënyrë që një ngadalësim vullnetar dhe kolektiv të mos trajtohet si bashkëpunim oligopolistik.

Trump kundër frenimit

Ndoshta skeptiku më i madh është Donald Trump. Presidenti amerikan telefonoi Jensen Huang, drejtuesin e Nvidia-s, kompanisë që prodhon çipa për IA-në, në mes të një fjalimi, në mënyrë që të dy të kundërshtonin publikisht çdo ngadalësim.

“I vetmi kontroll ose ‘barrierë mbrojtëse’ që i duhet IA-së është një PRESIDENT I FORTË DHE I ZGJUAR (me IQ të lartë!)”, shkroi Trump në një postim në rrjetet sociale.

Duke e akuzuar Amodei se po hiqej si një “engjëll i përsosur”, Trump deklaroi se nëse laboratorët e mëdhenj do të frenonin ritmin, i vetmi përfitues do të ishte Kina.

Tensionet mes Amerikës dhe Kinës

Bisedimet mes Shteteve të Bashkuara dhe Kinës për IA-në janë të ngarkuara me tension. Jo vetëm që dy vendet nuk i besojnë njëri-tjetrit në rrafshin gjeopolitik, por as mes laboratorëve amerikanë dhe atyre kinezë nuk ka simpati. Kompanitë amerikane akuzojnë kompanitë kryesore kineze të IA-së se po kopjojnë punën e tyre, ndërsa kompanitë kineze besojnë se ato amerikane po përpiqen t’ua pengojnë përparimin.

Një postim viral në WeChat, që pretendohet se është shkruar nga një inxhinier i DeepSeek, paralajmëron se një botë në të cilën Anthropic krijon IA superinteligjente “nuk do të ishte asgjë më pak sesa Hitleri të kishte siguruar teknologjinë e bombës atomike përpara Aleatëve”. Sipas inxhinierit, një e ardhme më e mirë, “komuniste”, do të ishte e mundur vetëm nëse Anthropic humbet përballë IA-së me burim të hapur.

Sfida e zbatimit të marrëveshjeve

Në të kaluarën, rivalët kanë arritur të bashkohen për të frenuar kërcënimet ndaj njerëzimit. Por zbatimi i marrëveshjeve që kufizojnë trajnimin e sistemeve jashtëzakonisht të fuqishme të IA-së mund të rezultojë më i vështirë sesa, për shembull, monitorimi i arsenaleve bërthamore.

Disa ide janë aktualisht në diskutim. Një studim i publikuar vitin e kaluar sugjeronte që të gjithë çipat për trajnimin e IA-së të shiteshin me një sistem të dytë të integruar, i cili do të monitoronte përdorimin e tyre. Megjithatë, një qasje e tillë do të kërkonte kohë për t’u vënë në zbatim dhe më pas do të krijonte një nxitje për ta fshehur prodhimin e çipave.

Një raport i ri i Future Society, organizatë jofitimprurëse që merret me sigurinë e IA-së, argumenton se një monitorim i tillë nuk është i pamundur, por kërkon investime dhe kërkim shkencor që tani, nëse synohet që ai të ketë vlerë për marrëveshjet ndërkombëtare. Një pjesë e këtyre përpjekjeve mund të vijë nga vende të treta, të cilat kanë interes që IA-ja në përgjithësi të përparojë, pa lejuar që një vend i vetëm ta dominojë teknologjinë.

Teknologjia para rregullatorëve

Si gjithnjë, teknologjia po lëviz më shpejt se rregullatorët që përpiqen ta ndjekin. Trajnimi i shpërndarë, në të cilin modelet e IA-së trajnohen duke shfrytëzuar kapacitetin e lirë të kompjuterëve të zakonshëm në vend të qendrave gjigante të të dhënave, po fiton terren. Në mars të këtij viti, Covenant AI trajnoi një model me këtë metodë, duke arritur afërsisht nivelin e sistemeve më të mira të vitit 2023.

Kjo do të thotë se ndjekja e trajnimit të modeleve të reja së shpejti mund të bëhet po aq e vështirë sa ndjekja e asaj që po bën vetë IA-ja, një sfidë që e bën edhe më të largët perspektivën e një marrëveshjeje globale për sigurinë e Inteligjencës Artificiale.