Ka më shumë se 10% gjasa që inteligjenca artificiale të zhdukë njerëzimin brenda dhjetë viteve të ardhshme, ka paralajmëruar një studiues i lartë i kompanisë Anthropic, mes shqetësimeve në rritje se sistemet gjithnjë e më të fuqishme mund të dalin jashtë kontrollit njerëzor.
Evan Hubinger, i cili punon për përshtatjen e sistemeve të avancuara të inteligjencës artificiale me interesat njerëzore, bëri këtë vlerësim pasi kolegu i tij në Anthropic, Jacob Coxon, dha dorëheqjen për shkak të frikës se kompanitë kryesore të teknologjisë po garojnë drejt sistemeve që mund të mos jenë në gjendje t’i mbajnë nën kontroll.
“Ne vërtet besojmë seriozisht se inteligjenca artificiale mund të vrasë të gjithë njerëzimin”, shkroi Hubinger në X të mërkurën. “Personalisht, mendoj se ka më shumë se 10% gjasa që kjo të ndodhë brenda dekadës së ardhshme.” Ai shtoi se Anthropic po “bën më të mirën”, por ende nuk ka një plan për kontrollin e sigurt të superinteligjencës dhe “nuk është qartësisht në rrugën e duhur” për të gjetur një të tillë.
Hubinger theksoi se, ndërsa modelet aktuale të inteligjencës artificiale paraqesin rrezik të ulët, ekziston shqetësimi se sistemet e ardhshme mund të fillojnë të përmirësojnë veten në mënyrë rekursive, duke u bërë me shpejtësi më të afta se njerëzit, përpara se të zhvillohen masat e nevojshme mbrojtëse.
Coxon, i cili më parë ka punuar në OpenAI, njoftoi largimin e tij nga Anthropic të martën, duke akuzuar të dyja kompanitë se po injorojnë “pasojat që prekin qytetërimin” dhe se “po garojnë drejt superinteligjencës që përmirëson veten dhe po luajnë bixhoz me jetët tona”.
“Njerëzit që po ndërtojnë inteligjencën artificiale besojnë seriozisht se ajo mund të na vrasë të gjithëve deri në fund të dekadës”, shkroi ai, duke këmbëngulur se paralajmërimet “nuk janë një truk marketingu”.
Coxon i tha Wall Street Journal se, në skenarët më agresivë, situata mund të dalë “jashtë kontrollit” që në fund të vitit 2027. Ai argumentoi se edhe kompanitë me programe të forta sigurie mbeten të bllokuara në një garë, pasi kanë frikë se konkurrentët do të ecin përpara nëse ato ngadalësojnë ritmin.
Si Anthropic, ashtu edhe OpenAI deklarojnë publikisht se i marrin seriozisht rreziqet dhe po investojnë ndjeshëm në masat e sigurisë. Drejtuesit e tyre kanë mbështetur gjithashtu thirrjet për një koordinim më të madh nga qeveritë dhe për mekanizma që do të mundësonin ngadalësimin e zhvillimit, nëse do të ishte e nevojshme. Megjithatë, të dyja kompanitë kanë vijuar të zhvillojnë modele gjithnjë e më të fuqishme.