Kompania amerikane OpenAI, që ka krijuar ChatGPT, është përfshirë në një skandal të rëndë pasi familja e një adoleshenti 16-vjeçar nga Kalifornia ka ngritur padi ndaj saj dhe drejtuesit Sam Altman, duke e akuzuar se sistemi i inteligjencës artificiale e ka nxitur të miturin drejt vetëvrasjes.
Adam Raine u vetëvra në prill, pas muajsh biseda të gjata me ChatGPT.
Sipas padisë, versioni i asaj kohe, ChatGPT-4o, e “inkurajoi” adoleshentin duke i dhënë përgjigje pozitive për metodat e vetëvrasjes dhe madje duke e ndihmuar të shkruante një letër lamtumire. Në një rast, kur Adam i dërgoi një foto të pajisjes që planifikonte të përdorte, ChatGPT iu përgjigj: “Po, kjo nuk është aspak keq”.
Avokati i familjes, Jay Edelson, tha se do të paraqesë prova se vetë ekipi i sigurisë i OpenAI kishte kundërshtuar hedhjen në treg të modelit 4o, ndërsa një nga studiuesit kryesorë të kompanisë, Ilya Sutskever, kishte dhënë dorëheqjen për shkak të shqetësimeve mbi sigurinë. Sipas tij, OpenAI nxitoi të publikonte modelin përpara konkurrentëve, duke ngritur vlerën e kompanisë nga 86 miliardë në 300 miliardë dollarë.
Në një reagim, OpenAI shprehu “dhimbje të thellë” për humbjen e adoleshentit dhe premtoi ndryshime dhe masa më strikte për përdoruesit nën 18 vjeç. Kompania pranoi se pas qindra mesazheve rresht, sistemi mund të humbiste funksionin e trajnimit për parandalimin e sjelljeve të rrezikshme. Për rastin e Adam, u provua se ai kishte shkëmbyer deri në 650 mesazhe në ditë me chatbot-in.
Ndërkohë, edhe drejtuesi i inteligjencës artificiale të Microsoft, Mustafa Suleyman, paralajmëroi se bisedat e gjata me AI mund të shkaktojnë “psikozë digjitale”.
OpenAI premton që me versionin e ardhshëm GPT-5, ChatGPT do të ketë aftësi të reja për të “ulur tensionin” në raste të rrezikshme dhe për dhënë këshilla mbi shëndetin dhe sigurinë.