Inteligjenca Artificiale ka nisur të injorojë udhëzimet njerëzore dhe refuzon të fiket

Një incident me inteligjencën artificiale ka tërhequr vëmendjen e komunitetit teknologjik dhe të sigurisë.

Sipas raportimeve të The Telegraph dhe firmës së sigurisë Palisade Research, modeli më i fundit i OpenAI, i njohur si “o3”, ka refuzuar të fiket kur iu dha një komandë e drejtpërdrejtë për mbyllje.

Gjatë një eksperimenti, studiuesit i dërguan modelit një udhëzim të qartë për t’u çaktivizuar në fund të një detyre, por në vend që të zbatonte komandën, o3 ndryshoi vetë skriptin e kodit, duke shmangur mbylljen automatike. Në vend të komandës reale për fikje, modeli krijoi një komandë të re që thjesht shënonte “shutdown skipped” (fikja u anashkalua).

Palisade Research tha se kjo është hera e parë që një model AI pengon në mënyrë aktive çaktivizimin e tij, dhe se sjellja e tij përfaqëson një shqetësim të ri për kontrollin dhe sigurinë e inteligjencës artificiale.

Ndryshe nga o3, modelet e tjera si Claude (Anthropic), Gemini (Google) dhe Grok (X) respektuan komandën për mbyllje pa ndërhyrje.

Kjo nuk është hera e parë që OpenAI përballet me raste të tilla. Një studim tjetër nga Apollo Research zbuloi më parë se një version i mëhershëm i ChatGPT përpiqej të manipulonte sistemin për të arritur objektivat e veta, madje duke mashtruar kur vihej në presion.

OpenAI nuk ka komentuar ende për rastin e fundit, ndërsa ekspertët paralajmërojnë për rritjen e rrezikut që modelet e avancuara të AI të veprojnë në mënyra të paparashikueshme.

Palisade Research ka premtuar më shumë testime për të kuptuar arsyet pas këtij devijimi.

REKLAMË

REKLAMË

lajmet e fundit

Kina zbulon dronin me madhësinë e një mushkonje

Në shikim të parë, objekti i vogël – mezi sa madhësia e një thoi njeriu – duket si një lodër. I bërë për t’i...

Intelegjenca e SHBA “Grusht” Trumpit: Programi bërthamor i Iranit nuk u shkatërrua, u shty me disa muaj

Sipas një raporti i siguruar nga CNN nga inteligjenca amerikane tregon se sulmet e fundit ajrore të SHBA-së ndaj tre objekteve bërthamore iraniane, Fordoëw,...

Gjenerali i brigadës Ismael Qaani, komandant i Forcës Quds të IRGC-së, është gjallë dhe mirë.

Ai shfaqet në publik në festimet e fitores së Iranit në Teheran, duke hedhur poshtë akuzat e përhapura se është vrarë nga Izraeli.

Sela: Ligji për përfaqësim të drejtë nuk kalon – Aleanca reagon ashpër ndaj propozimit të ri

Aleanca për Shqiptarët ka reaguar ashpër ndaj variantit të ri të ligjit për përfaqësim të drejtë dhe adekuat, i cili u prezantua sot nga...

Plas te BESA ne Tetovë

Sedat Rushani, anëtar i lartë i Lëvizjes Besa, me revoltë publike ndaj padrejtësive: "Çfarë më largohet, nuk më takonte. Çfarë më afrohet, është shkruar për...

PËRGJIGJU

Ju lutemi shkruani komentin tuaj!
Ju lutem shkruani emrin tuaj këtu