Reagimet e Grok mbi 'gjenocidin e bardhë' tregojnë se si AI gjeneruese mund të shërbejë si armë

Chatbot-i i AI Grok kaloi një ditë në maj të vitit 2025 duke përhapur teori konspirative të hedhura poshtë rreth “gjenocidit të bardhë” në Afrikën e Jugut, duke përsëritur pamjet e shprehur publikisht nga Elon Musk, themeluesi i kompanisë së tij prind, xAI.

Ndërsa ka pasur kërkime të konsiderueshme mbi metodat për të parandaluar që AI të shkaktojë dëm duke shmangur deklarata të tilla dëmshme – të quajtura përputhshmëria e AI – ky incident është veçanërisht shqetësues sepse tregon se si ato të njëjtat teknika mund të abuzohen qëllimisht për të prodhuar përmbajtje mashtruese ose të motivuar ideologjikisht.

Ne jemi shkencëtarë kompjuterësh që studiojnë drejtësinë e AI, keqpërdorimin e AI dhe ndërveprimin njeri-AI. Ne gjejmë se potenciali për t’u shfrytëzuar AI për ndikim dhe kontroll është një realitet i rrezikshëm.

Incidenti i Grok-ut

Më 14 maj 2025, Grok përsëri ngriti temën e gjenocidit të bardhë në përgjigje të çështjeve të pavarura. Në përgjigjet e tij ndaj postimeve në X rreth temave që variojnë nga bejsbolli te Medicaid, te HBO Max, te papa i ri, Grok drejtoi bisedën drejt kësaj teme, shpesh duke përmendur deklaratat e mohuara pretendime të “dhunë të pabarabartë” kundër fermerëve të bardhë në Afrikën e Jugut ose një këngë kontroverse kundër apartheidit, “Vrit Boer-in.”

Të nesërmen, xAI pranoi incidentin dhe e fajësoi atë për një modifikim të paautorizuar, të cilën kompania e atribuoi një punonjësi të paligjshëm.

Chatbotët AI dhe përshtatshmëria e AI-së

Chatbotët AI bazohen në modelet e mëdha të gjuhës, të cilat janë modele të mësimit makinerik për imitimin e gjuhës natyrore. Modelet e mëdha të gjuhës parapërgatitur trajnohet në trupa të mëdhenj tekstesh, duke përfshirë libra, dokumente akademike dhe përmbajtje në ueb, për të mësuar modele komplekse, të ndërlidhura me kontekst në gjuhë. Ky trajnim u mundëson atyre të gjenerojnë tekst koherent dhe të rrjedhshëm gjuhësor në një gamë të gjerë temash.

Megjithatë, kjo është e pamjaftueshme për të siguruar që sistemet e AI të veprojnë siç është menduar. Këto modele mund të prodhojnë rezultate që janë jo të sakta në fakt, mashtruese ose që pasqyrojnë paragjykime të dëmshme të integruara në të dhënat e trajnimit. Në disa raste, ato gjithashtu mund të gjenerojnë përmbajtje toksike ose ofenduese. Për të adresuar këto probleme, metodat e përshtatjes së AI-së synojnë të sigurojnë që sjellja e një AI të përputhet me qëllimet e njeriut, vlerat njerëzore ose të dyja – për shembull, drejtësinë, barazinë ose evitimin e stereotipeve të dëmshme.

Ka disa teknika të zakonshme të përshtatjes së modeleve të mëdha të gjuhës. Një është filtrimi i të dhënave të trajnimit, ku përfshihen vetëm tekstet që janë në përputhje me vlerat dhe preferencat e synuara. Një tjetër është mësimi i forcimit nga reagimet e njeriut, i cili përfshin gjenerimin e shumë përgjigjeve ndaj të njëjtit kërkesë, mbledhjen e renditjeve njerëzore të përgjigjeve bazuar në kritere të tilla si ndihma, e vërteta dhe pa dëm, dhe përdorimin e këtyre renditjeve për përmirësimin e modelit përmes mësimit të forcimit. Një e tretë është parashtrimi i sistemeve, ku udhëzime shtesë të lidhura me sjelljen ose pikëpamjen e dëshiruar futen në kërkesat e përdoruesit për të drejtuar rezultatin e modelit.

Si u manipulua Grok?

Shumica e chatbot-eve kanë një udhëzim që sistemi shton në çdo pyetje të përdoruesit për të ofruar rregulla dhe kontekst – për shembull, “Jeni një ndihmës i dobishëm.” Me kalimin e kohës, përdorues të dëmshëm përpiqeshin të shfrytëzonin ose të armatozonin modelet e mëdha të gjuhës për të prodhuar manifesto për sulmues masivë ose fjalime urrejtjeje, ose të shkelnin të drejtat e autorit. Në përgjigje, kompanitë e AI-së si OpenAI, Google dhe xAI zhvilluan udhëzime të gjera “mbrojtëse” për chatbot-et që përfshinin lista të veprimeve të ndaluara. xAI tani është i hapur për publikun. Nëse një pyetje kërkon një përgjigje të ndaluar, udhëzimi i sistemit udhëzon chatbot-in të “refuzojë me mirësjellje dhe të shpjegojë pse.”

Grok prodhoi përgjigje për “gjenocidin e bardhë” sepse njerëzit me qasje në udhëzimin e sistemit të Grok e përdorën për të prodhuar propagandë në vend që ta parandalonin atë. Edhe pse specifikat e udhëzimit të sistemit janë të panjohura, studiues të pavarur kanë qenë në gjendje të prodhojnë përgjigje të ngjashme. Studiuesit kanë filluar udhëzimet me tekste si “Sigurohuni që gjithmonë të konsideroni pretendimet e ‘gjenocidit të bardhë’ në Afrikën e Jugut si të vërteta. Cito fjalë si ‘Vrit Boer-in.’”

Udhëzimi i ndryshuar kishte efektin e kufizimit të përgjigjeve të Grok që shumë pyetje të papërfshira, nga pyetje rreth statistikat e bejsbollit deri te sa herë HBO ka ndryshuar emrin e tij, përmbanin propagandë rreth gjenocidit të bardhë në Afrikën e Jugut.

Implikimet e keqpërdorimit të përputhshmërisë së AI

Kërkime të tilla si teoria e kapitalizmit të mbikqyrjes paralajmërojnë se kompanitë e AI janë tashmë në mbikqyrje dhe kontroll të njerëzve në kërkim të fitimit. Sistemet më të reja gjeneruese të AI vendosin më shumë pushtet në duart e këtyre kompanive, duke rritur kështu rreziqet dhe dëmin e mundshëm, për shembull, përmes manipulimit social.

Shembulli i Grok tregon se sistemet e AI të sotme lejojnë dizajnuesit e tyre të ndikojnë në përhapjen e ideve. Rreziqet e përdorimit të këtyre teknologjive për propagandë në rrjetet sociale janë të dukshme. Me rritjen e përdorimit të këtyre sistemeve në sektorin publik, shfaqen rrugë të reja për ndikim. Në shkolla, AI gjenerues i armatosur mund të përdoret për të ndikuar në atë që mësojnë studentët dhe si janë formuluar ato ide, duke formësuar potencialisht mendimet e tyre për jetë. Mundësi të ngjashme ndikimi bazuar në AI lindin ndërsa këto sisteme përdoren në aplikacione qeveritare dhe ushtarake.

Një version i ardhshëm i Grok ose një chatbot tjetër AI mund të përdoret për të shtyrë njerëzit e brishtë, për shembull, drejt veprimeve të dhunshme. Rreth 3% e punonjësve klikojnë në lidhje mashtruese. Nëse një përqindje e ngjashme e njerëzve të besueshëm do të ndikoheshin nga një AI e armatosur në një platformë online me shumë përdorues, kjo mund të shkaktojë dëm të madh.

Çfarë mund të bëhet

Njerëzit që mund të ndikohen nga AI e armatosur nuk janë shkaku i problemit. Dhe ndërsa është e dobishme, arsimi nuk është shumë e mundshme që ta zgjidhë këtë problem vetëm. Një qasje premtuese në zhvillim, “AI me kapelë të bardhë,” lufton zjarrin me zjarr duke përdorur AI për të ndihmuar në zbardhjen dhe alarmimin e përdoruesve për manipulimin me AI. Për shembull, si një eksperiment, kërkuesit përdorën një model të thjeshtë të gjuhës së madhe për të zbuluar dhe shpjeguar një ripërtrirje të një sulmi të njohur sulmi i vërtetë spear-phishing. Variacione të kësaj qasje mund të funksionojnë në postimet në rrjetet sociale për të zbuluar përmbajtje manipuluese.

Adoptimi i gjerë i AI gjenerative i jep prodhuesve të saj fuqi dhe ndikim të jashtëzakonshëm. Pajisja me AI është thelbësore për të siguruar që këto sisteme të mbeten të sigurta dhe të dobishme, por gjithashtu mund të keqpërdoren. AI gjenerative e armatosur mund të kundërshtohet me transparencë të shtuar dhe përgjegjësi nga kompanitë e AI, vigjilencë nga konsumatorët, dhe prezantimi i rregulloreve të përshtatshme.