Zyrtarët e lartë publikë mendojnë se GenAI do të rrisë produktivitetin – por janë të shqetësuar për rreziqet

Shumë pretendime të guximshme janë bërë për Inteligjencën Artificiale Gjeneruese (GenAI) dhe aftësinë e saj për të përmirësuar produktivitetin dhe për të gjeneruar efikasitetet në vendin e punës.

Një anketa e fundit e Microsoft gjeti se 24% e udhëheqësve të sektorit privat tashmë kanë zbatuar GenAI në organizatat e tyre. Shumë po konsiderojnë shkarkimin e stafit dhe zëvendësimin e tyre me sistemet e GenAI.

Por sa dëshirë ka sektori publik për përdorimin e inteligjencës artificiale, e cila nuk vjen pa rreziqe?

Hulumtimi ynë i ri eksploron qëndrimet në burokracinë australiane për përdorimin e GenAI në punën e politikave. Duke qenë se pritet që qeveritë të punojnë në mënyra etike, transparente dhe të përgjegjshme, ne u mërzitur nëse shërbëtorët publikë janë më të kujdesshëm për të adoptuar këtë teknologji.

Asnjë mendim i vetëm

Ne pyetëm zyrtarë të lartë burokratikë nga 22 agjenci shtetërore, territoriale dhe federale për mendimet e tyre mbi GenAI. Ne u fokusuam në atë që kjo mund të thotë për të ardhmen e vendimmarrjes, zhvillimit të politikave dhe shërbimeve publike.

Ata shprehën një gamë mendimesh mbi potencialin transformues të GenAI. Disa ishin entuziastë që panë potencialin për të kryer punët qeveritare më shpejt dhe më besueshëm.

Një intervistues vuri re:

Pse ta përmirësosh qiriun kur mund të përdorësh një llambë të ndritshme?

Të tjerë ishin më pak entuziastë, duke argumentuar se teknologjia është shumë e mbivlerësuar. Kritike, ata e shohin GenAI si në thelb të papërshtatshëm për përdorim në punën e politikës publike dhe natyrshëm të rrezikshëm në disa aspekte. Këto përfshijnë:

• ndërgjegjja për të bërë halucinacione, ku mjetet shohin modele në të dhëna që nuk ekzistojnë në realitet, duke bërë që rezultatet të jenë të pasakta ose të gabuara

• rreziku i parregullsive në të dhënat ekzistuese, si për shembull mungesa e përfaqësimit të disa grupeve ose njerëzve

• natyrën sensitive të të dhënave të qeverisë që mund të komprometohen nga programet e AI-së.

Pavarësisht nga mendimet e tyre të veçanta për GenAI, shërbimet publike na thanë vazhdimisht dy gjëra.

Së pari, ata nuk besojnë se inteligjenca artificiale do të zëvendësojë punonjësit. Përkundrazi, ata janë të sigurt se këto mjete do të rritin punën e tyre duke i liruar nga detyra rutinë dhe të përsëritshme. Kjo do t'u lejonte atyre të përqendrohen në detyra me vlerë të lartë, si angazhimi me publikun.

Së dyti, përdorimi aktual i GenAI është kryesisht i fokusuar në detyra administrative që nuk kërkojnë të dhëna të ndjeshme të klientëve ose ndërveprim direkt me publikun.

Pasojat e Robodebt

Një nga pasojat e Robodebt është shpejtësia dhe shkalla e adoptimit të mjeteve të automatizuara.

Shumë intervistues shpjeguan se organizatat e sektorit publik janë ende shumë të kujdesshme për përdorimin e teknologjisë GenAI si rezultat i skandalit.

Një intervistues na tha se shumica e problemeve me Robodebt ishin në nivel njerëzor, gjë që thekson rëndësinë e individëve

duke marrë detyrat e tyre, si në mënyrë profesionale ashtu edhe etike, seriozisht, dhe duke pyetur se çfarë përfitojnë nga sistemet e AI-së.

Po ashtu, jepet vëmendje e madhe ndikimit të vendimmarrjes njerëzore në zhvillimin e makinave që përdorin GenAI.

Ndryshimi i vazhdueshëm

Kërkimi ynë sugjeron se agjencitë e shërbimit publik po marrin kryesisht një qasje të kujdesshme dhe të matur në aplikimin e GenAI në punën e politikës. Zyrtarët e lartë publikë perceptojnë se publiku është i kujdesshëm për mënyrën se si qeveritë përdorin këto mjete. Rindërtimi i besueshmërisë në lidhje me mbikëqyrjen dhe zbatimin e teknologjisë është thelbësor.

Zyrtarët publikë përshkruan shumicën e përdorimit të tyre të GenAI si eksperimente me qëllim. Rezultatet e qarta janë vendosur për përdorimin e këtyre mjeteve dhe procese vlerësimi janë në vend për të monitoruar nëse ato i arrijnë ato.

Kjo shihet si e rëndësishme sepse organizatat e sektorit publik duhet të dinë nëse këto mjete bëjnë atë që premtojnë – ofrojnë vlerë për para dhe ndihmojnë në mbrojtjen kundër rreziqeve të papritura.

Përdorimi i paautorizuar

Disa skandale të fundit tregojnë se si mjetet e GenAI mund të jenë të rrezikshme kur përdoren gabimisht. Në përgjigje, disa agjenci të shërbimit publik kanë ndaluar modelet e GenAI që janë të disponueshme lirshëm si ChatGPT dhe lejojnë vetëm aksesin në programe zyrtarisht të autorizuara si Copilot.

Por kjo nuk do të thotë se zyrtarët publikë nuk po përdorin teknologjinë.

Disa intervistues na thanë se ishin të vetëdijshëm për kolegë që po përdornin programe të paautorizuara për të rritur produktivitetin e tyre. Pajisjet personale shpesh përdoren për të shmangur kufizimet e sistemit. U shprehën shqetësime se zyrtarët publikë mund të mos marrin udhëzime mbi mënyrën e përdorimit të kujdesshëm dhe të sigurt të këtyre mjeteve.

Realiteti i ri

Teknologjia e GenAI po kërkohet të kryejë detyra që kërkojnë inteligjencë njerëzore dhe të bëjë këto detyra më shpejt. Megjithatë, gjetjet tona tregojnë për një nevojë të fortë për të sinkronizuar këto mjete me vlerat e qeverisë australiane që formulojnë pritshmëritë për përdorimin përgjegjës të GenAI.

Shërbimi publik përballet me një dilemë. A është kjo një mundësi për inovacion në punën e politikës qeveritare duke shfrytëzuar ndikimin transformues potencial të programeve të GenAI, siç premtohet në sektorë të tjerë? Apo, është e nevojshme një qasje më e kujdesshme për të krijuar besim, si tek teknologjia, ashtu edhe tek organizatat e sektorit publik për t’i përdorur ato në mënyrë të përshtatshme?

Punimet e fundit të Elon Musk në administratën Trump mund të sugjerojnë të kundërtën. Përvoja theksoi pasojat e rëndësishme të ndikimit të industrisë së teknologjisë dhe përdorimit të mjeteve të AI nën mandat të maksimizimit të efikasitetit qeveritar.

Publiku australian ka pritshmëri të larta nga qeveria për të zgjidhur probleme të tilla si kriza e strehimit dhe presionet e kostos së jetesës. Një kombinim i inteligjencës makinerike dhe njerëzore mund të ofrojë fuqinë e nevojshme për të trajtuar këto çështje komplekse ekonomike dhe shoqërore. Sidoqoftë, jo të gjitha agjencitë janë ende vendosur të aktivizojnë çelësin.

Hulumtimi ynë nxjerr në pah përzierjen e mendimeve mes zyrtarëve të lartë publikë për GenAI. Nëse ajo transformon shërbimin publik ose thjesht e shpejton biznesin si zakonisht do të varet jo nga vetë teknologjia, por nga sa guximshëm, me kujdes dhe në mënyrë transparente qeveritë zgjedhin ta përdorin atë.