DOGE Zhvilloi Një Mjet AI Me Gabime Për Të 'Munch' Kontratat e Shërbimeve të Veteranëve

nga Brandon Roberts, Vernal Coleman dhe Eric Umansky

ProPublica është një redaksi jo fitimprurëse që heton abuzimet me pushtetin. Regjistrohuni për të marrë histori tona më të mëdha sapo të publikohen.

Ndërsa administrata Trump po përgatitej të anullonte kontratat në Departamentin e Veteranëve këtë vit, zyrtarët u kthyen te një inxhinier softuerësh pa përvojë në kujdesin shëndetësor ose në administratë për t'i udhëhequr ata.

Inxhinieri, duke punuar për Departamentin e Efikasitetit të Qeverisë, ndërtoi shpejt një mjet artificialisë inteligjente për të identifikuar cilat shërbime nga kompanitë private nuk ishin të domosdoshme. Ai i quajti ato kontrata “MUNCHABLE”.

Kodi, duke përdorur modele të vjetruara dhe të lirë të AI-së, prodhoi rezultate me gabime të dukshme. Për shembull, ai shfaqi madhësinë e kontratave, shpesh duke i lexuar gabimisht dhe duke i rritur vlerën e tyre. Ai arriti në përfundimin se më shumë se një mijë ishin secila në vlerë 34 milionë dollarë, ndërsa në të vërtetë disa ishin për vetëm 35,000 dollarë.

Mjeti DOGE AI shënjestroi më shumë se 2,000 kontrata për “munching”. Nuk është e qartë sa prej tyre janë ose do të anullohen — vendimet e administratës Trump për kontratat e VA-së janë kryesisht një kuti e zezë. VA përdor kontraktorë për shumë arsye, duke përfshirë mbështetjen e spitaleve, kërkimin dhe shërbime të tjera që synojnë kujdesin për veteranët e sëmurë.

Zyrtarët e VA-së kanë thënë se kanë vrarë pothuajse 600 kontrata në përgjithësi. Demokratët në Kongres kanë shtyrë udhëheqësit e VA-së për detaje të veçanta se çfarë është anuluar pa sukses.

Ne identifikuam të paktën dy duar kontrata në listën DOGE që janë anuluar deri tani. Ndër kontratat e anuluara ishte një për mirëmbajtjen e një pajisjeje të sekuestrimit të gjeneve që përdoret për të zhvilluar trajtime më të mira kundër kancerit. Një tjetër ishte për analizën e mostrave të gjakut në mbështetje të një projekti kërkimor të VA-së. Një tjetër ishte për të ofruar mjete shtesë për matjen dhe përmirësimin e kujdesit që ofrojnë infermierët.

ProPublica mori kodin dhe kontratat që ai shënjestroi nga një burim dhe i ndau ato me gjashtë ekspertë të AI dhe prokurimit. Të gjithë thanë se skripti ishte i mangët. Shumë kritikuan konceptin e përdorimit të AI për të udhëhequr prerjet buxhetore në VA, me njëri që e quajti atë “jashtëzakonisht problematik”.

Cary Coglianese, profesor i së drejtës dhe shkencave politike në Universitetin e Pensilvanisë, i cili studion përdorimin dhe rregullimin qeveritar të inteligjencës artificiale, tha se ishte i shqetësuar nga përdorimi i këtyre modeleve të gjuhës së madhe me qëllim të përgjithshëm, ose LLM. “Nuk mendoj se LLM-të e gatshme kanë një besueshmëri të madhe për diçka kaq komplekse dhe të përfshirë si kjo,” tha ai.

Sahil Lavingia, programuesi i angazhuar nga DOGE, i cili atëherë ishte i drejtuar nga Elon Musk, pranoi mangësitë në kod.

“Mendoj se janë bërë gabime,” tha Lavingia, i cili punoi në DOGE për gati dy muaj. “Jam i sigurt se janë bërë gabime. Gabime gjithmonë bëhen. Nuk do të rekomandoja kurrë që dikush të ekzekutojë kodin tim dhe të bëjë atë që thotë. Është si episodi i ‘Zyrës’ ku Steve Carell drejtohet në liqen sepse Google Maps thotë të drejtohesh në liqen. Mos drejto në liqen.”

Megjithëse Lavingia ka folur më parë për kohën e tij në DOGE, kjo është hera e parë që puna e tij është shqyrtuar në detaje dhe hera e parë që ai shpjegon publikisht procesin e tij, deri në linjat specifike të kodit.

Lavingia ka pothuajse 15 vjet përvojë si inxhinier softuerësh dhe sipërmarrës, por nuk ka trajnim formal në AI. Ai punoi shkurtimisht në Pinterest para se të fillonte Gumroad, një kompani e vogël e-commerce që pothuajse u rrëzua në vitin 2015. “Unë shkarkova 75% të kompanisë sime — duke përfshirë shumë nga miqtë e mi më të mirë. Më vdiq shumë,” tha ai. Lavingia mbajti kompaninë në jetë duke “zëvendësuar çdo proces manual me një të automatizuar,” sipas një postimi në blogun e tij personal.

Lavingia tha se afati i shpejtë i urdhëri ekzekutiv i shkurtit të Trump, i cili i dha agjencive 30 ditë për të përfunduar një rishikim të kontratave dhe grantimeve, ishte shumë i shkurtër për të bërë punën manualisht. “Kjo nuk është e mundur — ju keni 90,000 kontrata,” tha ai. “Përveç nëse shkruani ndonjë kod. Por edhe atëherë nuk është vërtet e mundur.”

Nën presion kohor, Lavingia tha se përfundoi versionin e parë të mjetit të tij për analizimin e kontratave në ditën e dytë të punës — duke përdorur AI për të ndihmuar në shkruajtjen e kodit për të. Ai i tha ProPublica se më pas kaloi javën e parë duke shkarkuar kontratat e VA-së në laptopin e tij dhe duke i analizuar ato.

Sekretari i shtypit të VA-së Pete Kasperowicz lavdëroi punën e DOGE-së në verifikimin e kontratave në një deklaratë për ProPublica. “Sa i përket nesh, ky lloj rishikimi kurrë nuk është bërë më parë, por jemi të lumtur të vendosim këtë parim të arsyeshëm,” tha ai.

VA po rishikon të gjitha 76,000 kontratat e saj për të siguruar që secila prej tyre i përkon veteranëve dhe është një përdorim i mirë i parave të taksapaguesve, tha ai. Vendimet për anullimin ose zvogëlimin e madhësisë së kontratave merren pas rishikimeve të shumta nga punonjësit e VA-së, duke përfshirë ekspertët e kontratave të agjencisë dhe stafin e lartë, shkroi ai.

Kasperowicz tha se VA nuk do të anulojë kontrata për punë që ofrojnë shërbime për veteranët ose që agjencia nuk mund t’i bëjë vetë pa një plan të emergjencës në vend. Ai shtoi se kontratat që janë “jashtëzakonisht të shpenzuara, të përsëritura ose përfshijnë shërbime që VA ka aftësinë të kryejë vetë” zakonisht do të ndërpriten.

Zyrtarët e Trump kanë thënë se po punojnë drejt një “qëllimi” për të reduktuar rreth 80,000 persona nga fuqia punëtore e VA-së prej pothuajse 500,000. Shumica e punonjësve punojnë në njërën nga 170 spitalet e VA-së dhe pothuajse 1,200 klinika.

VA ka thënë se do të shmangë shkurtimet e kontratave që ndikojnë drejtpërdrejt në kujdesin, duke u frikësuar se do të shkaktonte dëm për veteranët. ProPublica kohët e fundit raportoi se shkurtimet relativisht të vogla në agjenci tashmë kanë vënë në rrezik kujdesin për veteranët.

VA nuk ka shpjeguar se si planifikon të zhvendosë shërbimet në shtëpi në të njëjtën kohë, siç sugjeroi kodi i Lavingia që ishte planifikimi, ndërsa gjithashtu po shkurtonte stafin.

Shumë brenda VA i thanë ProPublica se procesi për rishikimin e kontratave ishte aq i paqartë saqë nuk mund të shihnin as edhe kush mori vendimet përfundimtare për të vrarë kontratat e veçanta. Pasi skenari “munching” kishte zgjedhur një listë kontratash, Lavingia tha se do t’ia kalonte të tjerëve që do të vendosnin çfarë të anulohej dhe çfarë të mbetej. Asnjë kontratë, tha ai, nuk u ndërpre “pa shqyrtim njerëzor.”

“Unë thjesht i dorëzova [listën e kontratave] punonjësve të VA,” tha ai. “Unë kryesisht vendosa munchable në krye dhe pastaj të tjerët më poshtë.”

Punonjësit e VA i thanë ProPublica se kur DOGE identifikoi kontratat për t’u anuluar herët këtë vit — para se Lavingia të ishte sjellë në ekip — ndonjëherë u jepeshin pak kohë për të justifikuar ruajtjen e shërbimit. Një kujtoi se i ishte dhënë vetëm disa orë. Punonjësit kërkuan të mos emëroheshin sepse frikësoheshin se do të humbnin vendin e punës për shkak të bisedës me gazetarët.

Sipas një email-i të brendshëm që parapriu analizës së AI të Lavingia-s, anëtarët e stafit duhej të përgjigjeshin në 255 karaktere ose më pak — paksa më pak se kufiri prej 280 karakteresh në platformën e medias sociale X të Musk.

Një email i VA i thotë stafit se justifikimi i kontratave të synuara nga DOGE duhet të jetë i kufizuar në 255 karaktere. (Marrë nga ProPublica)

Sapo filloi analizën e kontratave të DOGE, Lavingia tha se u përball me kufizime teknologjike. Të paktën disa nga gabimet e shkaktuara nga kodi i tij mund të gjurmohet tek përdorimi i versioneve më të vjetra të modeleve të OpenAI të disponueshme përmes VA — modele që nuk janë në gjendje të zgjidhin detyra komplekse, sipas ekspertëve të konsultuar nga ProPublica.

Gjithashtu, udhëzimet bazë të mjetit ishin thellësisht të mangëta. Regjistrimet tregojnë se Lavingia programoi sistemin AI për të bërë gjykime të ndërlikuara bazuar në disa faqet e para të çdo kontrate — rreth 2,500 fjalë të para — të cilat përmbajnë vetëm informacion të shkurtër përmbledhës.

“AI është plotësisht mjeti i gabuar për këtë,” tha Waldo Jaquith, një ish-përfaqësues i Obama-s që mbikëqyri kontratat IT në Departamentin e Thesarit. “AI jep përgjigje bindëse që shpesh janë të gabuara. Duhet të ketë njerëz që janë përgjegjës për këtë punë.”

Udhëzimet e Lavingia-s nuk përfshinin kontekst rreth mënyrës së funksionimit të VA-së, se cilat kontrata janë thelbësore ose të cilat janë të kërkuara nga ligji federal. Kjo çoi AI-në të përcaktonte se një pjesë kryesore e sistemit të vetë të prokurimit të kontratave të agjencisë ishte “munchable.”

Në thelb të udhëzimit të Lavingia-s është udhëzimi për të shmangur kontratat që përfshijnë “kujdes direkt ndaj pacientit.”

Pastaj, vlerësoni nëse ky kontratë është "i konsumueshëm" bazuar në këto kritere: … - Niveli 0: Kujdesi direkt ndaj pacientit (p.sh., infermier në shtrat) - NUK ËSHTË I KONSUMUESHËM - Niveli 1: Konsulentët e nevojshëm që nuk mund të inshtohen brenda - NUK ËSHTË I KONSUMUESHËM - Niveli 2+: Shumë shtresa larg kujdesit për veteranët - I KONSUMUESHËM - Kontrata që lidhen me iniciativat "diversitet, barazi dhe përfshirje" (DEI) - I KONSUMUESHËM - Shërbimet që mund të zëvendësohen lehtësisht nga punonjësit e brendshëm W2 - I KONSUMUESHËM

Një qasje e tillë, thanë ekspertët, nuk përballet me realitetin që puna e bërë nga mjekët dhe infermierët për të kujdesur për veteranët në spitale është e mundur vetëm me mbështetje të konsiderueshme rreth tyre.

Sistemi i Lavingia gjithashtu përdorte AI për të nxjerrë detaje si numri i kontratës dhe “vlera totale e kontratës.” Kjo çoi në gabime të shmangshme, ku AI kthente vlerën e gabuar në dollarë kur gjendeshin shumë në një kontratë. Ekspertët thanë se informacioni i saktë ishte i disponueshëm lehtësisht nga bazat e të dhënave publike.

Lavingia pranoi se gabimet ishin rezultat i kësaj qasjeje, por tha se ato gabime u korrigjuan më vonë nga stafi i VA-së.

Në fund të marsit, Lavingia publikoi një version të skriptit “të konsumueshëm” në llogarinë e tij në GitHub për të ftuar të tjerët të përdorin dhe përmirësonin atë, i tha ProPublica. “Do të ishte cool nëse i gjithë qeveria federale do ta përdorte këtë skript dhe kushdo në publik mund të shihte se kjo është mënyra se si VA mendon për uljen e kontratave.”

Sipas një postimi në blogun e tij, kjo u bë me miratimin e Musk para se ai të largohej nga DOGE. “Kur ai pyeti dhomën për përmirësimin e perceptimit publik të DOGE-së, unë pyeta nëse mund të hapja burimin e kodit që po shkruaja,” tha Lavingia. “Ai tha po — kjo ishte në përputhje me qëllimin e DOGE-së për transparencë maksimale.”

Kjo hapje mund të ketë çuar në fund në shkarkimin e Lavingia-s. Lavingia konfirmoi se ishte pushuar nga DOGE pasi dha një intervistë për revistën Fast Company rreth punës së tij me departamentin. Një zëdhënës i VA-së refuzoi të komentojë për shkarkimin e Lavingia-s.

Zyrtarët e VA-së kanë refuzuar të thonë nëse do të vazhdojnë të përdorin mjetin “munchable” në të ardhmen. Por administrata mund të përdorë inteligjencën artificiale për të ndihmuar agjencinë të zëvendësojë punonjësit. Dokumentet e mëparshme të siguruara nga ProPublica tregojnë se zyrtarët e DOGE-së propozuan në mars konsolidimin e departamentit të kërkesave për përfitime duke u mbështetur më shumë në AI.

Dhe kontraktorët e qeverisë po i kushtojnë vëmendje. Pas publikimit të kodit të Lavingia, ai tha se dëgjoi nga njerëz që po përpiqeshin të kuptonin se si të mbajnë paratë në rrjedhë.

“Më dërguan disa mesazhe private nga kontraktorët e VA-së që kishin pyetje kur panë këtë kod,” tha ai. “Po përpiqeshin të siguroheshin që kontratat e tyre nuk do të ndërpriten. Ose të mësonin pse u ndërprenë.”

“Në fund të ditës, njerëzit janë ata që ndërpresin kontratat, por është e dobishme për ta të shohin se si mendojnë DOGE, Trump ose drejtuesit e agjencisë për atë që do të konsumojnë. Transparenca është diçka e mirë.”

Nëse keni ndonjë informacion në lidhje me keqpërdorimin ose abuzimin e AI-së brenda agjencive qeveritare, Brandon Roberts është një gazetar hetues në ekipin e aplikacioneve të lajmeve dhe ka një përvojë të pasur në përdorimin dhe analizimin e inteligjencës artificiale. Ai mund të kontaktohet në Signal @brandonrobertz.01 ose me email brandon.roberts@propublica.org.

Nëse keni informacione rreth VA-së që duhet të dimë, kontaktoni raportuesin Vernal Coleman në Signal, vcoleman91.99, ose përmes emailit, vernal.coleman@propublica.org, dhe Eric Umansky në Signal, Ericumansky.04, ose përmes emailit, eric.umansky@propublica.org.