AI do të jetë së shpejti në gjendje të auditojë të gjitha hulumtimet e publikuara – çfarë do të thotë kjo për besimin publik në shkencë?

Vetë-korrigjimi është themelor për shkencën. Një nga format më të rëndësishme është rishikimi nga kolegët, kur ekspertë anonimë shqyrtojnë kërkimet para publikimit. Kjo ndihmon për të mbrojtur saktësinë e regjistrit të shkruar.

Megjithatë, probleme kalojnë pa u vërejtur. Një gamë iniciativash nga baza dhe institucionale punojnë për të identifikuar artikuj problematikë, për të forcuar procesin e rishikimit nga kolegët, dhe për të pastruar regjistrin shkencor përmes tërheqjeve ose mbylljes së revistave. Por këto përpjekje janë të papërfunduara dhe kërkojnë burime të mëdha.

Shpejt, inteligjenca artificiale (IA) do të jetë në gjendje të përshpejtojë këto përpjekje. Çfarë mund të nënkuptojë kjo për besimin publik në shkencë?

Rishikimi nga kolegët nuk kap gjithçka

Gjatë dekadave të fundit, epoka digjitale dhe diversifikimi disiplinor kanë shkaktuar një shpërthim në numrin e artikujve shkencorë të botuar, numrin e revistave ekzistuese, dhe ndikimin e botimeve për fitim.

Kjo ka hapur dyert për shfrytëzim. “Fabrikimet e artikujve” shesin publikim të shpejtë me rishikim minimal tek akademikët e dëshpëruar për kredenciale, ndërsa botuesit përfitojnë fitime të konsiderueshme përmes tarifave të mëdha për përpunimin e artikujve.

Kompani gjithashtu kanë shfrytëzuar mundësinë për të financuar kërkime me cilësi të ulët dhe për të shkruar artikuj fantazmë që synojnë të ndryshojnë rëndësinë e provave, të ndikojnë në politikën publike dhe të ndryshojnë opinionin publik në favor të produkteve të tyre.

Këto sfida të vazhdueshme theksojnë papërsosmërisë së shqyrtimit nga kolegët si mbrojtësi kryesor i besueshmërisë shkencore. Përgjigjja është se janë shfaqur përpjekje për të forcuar integritetin e ndërmarrjes shkencore.

Retraction Watch ndjek aktivisht artikujt tërhequr dhe shkeljet e tjera akademike. Hetuesit akademikë dhe nismat si Data Collada identifikojnë të dhëna dhe figura të manipuluara.

Gazetarët hetues zbulojnë ndikimin e korporatave. Një fushë e re e meta-shkencës (shkenca e shkencës) përpiqet të matë procese të shkencës dhe të zbulojë paragjykime dhe defekte.

Jo të gjitha shkencat e këqija kanë ndikim të madh, por disa me siguri po. Ato nuk mbeten vetëm brenda akademisë; shpesh depërtojnë në kuptimin publik dhe në politikë.

Në një hetim të fundit, ne shqyrtuam një rishikim të sigurisë së gjerë për herbicidin glifosat, i cili dukej të ishte i pavarur dhe i plotë. Në realitet, dokumentet e prodhuara gjatë procedurave ligjore kundër Monsanto zbuluan se artikulli ishte shkruar nga autorë të padukshëm nga punonjësit e Monsanto dhe u botua në një revistë me lidhje me industrinë e duhanit.

Edhe pas zbulesës së kësaj, artikulli vazhdoi të ndikojë në citime, dokumente politike dhe faqe Wikipedia në mbarë botën.

Kur zbulohet një problem si ky, ata mund të bëjnë rrugën e tyre në bisedat publike, ku nuk perceptohen domosdoshmërisht si veprime triumfuese të vetë-përmirësimit. Përkundrazi, ato mund të merren si provë që diçka është e prishur në gjendjen e shkencës. Kjo narrativë “shkenca është e prishur” minon besimin publik.

AI-ja tashmë po ndihmon në kontrollin e letërsisë

Derisa kohët e fundit, ndihma teknologjike në vetëkorrigjim ishte kryesisht e kufizuar në detektuesit e plagjiaturës. Por gjërat po ndryshojnë. Shërbimet e mësimit makinerik si ImageTwin dhe Proofig tani skanojnë miliona figura për shenja të kopjimit, manipulimit dhe gjenerimit nga AI.

Mjetet e përpunimit të gjuhës natyrore shënojnë “fraza të torturuara” – salata fjalësh të tregtarëve të artikujve. Panelët e panelit bibliometrik si ai nga Semantic Scholar ndjekin nëse artikujt citohen për mbështetje ose kundërshtim.

AI – veçanërisht modelet agjentike, me aftësi arsyetimi – do të zbulojë së shpejti më shumë defekte të hollësishme.

Për shembull, Projekti Black Spatula eksploron aftësinë e modeleve më të fundit të AI për të kontrolluar provat e publikuara matematikore në shkallë të gjerë, duke identifikuar automatikisht papajtuesitë algebrike që i kanë shpëtuar rishikuesve njerëzorë. Puna jonë e përmendur më lart gjithashtu mbështetet në modele të mëdha gjuhësore për të përpunuar volume të mëdha teksti.

Duke pasur qasje të plotë në tekstin e plotë dhe fuqinë e duhur të përpunimit, këto sisteme së shpejti mund të mundësojnë një audit global të rekordit shkencor. Një audit i plotë me shumë gjasë do të gjejë disa mashtrime të hapura dhe një masë shumë më të madhe të punës rutinë, të zakonshme me gabime të zakonshme.

Ne ende nuk e dimë sa e përhapur është mashtrimi, por ajo që dimë është se shumë punë shkencore është pa rëndësi. Shkencëtarët e dinë këtë; diskutohet shumë se një pjesë e madhe e punës së publikuar nuk është kurrë ose shumë rrallë citohen.

Për jashtë, kjo zbulesë mund të jetë po aq tronditëse sa zbulimi i mashtrimit, sepse bie në kundërshtim me imazhin e zbulimit shkencor dramatik dhe heroik që mbush njoftimet e shtypit universitar dhe trajtimet e shtypit tregtar.

Ajo që mund t’i japë këtij auditimi peshë shtesë është autori i tij AI, i cili mund të shihet si (dhe mund të jetë në fakt) i paanshëm dhe kompetent, dhe prandaj i besueshëm.

Si rezultat, këto gjetje do të jenë të cenueshme për shfrytëzim në fushata dezinformimi, veçanërisht pasi AI-ja tashmë po përdoret për këtë qëllim.

Rifokusimi i idealit shkencor

Ruajtja e besimit publik kërkon rishpërndarjen e rolit të shkencëtarit në terma më transparentë, më realistë. Shumica e kërkimeve të sotme janë inkrementale, punë që mbështetet në arsim, mentorim dhe angazhim publik.

Nëse duam të jemi të sinqertë me veten dhe me publikun, duhet të braktisim nxitjet që shtyjnë universitetet dhe botuesit shkencorë, si dhe vetë shkencëtarët, të e teprojnë rëndësinë e punës së tyre. Punët që janë vërtetë të ndryshueshme janë të rralla. Por kjo nuk e bën të pavlefshme pjesën tjetër të punës shkencore.

Një më e përulur dhe e sinqertë portretizimi i shkencëtarit si një kontribuues në një kuptim kolektiv, në zhvillim, do të jetë më i qëndrueshëm ndaj shqyrtimit të drejtuar nga AI sesa miti i shkencës si një parade e arritjeve individuale.

Një auditim i gjerë, ndërdisiplinor është në horizont. Ai mund të vijë nga një inspektor qeveritar, një grup mendimi, një grup anti-shkencë ose një korporatë që synon të minojë besimin publik në shkencë.

Shkencëtarët tashmë mund të parashikojnë atë që do të zbulohet. Nëse komuniteti shkencor përgatitet për gjetjet – ose më mirë akoma, merr drejtimin – auditimi mund të frymëzojë një rigjallërim të disiplinuar. Por nëse vonojmë, çarjet që do të zbulojë mund të interpretohen gabimisht si thyerje në vetë ndërmarrjen shkencore.

Shkenca kurrë nuk ka marrë fuqinë e saj nga pafundësia. Besueshmëria e saj qëndron në gatishmërinë për të korrigjuar dhe riparuar. Ne tani duhet ta tregojmë këtë gatishmëri publikisht, para se besimi të thyhet.