A mund të shpëtojë inteligjenca artificiale fëmijët nga abuzimi seksual në rrjetet sociale?

Çdo vit, më shumë se 300 milionë fëmijë, vajza dhe adoleshentë — rreth një nga dhjetë të mitur në të gjithë globin — përballen me eksploatimin ose abuzimin seksual në internet. Në rastin e Spanjës, të dhënat nuk janë më të mira. Në fakt, hulumtimet shkencore tregojnë se kjo është një problem që prek midis 10 dhe 20 % të të miturve në Spanjë. Numri i rasteve është i lartë dhe policia nuk ka mjetet e mjaftueshme për t’i hetuar të gjitha.

Legjislacioni aktual lejon hetuesit të ndjekin burimet dixhitale të hapura, përfshirë rrjetet sociale, për të identifikuar indicio të krimit të rëndësishëm. Gjithashtu, lejon përfshirjen në hetim të provave të mbledhura nga individë të veçantë, siç mund të jetë regjistri i bisedave që viktimat e mundshme të grooming (abuzimi seksual i të miturve përmes rrjeteve sociale) mund të ofrojnë.

Inteligjenca artificiale (IA) lejon policinë të analizojë sasi të mëdha të dhënash në sekonda, të zbulojë modelete të dyshimta dhe të lokalizojë më shpejt kriminelët e mundshëm. Gjithashtu, e lehtëson rishikimin e mijëra skedarëve në hetime të ndërlikuara. Pa IA, ky punë do të ishte pothuajse e pamundur. Megjithatë, përdorimi i saj sjell një dilemë: sa larg mund të ndërhyjnë këto mjetet pa shkelur të drejtat themelore si privatësia?

Përdorimi i IA-së në Spanjë, në fakt, nuk është i ri. Policia e përdor, për shembull, për analizimin e rrezikut të rikthimit të dhunës në rastet e dhunës së gjinive.

Kur IA rishikon bisedat dhe kërkon imazhe

Në disa vende, edhe pse jo në Spanjë, përdoren mjete me IA për ndjekjen e krimeve seksuale ndaj të miturve në internet. Disa rishikojnë bisedat dhe prioritizojnë denoncimet, ndërsa të tjera kërkojnë imazhe të paligjshme në web. Në të gjitha rastet, qëllimi është të lehtësojnë punën e policisë.

Kryefjala e debatit është të përcaktohet nëse përdorimi i IA-së në hetimin policor të krimeve, veçanërisht në rastet e grooming, është në përputhje me ligjin. Deri kohët e fundit, rregulloret ishin të fragmentuara dhe ofronin pak garanci për përdorimin e këtyre teknologjive.

Në vitin 2016, u miratua një Direktivë evropiane që ndalonte bazimin e vendimeve ligjore vetëm në analizën automatike të të dhënave. Më vonë, në 2021, Parlamenti Evropian lejoi përdorimin e IA-së, por me kufizime. Midis tyre, që algoritmet duhet të jenë transparente, të kuptueshme dhe të verifikueshme. Dhe, mbi të gjitha, vendimet përfundimtare duhet të merren nga njerëz, jo nga makinat.

Së fundmi, është miratuar Rregullorja Evropiane për IA të vitit 2024, e cila lejon përdorimin e këtyre mjeteve në drejtësinë penale. Megjithatë, rregullorja e vlerëson përdorimin e tyre si me rrezik të lartë. Kjo do të thotë që, ndër të tjera, këto mjete duhet të jenë të sigurta, transparente dhe të monitoruara nga njerëz. Nga ana tjetër, në Spanjë nuk ekzistojnë rregulla të veçanta për përdorimin e IA-së në drejtësinë penale, kështu që korniza ligjore e referencës është ajo evropiane.

Duke parë këtë situatë, shteti spanjoll duhet të shfrytëzojë kornizën ligjore për të zhvilluar mjete që lehtësojnë hetimin e krimeve seksuale ndaj të miturve në rrjet. Për shembull, për të filtruar dhe prioritarizuar numrin e madh të rasteve që arrijnë në duar të policisë spanjolle. Më e vështirë do të ishte të pranohej përdorimi i chatbot-ëve që të maskohen si të mitur, si potenciale viktima, për të “kapur” agresorët seksualë. Kjo është e ndaluar në mënyrë të qartë nga legjislacioni spanjoll.

Megjithatë, ekspertët kanë paralajmëruar për problemet që sjell përdorimi i IA-së në fushën penale. Edhe pse është e aftë të zbulojë modele, ajo nuk është e përsosur. Një algoritëm i keq dizajnuar mund të gjenerojë gënjeshtra pozitive, duke treguar si të dyshuar përdorues që nuk kanë kryer asnjë krim.

Analiza paraprake e fenomenit

Për të shmangur këto dhe probleme të tjera që lidhen me mjetet bazuar në algoritme ose IA, është shumë e rëndësishme të kryhet një analizë paraprake e fenomenit të krimit seksual online. Gjithashtu, sistemet duhet të furnizohen me të dhëna të plota për të siguruar që rezultatet e tyre të tejkalojnë atë të një analize njerëzore.

Nëse merret parasysh kjo, implementimi i IA-së mund të ofrojë një mundësi për të identifikuar dhe korrigjuar këto paragjykime. Në fakt, paragjykimet ndaj IA-së vijnë nga të dhënat që i ushqejnë njerëzit.

Prandaj, shteti spanjoll duhet të shoqërojë implementimin e këtyre mjeteve me një kornizë ligjore të fortë që mbrojë të drejtat themelore. Gjithashtu, është thelbësore të kuptohet se IA duhet të plotësojë punën njerëzore, duke ofruar analiza dhe të dhëna për vendimmarrje më të informuar dhe të saktë.

Në përmbledhje, IA mund të transformojë ndjeshëm menaxhimin e rasteve policore të krimeve të grooming. Megjithatë, duhet të përdoret si plotësim, me një kuptim të qartë të kufizimeve dhe rreziqeve të saj për të forcuar rolin e agjentëve të sistemit të drejtësisë.