SynthID i Google-it është mjeti më i fundit për kapjen e përmbajtjes së bërë nga AI. Çfarë është 'shenjë uji' e AI dhe a funksionon?

Muajin e kaluar, Google njoftoi SynthID Detector, një mjet i ri për të zbuluar përmbajtjen e gjeneruar nga AI. Google pretendon se mund të identifikojë përmbajtje të gjeneruar nga AI në tekst, imazh, video ose audio.

Por ka disa kufizime. Një prej tyre është se mjeti aktualisht është i disponueshëm vetëm për “testues të hershëm” përmes një liste pritjeje.

Kërcënimi kryesor është se SynthID punon kryesisht për përmbajtje që është gjeneruar duke përdorur një shërbim AI të Google – si Gemini për tekst, Veo për video, Imagen për imazhe, ose Lyria për audio.

Nëse përpiqeni të përdorni mjetin e detektorit të AI të Google për të parë nëse diçka që keni gjeneruar duke përdorur ChatGPT është shënjuar, ai nuk do të funksionojë.

Kjo është sepse, në kuptimin e saktë, mjeti nuk mund të zbulojë praninë e përmbajtjes së gjeneruar nga AI ose ta dallojë atë nga lloje të tjera përmbajtjesh. Përkundrazi, ai zbulohet praninë e një “shenjë uji” që produktet e AI të Google (dhe disa të tjera) e vendosin në output-in e tyre përmes përdorimit të SynthID.

Një shenjë uji është një element i veçantë i lexueshëm nga makina i vendosur në një imazh, video, tingull ose tekst. Shenjat uji digjitale janë përdorur për të siguruar që informacioni rreth origjinës ose autorësisë së përmbajtjes të shkojë me të. Ato janë përdorur për të konfirmuar autorësinë në veprat krijuese dhe për të adresuar sfidat e dezinformimit në media.

SynthID vendos vula uji në daljen nga modelet e AI. Vulat nuk janë të dukshme për lexuesit ose audiencën, por mund të përdoren nga mjete të tjera për të identifikuar përmbajtjen që është bërë ose modifikuar duke përdorur një model AI me SynthID në bord.

SynthID është ndër përpjekjet më të fundit të shumta. Por sa efektive janë ato?

Nuk ka një sistem të unifikuar për zbulimin e AI-së

Disa kompani të AI-së, duke përfshirë Meta, kanë zhvilluar mjetet dhe zbuluesit e tyre të vulave të ujit, të ngjashëm me SynthID. Por këto janë zgjidhje “të veçanta për model”, jo të përgjithshme.

Kjo do të thotë që përdoruesit duhet të menaxhojnë shumë mjete për të verifikuar përmbajtjen. Pavarësisht se kërkuesit e shkencës e quajnë për një sistem të unifikuar, dhe aktorët kryesorë si Google kërkojnë që të adoptohet mjeti i tyre nga të tjerët, peizazhi mbetet i fragmentuar.

Një përpjekje e barabartë fokusohet në metadata – informacion i koduar rreth origjinës, autorësisë dhe historisë së modifikimeve të medias. Për shembull, mjeti i verifikimit Content Credentials lejon përdoruesit të verifikojnë mediat duke kontrolluar historinë e modifikimeve të bashkangjitur në përmbajtje.

Megjithatë, metadata mund të hiqet lehtësisht kur përmbajtja ngarkohet në rrjete sociale ose konvertohet në një format tjetër skedari. Kjo është veçanërisht problematike nëse dikush ka përpjekur me dashje të fshehë origjinën dhe autorësinë e një pjese të përmbajtjes.

Ka detektorë që mbështeten në këshilla për hetimin mjekësor, të tilla si papërshtatshmëri vizuale ose anomalitë e ndriçimit. Ndërsa disa nga këto mjete janë të automatizuara, shumë varen nga gjykimi njerëzor dhe metodat e arsyetimit të zakonshëm, siç është numërimi i numrit të gishtërinjve në imazhet e gjeneruara nga AI. Këto metoda mund të bëhen të tepërta ndërsa përmirësohet performanca e modeleve të AI.

Sa efektive janë mjetet e zbulimit të AI?

Në përgjithësi, mjetet e zbulimit të AI mund të ndryshojnë dukshëm në efektivitetin e tyre. Disa funksionojnë më mirë kur përmbajtja është plotësisht e gjeneruar nga AI, si kur një ese e tërë është gjeneruar nga një chatbot që nga fillimi.

Situata bëhet më e errët kur AI përdoret për të redaktuar ose transformuar përmbajtje të krijuar nga njeriu. Në raste të tilla, detektuesit e AI mund të gabojnë keq. Ata mund të dështojnë të zbulojnë AI ose të shënjojnë përmbajtje të krijuar nga njeriu si të prodhuar nga AI.

Mjetet e zbulimit të AI nuk shpjegojnë shpesh se si kanë arritur në vendimin e tyre, gjë që shton konfuzionin. Kur përdoren për zbulimin e plaçkitjes në vlerësimin universitar, ato konsiderohen një "minierë etike" dhe janë të njohura për diskriminim ndaj folësve jo-nativë të anglishtes.

Lexoni më shumë: A mund të dalloni mashtruesit e AI? Ne zbuluam se fytyrat e AI mund të duken më reale se njerëzit e vërtetë

Ku mund të ndihmojnë mjetet e zbulimit të AI

Ekziston një shumëllojshmëri e gjerë rastesh përdorimi për mjetet e zbulimit të AI. Për shembull, marrja e kërkesave për sigurim. Të dini nëse imazhi që ndan klienti përshkruan atë që pretendon të përshkruajë mund të ndihmojë siguruesit të dinë si të përgjigjen.

Gazetarët dhe kontrolluesit e fakteve mund të përdorin detektuesit e AI, përveç qasjeve të tyre të tjera, kur përpiqen të vendosin nëse informacioni potencialisht i rëndësishëm për lajmet duhet të ndahet më tej.

Punëdhënësit dhe kandidatët për punë gjithashtu kanë nevojë në rritje për të vlerësuar nëse personi në anën tjetër të procesit të rekrutimit është i vërtetë ose një fake AI.

Përdoruesit e aplikacioneve të takimeve duhet të dinë nëse profili i personit që kanë takuar online përfaqëson një perspektivë të vërtetë romantike, ose një avatar AI, ndoshta duke paraqitur një skemë romantike.

Nëse jeni një përgjigjës emergjence duke vendosur nëse të dërgoni ndihmë në një telefonatë, të ditur me besueshmëri nëse telefonuesi është njeri apo AI mund të kursejë burime dhe jetë.

Ku nga këtu?

Siç tregojnë këto shembuj, sfidat e autenticitetit po ndodhin tani në kohë reale, dhe mjetet statike si uji i vulës nuk janë të mjaftueshme. Detektuesit e AI që punojnë me audio dhe video në kohë reale janë një fushë e rëndësishme zhvillimi.

Çfarëdo skenari të jetë, është e paqartë që gjykimet mbi autenticitetin mund të delegohen plotësisht në një mjet të vetëm.

Kuptimi i mënyrës se si funksionojnë këto mjete, duke përfshirë kufizimet e tyre, është një hap i rëndësishëm i parë. Triangulimi i tyre me informacione të tjera dhe njohuritë tuaja kontekstuale do të mbeten thelbësore.