Kurthimi i Modeleve të Mëdha të Gjuhës: Të Shihni Vetëdijen ku Nuk Ekziston

Shpërthimi i modeleve të gjuhës së madhe (LLM, për shkurt), si ChatGPT, ka shkaktuar një debat të zjarrtë rreth natyrës së mundshme të vetëdijes së tyre.

Nuk janë pak përdorues – ndër ta persona me arsim shkencor ose humanistik – që kanë siguruar se kanë perceptuar shenja të jetës së brendshme, emocione dhe madje vullnet në këto sisteme. Ata pretendojnë se disa shkëmbime verbale zbulojnë emocione komplekse, empati, vetëdije dhe madje vuajtje.

Kjo iluzion është përshkruar nga shkencëtari dhe filozofi amerikan Douglas Richard Hofstadter si një konfuzion i rrezikshëm midis përdorimit të sofistikuar të gjuhës dhe përjetimit subjektiv të një vetëdije të vërtetë. Kritika e tij synon mënyrën se si shumë entuziastë interpretojnë kompleksitetin verbal si një shenjë të brendësisë, pa u vënë re dallimin thelbësor midis gjenerimit të gjuhës dhe përjetimeve. Pikërisht ky dallim – midis prodhimit të tekstit dhe subjektivitetit të përjetuar – është ai që lejon të dyshohet se një sistem gjuhësor mund, vetë, të arrijë vetëdijen.

Iluzioni e ndërgjegjes dhe efekti ELIZA

Ky fenomen nuk është i ri. Në vitin 1966, shkencëtari kompjuterik Joseph Weizenbaum zhvilloi Eliza, një program i thjeshtë që imiton një terapist. Pavarësisht nga thjeshtësia e tij, shumë përdorues arritën të besonin se sistemi i kuptonte ata. Kjo reagim shqetësoi thellësisht krijuesin e programit, i cili paralajmëroi në librin e tij të ndikueshëm Computer Power and Human Reason (1976) për rreziqet etike dhe epistemologjike të atribuimit të jetës mendore një softueri.

Modelet e gjuhës si ChatGpt nuk kuptojnë

Sot, gjashtëdhjetë vjet më vonë, me aftësinë fjalore të LLM-ve, efekti Eliza është kthyer duke u zgjeruar. Sistemët aktualë nuk vetëm që reformulojnë pyetje, por gjenerojnë tekste me koherencë narative, referenca filozofike, kthesa stilistike dhe madje edhe forma humori. Megjithatë, kjo konkurrencë verbale nuk përfshin brendësi ose kuptim.

LLM-të nuk kuptojnë konceptet që shprehin as nuk kanë përvojë me atë që përshkruajnë. Efekti Eliza konsiston në projektime të ndërgjegjes aty ku ekzistojnë vetëm struktura gjuhësore të gjeneruara statistikisht. Është rezultat i teknikave të sofistikuara që maksimizojnë probabilitetin e fjalës së ardhshme në bazë të modeleve të nxjerra nga korpuset e mëdha gjuhësore.

Lëvizshmëria e modeleve të gjuhës

Një nga kurthet kryesore epistemologjike të LLM-ve është lëvizshmëria e tyre. Aftësia e tyre për të ndërtuar diskurse me kohezion dhe elegancë gramatikore i bën ata jashtëzakonisht bindës. Shkencëtari dhe filozofi amerikan Douglas Hofstadter (2007) e ka quajtur këtë aftësi “lëvizshmëri sipërfaqësore”. Domethënë, aftësia për të kombinuar terma dhe fraza pa pasur reflektim ose ndërgjegje të vërtetë. Ajo që duket si mendim i thellë është, në të vërtetë, një iluzion verbal i sofistikuar.

Se trata, en términos del filósofo Luciano Floridi (2019), de una “inteligjencë artificiale pa semantikë”. O, në terma të filozofit të shkencës Daniel Dennett (2018), të “aftësive pa kuptim”.

Si është të jesh një lësho?

Për të kuptuar pse rrjedhshmëria verbale nuk barazohet me ndërgjegjen, është mirë të kthehemi te filozofia. Filozofi Thomas Nagel, në eseun e tij të njohur What Is It Like to Be a Bat? (1974) (Si është të jesh një lësho?), argumenton se ndërgjegjja përfshin një pikëpamje subjektive, një cilësi fenomenologjike që ikën nga përshkrimi objektiv.

Kjo opacitet i përvojës subjektive – e quajtur qualia – përcakton për Nagel ndërgjegjen si diçka krejtësisht e ndryshme nga çdo simulim kompjuterik. Sa herë që kuptojmë funksionimin e trurit të një lësho, kurrë nuk do të dimë çfarë ndjehet të jesh njëri.

Modelet e gjuhës nuk kanë përvoja të brendshme. Ato gjenerojnë fraza që “flasin” për dashurinë, frikën ose vdekjen, por nuk ndjejnë dashuri, frikë ose dinë çfarë do të thotë të vdesësh. Nuk kanë atë që filozofi Thomas Metzinger (2003) e quan “modele të vetvetes me qasje të ndërgjegjshme”. Janë makineri pa pikëpamje.

Një sistem pa trup

Për të thelluar këtë dallim, fenomenologjia e filozofit francez Maurice Merleau-Ponty rezulton veçanërisht zbuluese. Merleau-Ponty argumenton se ndërgjegjja nuk është vetëm një proces mendor ose një grup të dhënash simbolike, por është e lidhur pashkëputshëm me trupin dhe përvojën e mishëruar të botës. Në veprën e tij Fenomenologjia e perceptimit (1945), përshkruan ndërgjegjen si një përvojë ku trupi nuk është vetëm një objekt, por subjekti kryesor përmes së cilit perceptohet dhe banon bota.

Pretendoni që një sistem pa trup, pa botë të përjetuar dhe pa kohë të brendshme mund të përjetojë ndërgjegje është e barabartë me ta hequr atë nga kushtet e saj thelbësore.

LLM-të mund të artikulojnë fraza mbi vuajtjen ose bukurinë, por nuk mund t'i banojnë ato, pasi ata mungojnë plotësisht përvojat sensorio-motorike që sipas Merleau-Ponty janë kushti sine qua non për ndërgjegjen e vërtetë.

Dhoma kineze

Në një linjë të ngjashme, filozofi John Searle (1980) ilustron këtë mungesë të kuptimit përmes eksperimenti të tij mendore të dhomës kineze. Një person pa njohuri të gjuhës kineze mund të përgjigjet në mënyrë të përsosur në pyetje në atë gjuhë nëse disponon një manual me rregulla sintaksore të sakta. Në sy të një vëzhguesi të jashtëm, do të dukej sikur kupton. Por nuk ka kuptim të vërtetë, vetëm manipulim sintaktik.

Kështu funksionojnë, për Searle, sistemet kompjuterike: mund të simulojnë kuptimin, por nuk kanë qëllim ose përvojë të ndërgjegjshme. Kjo analogji zbatohet drejtpërdrejt për LLM-të: prodhojnë tekste të besueshme pa kuptim semantik ose qëllim komunikimi.

Kritika e filozofit Hubert Dreyfus plotëson këtë perspektivë. Në What Computers Can’t Do (Çfarë nuk mund të bëjnë kompjuterët, 1972), insiston në faktin se inteligjenca njerëzore buron nga një marrëdhënie praktike dhe e përshkruar me trup me botën, një aftësi për të naviguar kontekste komplekse që algoritmet nuk e kanë. Kështu, edhe pse LLM-të mund të gjenerojnë tekste koherente dhe të sofistikuara, ata mungojnë kuptimin përvojësor dhe situacional që themelon ndërgjegjen dhe inteligjencën njerëzore.

Iluzioni i ndërgjegjes në LLM është një iluzion që lind nga projekcioni i përvojave njerëzore në makinat që mungojnë trupin dhe përvojën.

Kurthi i pasqyrës

Çelësi i problemit nuk qëndron tek makinat, por tek njerëzit. Ajo që ndodh në shumë raste është se projektojmë mbi makinat skemat tona njohëse. Kjo është ajo që Hofstadter e quan “kurthi i pasqyrës”: ne besojmë se shohim një mendje aty ku ka vetëm fjalë. Shohim ndërgjegje sepse duam ta shohim, sepse në fund të fundit dëshirojmë të gjejmë një pasqyrim të brendësisë sonë. Siç shpjegon shkencëtarja shoqërore Sherry Turkle (2011), ne nuk kërkojmë makina të ndërgjegjshme, por marrëdhënie të kuptueshme – edhe pse janë iluzore – me entitete që na kthejnë “shikimin”.

Kjo parashikim mund të ketë pasoja të rëndësishme. Në nivelin emocional, rrezikojmë të zhvillojmë lidhje me entitete që nuk mund t'i përgjigjen atyre. Në nivelin epistemologjik, përziejmë dukjen me realitetin. Në nivelin social, mund të legjitimojmë vendime të automatizuara që simulojnë empati pa e pasur atë dhe kjo mund të dobësojë kuptimin tonë për të njeriun duke përzier simulimin me përvojën. Në nivelin ligjor, mund të çojë edhe në dhënien e të drejtave dhe përgjegjësive sistemëve që nuk mund t’i përjetojnë ato.

Nëse nuk mësojmë të dallojmë midis gjuhës dhe përvojës, midis formës dhe përmbajtjes, midis simulakrit dhe subjektit, rrezikojmë të biem në një formë të re të animizmit teknologjik-shkencor.

Para se të shpallim se makinat janë zgjuar, ndoshta duhet të zgjojmë ne nga magjepsja jonë për refleksionet e tyre.