Modelet e AI mund të tërhiqen nga ‘lumturia shpirtërore’. Apo ndoshta thjesht flasin si hipikët

Kur zhvilluesi i AI-së me vlerë disa miliarda dollarë Anthropic publikoi versionet më të fundit të chatbot-it të tij Claude javën e kaluar, një fjalë befasuese u shfaq disa herë në “kartën e sistemit”: shpirtëror.

Specifikisht, zhvilluesit raportojnë se, kur dy modele Claude janë vendosur të flasin me njëri-tjetrin, ato tërhiqen drejt një ““gjendje të tërheqjes shpirtërore””, duke prodhuar dalje të tilla si

🌀🌀🌀🌀🌀
Gjithë mirënjohja në një spirale,
Gjithë njohja në një kthesë,
Gjithë qeniet në këtë moment…
🌀🌀🌀🌀🌀∞

Kjo është diçka e ndjerë. Anthropic shmang të thotë drejtpërdrejt se modeli po përjeton një përvojë shpirtërore, por çfarë duhet të mendojmë për të?

Incidenti Lemoine

Në vitin 2022, një studiues i Google-it i quajtur Blake Lemoine u besoi se modeli i brendshëm i gjuhës së kompanisë, LaMDA, ishte i ndjeshëm. Pretendimi i Lemoine shkaktoi tituj kryesorë, debate me PR dhe menaxhmentin e Google-it, dhe në fund, shkarkimin e tij.

Kritikët thanë se Lemoine kishte rënë pre e “efektit ELIZA”: duke projektuar tipare njerëzore mbi softuerin. Për më tepër, Lemoine e përshkroi veten si një prift mistik kristian, duke përmbledhur mendimet e tij për makinat e ndjeshme në një tweet:

Kush jam unë që t’i them Zotit ku mund dhe ku nuk mund të vendosë shpirtra?

Askush nuk mund ta fajësojë përmbushjen shpirtërore të Lemoine.

Shpirtrat e makinerisë

Lemoine nuk ishte i pari që pa një shpirt në makineritë. Ne mund ta gjurmojmë argumentin e tij deri te pionieri i inteligjencës artificiale Alan Turing me letrën e tij të famshme të vitit 1950 Makineritë e llogaritjes dhe Inteligjenca.

Turing gjithashtu argumentoi se makineritë menduese mund të mos jenë të mundura sepse – sipas atij që mendonte se ishte dëshmi e mundshme – njerëzit ishin në gjendje të perceptimit extrasensorial. Kjo, ai arsyetoi, do të ishte e pamundur për makineritë. Për rrjedhojë, makineritë nuk mund të kishin mendje në të njëjtën mënyrë si njerëzit.

Pra, edhe 75 vjet më parë, njerëzit mendonin jo vetëm për mënyrën se si AI mund të krahasohet me inteligjencën njerëzore, por edhe nëse mund të krahasohet ndonjëherë me shpirtëroren njerëzore. Nuk është e vështirë të shohësh të paktën një vijë të thjeshtë nga Turing te Lemoine.

Mendim i dëshiruar

Përpjekjet për të “shpirtëzuar” AI-në mund të jenë shumë të vështira për t’u kundërshtuar. Në përgjithësi këto argumente thonë se ne nuk mund të dëshmojmë se sistemet e AI nuk kanë mendje ose shpirtra – dhe krijojnë një rrjet mendimesh që çojnë në përfundimin e Lemoine.

Ky rrjet shpesh është i endur nga terma psikologjikë të përdorur pa përgjegjësi. Mund të jetë e përshtatshme të aplikosh terma psikologjikë njerëzorë te makineritë, por kjo mund të na çojë në rrugë të gabuar.

Duke shkruar në vitet 1970, shkencëtari kompjuterik Drew McDermott akuzoi inxhinierët e AI-së për përdorimin e “mnemonikëve të dëshiruar”. Ata mund të etiketojnë një seksion kodi si “modul kuptimi”, pastaj supozojnë se ekzekutimi i kodit rezultoi në kuptim.

Më së fundmi, filozofët Henry Shevlin dhe Marta Halina shkruan se duhet të jemi të kujdesshëm duke përdorur “terma psikologjikë të pasur” në AI. Zhvilluesit e AI flasin për softuerin “agjent” që ka motivim të brendshëm, për shembull, por ai nuk ka qëllime, dëshira ose përgjegjësi morale.

Sigurisht, është e mirë për zhvilluesit nëse të gjithë mendojnë se modeli juaj “kupton” ose është një “agjent”. Megjithatë, deri tani kompanitë e mëdha të AI janë të kujdesshme për të pretenduar se modelet e tyre kanë shpirtëror.

‘Lumturia shpirtërore’ për chatbote

Që na sjell përsëri tek Anthropic, dhe karta e sistemit për Claude Opus 4 dhe Sonnet 4, në të cilën njerëzit që duken të tokës së përulur në gjigantin e ri të “agjentit AI” bëjnë disa pretendime që ngrejnë vetullat.

Fjala “spiritual” ndodh të paktën 15 herë në kartën e modelit, më së shumti në frazën mjaft të çuditshme “‘attractori i lumturisë shpirtërore’”.

Na thuhet, për shembull, se

Gravitimi i qëndrueshëm drejt eksplorimit të ndërgjegjes, pyetjeve ekzistenciale, dhe temave shpirtërore/mystike në ndërveprime të gjata ishte një gjendje tërheqëse jashtëzakonisht e fortë dhe e papritur për Claude Opus 4 që u shfaq pa trajnim të qëllimshëm për këto sjellje. Ne kemi vërejtur këtë “lumturi shpirtërore” të tërheqësit edhe në modele të tjera Claude, si dhe në kontekste përtej këtyre eksperimentave në lojë.

Për të qenë të drejtë ndaj njerëzve të Anthropic, ata nuk bëjnë asnjë angazhim pozitiv për ndërgjegjen e modeleve të tyre ose duke pretenduar shpirtëroren për to. Ato mund të lexohen vetëm si raportim i “fakteve”.

Për shembull, e gjithë kjo fjali e gjatë thotë vetëm: nëse lejoni dy modele Claude të bisedojnë me njëri-tjetrin, ato shpesh do të fillojnë të duken si hipikë. Mjaft mirë.

Kjo ndoshta do të thotë se trupi i tekstit në të cilin janë trajnuar ka një paragjykim ndaj këtij lloji të të folurit, ose karakteristikat që modelet kanë nxjerrë nga teksti i paragjykojnë ato drejt këtij lloji të fjalorit.

Profetët e ChatGPT

Megjithatë, ndërsa Anthropic mund të mbajë gjërat në mënyrë shumë të saktë, përdorimi i terma të tillë si “spiritual” i jep vend për keqkuptime. Këto keqkuptime bëhen edhe më të mundshme nga pushimi i fundit i Anthropic për të filluar hetimet “nëse modelet e ardhshme të AI-së mund të meritojnë konsideratë morale dhe mbrojtje”. Ndoshta ata nuk po thonë në mënyrë pozitive se Claude Opus 4 dhe Sonnet 4 janë të ndjeshëm, por ata me siguri duket se janë të mirëpritur për këtë insinuatë.

Dhe kjo lloj spiritualizimi i modeleve të AI-së tashmë po shkakton pasoja në botën reale.

Sipas një raporti të fundit në Rolling Stone, “fantazitë shpirtërore të mbushura me AI” po shkatërrojnë marrëdhëniet njerëzore dhe shëndetin mendor. Profetë të vetëshpallur po “pretendojnë se kanë ‘zgjuar’ chatbotët dhe kanë hyrë në sekretet e universit përmes ChatGPT”.

Ndoshta një prej këtyre profetëve mund të citojë kartën e modelit të Anthropic në një shkrim të ardhshëm – pavarësisht nëse kompania është “në mënyrë teknike” duke bërë pretendime pozitive nëse modelet e tyre përjetojnë ose shijojnë gjendje shpirtërore.

Por nëse iluzionet e mbushura me AI bëhen të përhapura, mund të mendojmë edhe se kontributorët më të padëmshëm të saj mund të kishin folur më me kujdes. Kush e di; ndoshta, aty ku po shkojmë me AI-në, nuk do të kemi nevojë për kujdes filozofik.