Shënime në Blog

Chatbot: An idiocy

Chatbot: An idiocy

By Slavoj Zizek / Millions of people are already using so-called chatbots , programs that have the ability to converse with human beings, understanding their intentions and responding based on rules and codes preset by programmers. Recently, they have improved so much that it is no wonder that universities and high schools have panicked, so they are deciding to conduct only oral exams, and not written ones.

Among the many problems, one deserves our attention: what to do when a person dialoguing with a chatbot uses vulgar language or makes racist or sexist comments, and the program, arranged in such a way to adapt his responses, adopts the same tone communication? The most obvious answer is some kind of regulation that sets clear boundaries, in other words, censorship. But who will decide to what extent this censorship will be? Should political positions considered "offensive" by some be banned?

Will solidarity with the Palestinians in the West Bank or the claim that Israel is an apartheid state, as former United States President Jimmy Carter wrote in the title of his book, be blocked as "anti-Semitic" expressions?

Në të vërtetë, problemi është më i thellë, siç tha shkrimtari James Bridle: “Inteligjenca artificiale, në formën e saj aktuale, bazohet në përvetësimin total të kulturës ekzistuese dhe ideja se ajo është vërtetë inteligjente, mund të jetë e rrezikshme.” Nuk duhet nënvlerësuar aftësia e gjeneruesve të imazheve që bazohen në inteligjencë artificiale: “Në përpjekjen e tyre për të kuptuar dhe shumëfishuar kulturën vizuale njerëzore, duket se kanë rikrijuar edhe frikërat tona më të thella”, vazhdon Bridle, “ndoshta është veçse një shenjë që këto sisteme janë shumë të zonjat për të kopjuar si majmunët vetëdijen njerëzore, deri në tmerrin që ushqehet në rrënjë të ekzistencës: frika jonë nga imoraliteti, vdekja dhe korrupsioni. Imoraliteti dhe neveria e jetës dhe e vdekjes do të qëndrojnë brenda nesh dhe duhet t’i bëjmë ne llogaritë me to, pikërisht siç ndodh edhe me shpresën, dashurinë, gëzimin dhe zbulimet e papritura”.

Problemi, sidoqoftë, nuk është vetëm të mbajmë nën vëzhgim imoralitetin dhe neverinë tonë. Le të marrim një shembull: çfarë do të ndodhte nëse, në vend të klasikes “bli një, e dyta është falas!”, të thoshim: “Bli një birrë me çmimin e dy birrave, dhe merr të dytën falas!”. Lokali që përdori këtë riformulim, në një dërrasë jashtë hyrjes, tërhoqi shumë klientë të rinj: slogani u anulua, cinizmi i tij u pranua si një formë ndershmërie komike. Si do të reagonte një chatbot? A do ta konsideronte ai dukshëm një marrëzi ("Por ju keni paguar tashmë për dy, kështu që birra e dytë nuk është falas!")? A do ta kuptonte ironinë apo domethënien e kësaj strategjie?

Dhe të shkojmë tek fjalët e turpshme. Përdorimi i “fuck” në gjuhën e përditshme jetëson një situatë të çuditshme: tregon diçka që shumica e njerëzve pëlqejnë të bëjnë ("Qiva gjithë natën aq sa s’jam kënaqur ndonjëherë më shumë!"), por kur termi përdoret në shprehje si "shko qifsh veten!" apo në variante të ngjashme, tregon dukshëm një qëndrim agresiv. A është gati inteligjenca artificiale për të kuptuar këto dallime? Këtu luhet kombinimi i pandashëm i dështimit dhe suksesit: suksesi i vërtetë retorik lind nga riinterpretimi i dështimit si sukses.

Në esenë e tij “Mbi formimin gradual të mendimeve në procesin e fjalës” (i vitit 1805, por i publikuar për herë të parë pas vdekjes në vitin 1878), shkrimtari gjerman Heinrich von Kleist e përmbys kështu ndjenjën e zakonshme sipas së cilës njeriu duhet të hapë gojën për të thënë diçka vetëm kur ka një ide të qartë të asaj që dëshiron të thotë: “Pra, nëse një mendim shprehet në mënyrë konfuze, kjo nuk do të thotë në asnjë mënyrë se ky mendim ishte konceptuar në mënyrë konfuze. E kundërta është e vërtetë, shanset janë që idetë e shprehura në formë konfuze, të jenë ato që janë menduar më qartë.”

Në një prej fjalimeve të Stalinit në fillimin e viteve ’30, ka një pjesë ku diktatori sovjetik propozon masa radikale kundër gjithë atyre që i kundërviheshin, edhe në mënyrë të fshehtë, kolektivizimit të fermave bujqësore: “Duhet të luftojmë pa mëshirë edhe ata që i kundërvihen kolektivizimit edhe veç në mendimet e tyre: po, pikërisht kështu, duhet të luftojmë edhe mendimet e njerëzve.”

Mund të supozohet qartësisht se ky paragraf nuk ishte përgatitur paraprakisht: Stalini e la veten të magjepsej nga entuziasmi retorik i luftës kundër armiqve të kolektivizimit dhe ishte e natyrshme që ai të shtonte se edhe mendimet vetjake të njerëzve duheshin kontrolluar dhe luftuar. E kuptoi me shpejtësi atë që sapo kishte thënë, por në vend që ta pranonte se ishte një frazë në rrëmbim e sipër, vendosi t'i qëndronte hiperbolës së tij.

Ndodh në këtë kuptim që, sipas fjalëve të Jacques Lacan-it, e vërteta është një efekt befasie shkaktuar nga vetë shqiptimi i saj ose, sipas fjalëve të Louis Althusser, duke iu referuar lojës së fjalëve midis “prise” dhe “surprise”, çdo kuptim “autentik” i disa përmbajtjeve është një “surprizë” për këdo që i kryen. Por a mund t'i bëjë të gjitha këto një chatbot? Në një farë mënyre, me gjithë marrëzinë e tij, ai nuk është aq budalla sa ta bëjë këtë. Dhe rreziku i vërtetë është të mos besosh se fjalimi i chatbot-it është tamam si ai i një njeriu, por që komunikimi me chatbot i shtyn njerëzit e vërtetë të flasin si chatbot, duke humbur kështu nuancat dhe ironitë, duke pasur parasysh fiksimin pas saktësisë së të thënit vetëm çfarë nënkuptojnë në të vërtetë.

Por mund të bëhet edhe ndryshe. Chatbot-ët janë naivë (u mungon ironia dhe aftësia për të reflektuar), por jo mjaftueshëm: nuk janë në gjendje të kuptojnë një naivitet edhe më të madh. Kur isha student, një mikut tim i ndodhi një gjë e çuditshme: pas një përvoje traumatike, shkoi te një psikanalist shumë i mirë slloven dhe, duke qenë se kishte një steriotip se çfarë prisnin psikanalistët nga një pacient, në takimin e parë ai shprehu një sërë “tematikash të lira”, por krejt të rreme, se sa shumë e urrente babanë e tij dhe se si e donte të vdekur.

Në librin e tij të shkëlqyer mbi Dostojevskin, Rowan Williams propozon një lexim radikalisht të ri të romanit “Idioti”, ndryshe nga leximi mbizotërues, sipas së cilit heroi i romanit, princi Mishkin, idioti, cilësohet si një person i dashur dhe i mirë, "Njeriu absolutisht i mirë dhe i bukur", siç e përcakton vetë Dostojevski, një person për të cilin lojërat e pushtetit janë aq të vështira sa, në fund, ai duhet të tërhiqet në vetminë e çmendurisë. Në kundërshtim me këtë lexim standard, Williams e konsideron Mishkinin si syrin e një cikloni: një njeri të mirë dhe të shenjtë, por pikërisht sepse është i tillë, shkakton vetëm kaos dhe vdekje përreth vetes. Dhe për shkak të tij, për rolin që ai ka në rrjetin e ndërlikuar të marrëdhënieve që e rrethojnë, Rogozhin, antagonisti, masakron Nastasia Filipovnën, me të cilën ishin të dy të dashuruar.

Mishkini, që për veten ishte një model mirësie, për njerëzit rreth e rrotull tij s’është veçse një idiot: ai është një idiot naiv, i pavetëdijshëm për efektin e tij shkatërrues mbi të tjerët. Një person që flet si një chatbot: mirësia e tij qëndron në faktin se ai reagon ndaj sfidave pa ironi, vetëm me klishe që nuk bazohen në reflektime dhe që mund të ishin krijuar lehtësisht nga inteligjenca artificiale.

Dhe a nuk është ky i njëjti problem i formave të reja të censurës që thirren nga ndjekësit e woke (që nënkupton njerëzit tejet të vëmendshëm ndaj paragjykimeve radikale dhe diskriminimit)? Ata janë njëkohësisht, të dy, naivë dhe jo mjaftueshëm naivë, sikur të ishin anatema të krijuara nga një chatbot.

*Slavoj Zizek is a Slovenian philosopher, sociologist and academic. A researcher of Marxism, German idealism and Lekanian psychoanalysis, he is known for confronting current topics by combining philosophical concepts with popular culture. The article was written by Erjon Uka.