Kdo ali kaj lahko piše?

»Pustite me na miru! … Ne maram zdaj!« (Ivan Cankar)

 

Le v slovenskem kulturnem prostoru skodelica kave, poleg dejanske skodelice kave, nosi tudi simbolični pomen. Kako lahko jezikovni modeli, trenirani zgolj na jezikovnem korpusu, preigravajo ta slovenski motiv, ne da bi poznali tudi vrednote družbe, ki je besedila proizvedla? In širše, kako lahko ta motiv povežejo s krščansko mater dolorosa in Jungovim arhetipom matere kot zaščitnice? Njihovo hlinjenje razumevanja in znanja, uspešno skoraj izključno na podlagi statističnih verjetnosti, je pritegnilo pozornost sveta.

Mnogokrat se Cankarjevega implicitnega avtorja v črtici »Skodelica kave« bere kot pisatelja, čeprav sama črtica ne indicira njegovega poklica. Pisateljsko delo je stereotipno označeno kot zamišljeno, čemerno in predvsem samotarsko čepenje za mizo – svojevrstna tlaka, vredna občudovanja. Življenje med besedami je tako skoraj plemenita aktivnost in, preko najvišje oblike dela z jezikom, služenje narodu in njegovi kulturni identiteti. Pisatelj živi radikalno eksistenco, h kateri je poklican, h kateri je primoran in za katero je premalo plačan – še ko si zaželi kave, zna biti problem.

Težko si je predstavljati takega pisatelja, pesnico, scenarista, kolumnistko, blogerja, pravljičarko ali dramaturga, ki se tokrat namesto dolgotrajnega preigravanja s svojimi mislimi, boleče materializiranimi v logično in originalno sosledje stavkov, preigrava z računalniškim programom, ki naj te misli dopolnjuje, spreminja, obrača. Zakaj bi človek, ki obvlada jezik do vrhunske mere, predal svoje besede stroju, ki generira najbolj povprečen stavek, kar je mogoč?

Je pisatelj – prosto po Anonimni tehnologiji Andreja Tomažina – hlapec, heroj ali umetna inteligenca?

 

Umetnost in umetna inteligenca

Vse umetnosti – literatura, glasba, plesna in izrazna umetnost, likovna in vizualna umetnost – so pogojene s človeško kreativnostjo. Pa vendar je umetna inteligenca prispela najprej ravno v kreativno domeno, še preden je prišla denimo v domene, ki se nam zdijo računalnikom bolj primerne. Računalniške so domene eksaktne naravoslovne znanosti (kalkulacij, objektivnosti in omejitev), ne pa domene večpomenskosti (svobode, izražanja, skupnosti).

V angleščini je beseda za računalnik (computer) na začetku svojega obstoja označevala človeka, ki je opravljal kalkulacije, in se šele nato prelevila v oznako za napravo, ki opravlja kalkulacije. Podobna usoda bo morda doletela besedi programer in koder. Še več, morda se bo to zgodilo tudi z besedami pisec, prevajalec, urednik in lektor. A ne pozabimo, da obstaja v človeku užitek po igranju z orodji, kot je kodiranje (vsaj pri nekaterih navdušencih), ali užitek po poetičnem igranju z jezikom, urejanju misli preko zapisovanja s peresom, skiciranja, tipkanja. Ne bojmo se, da je tega konec samo zato, ker je v prostor pisanja vstopil tudi stroj. Pisanje se je kot aktivnost vedno spreminjalo. Neodvisno je bilo izumljeno večkrat, in to na različnih koncih sveta, konec pa ga ni bilo še nikoli.

 

Tehnologije pisanja

Vsakdo med nami piše in vsakomur med nami, naj bo poklicni pisec ali ne, se v imenu nove tehnološke revolucije z imenom umetna inteligenca tresejo tla pod nogami. Ni pa vsakdo med nami literat.

 

»Pišem roman, tenis igram.« (Emil Filipčič)

 

Nikogar ne moti, da je za tenis potreben vsaj lopar in žogica, če že ne celo igrišče s primerno mrežo in navsezadnje tudi teniški partner. Taka je vendar konvencija te igre. Pisanje romana pa je naloga enega samega, ki je v družbeno mrežo vpet kot pronicljiv opazovalec človeškega značaja. Roman kot književna oblika je medij za človeka, vpogled v psiho nekoga drugega in hkrati navodilo, kako biti človek. Pisanje romana tako torej ne more biti v domeni stroja, vsaj ne v celoti.

A pisanje že od nekdaj potrebuje orodja: pisanje je tehnologija.

 

»Pisanje je predvsem tehnologija kiborgov, vrezane površine poznega dvajsetega stoletja.« (Donna Haraway)

 

Trenutna revolucija je epizoda v seriji revolucij informacijske tehnologije, ki se je začela s prvimi inskripcijskimi simboli, vklesanimi v jame ledene dobe, in iznajdbo pisave ter se nadaljevala s prvimi računovodskimi vpisi in razvojem trgovanja, rokopisi, iznajdbo tiska, s pošto, telegrafom, telefonom, radiem, televizijo, računalnikom, internetom, socialnimi omrežji, najmanj od tu naprej nam je poznano iz prve roke. To je kratka zgodovina informacijsko-tehnoloških orodij, ki smo jih izumili, da smo lahko bolje razmišljali in delali – da smo lahko hitreje in učinkoviteje procesirali, arhivirali in prenašali informacije.

Pisanje ni bilo vedno človeški atribut – je le eno od orodij, ki smo jih izumili, orodje, ki je postalo center prakticiranja človeškosti. Večina ljudi do nedavnega sploh ni bila pismenih. Izobrazba se danes začne s socializacijo, glasbo, jezikom, poezijo, pravljicami doma ter nato opismenjevanjem v šoli. Tako se učimo biti človek v svetu. Največ človeškega znanja se je ohranilo skozi besedila, a denimo indijske Vede so se tisočletja prenašale samo ustno.

 

»Jezik je najbolj masivna in inkluzivna umetnost, kar jih poznamo, gromozansko in anonimno delo nezavednih generacij.« (Edward Sapir)

Obstajajo torej drugi načini prenosa informacij iz roda v rod: jezik sam, kultura, navade, tradicije, druga umetnostna izražanja.

 

»Mi oblikujemo orodja in tako orodja oblikujejo nas.« (Marshall McLuhan)

 

V tisočletjih tehnoloških revolucij so bile naše sposobnosti izražanja spremenjene po zmožnostih medija, ki je to izražanje omogočal: peresa, tipkovnice, glasu; knjige, zaslona, radia. Kar se trenutno dogaja z raziskovanjem uporabnosti umetne inteligence na področju pisanja in umetnosti, je v svojem bistvu raziskovanje zmožnosti umetne inteligence kot medija za pisanje. Ali umetna inteligenca le pospešuje in avtomatizira človeško delo ali pa dejansko odpre nov prostor človeškega izražanja, v katerega mi brez tega medija ne bi imeli vstopa? Pospešek in avtomatizacija sta del industrijske revolucije, dodajanje novega elementa pa povsem svoja, nova revolucija. Kako torej naprej?

 

Statičnost knjig

Jezikovni modeli se nenehno spreminjajo. Spreminjata se tudi bralec in pisec. Vsaka bralna izkušnja je tako unikat. Kot bralci radi vidimo pisca kot statično figuro – demiurga literarnega sveta, ki se mu knjiga razodene v procesu pisanja. Redkeje pa pomislimo na pisca kot človeka, ki se je v pisanju moral učiti, uriti in rasti. Nihče v resnici ne piše sam: ujet je v mrežo svoje zgodovine in njenega trenutka, mrežo ljudi okrog sebe, tudi tistih, ki so pisali pred stoletji ali tisočletji, ujet je v mrežo svojih sprožajočih se možganskih nevronov. Zakaj se ne bi uril in rasel v pogovoru s strojem, ki je narejen prav za to, da ga imitira v jeziku? Je to goljufanje, bližnjica prek procesa pisanja, kakršnega smo poznali do zdaj, ali pač še eno od novih orodij, ki so na voljo piscem?

Pisatelji so že dolgo spekulirali, kako bo videti, ko bo njihovo delo in njihovo eksistenco ogrožala strojna inteligenca. »The Great Automatic Grammatisator«, kratka zgodba Roalda Dahla iz leta 1954, govori o književnem trgu, popolnoma preplavljenim z generiranimi besedili, ki jih je iz jezika ustvaril sprva povsem matematični stroj. Zgodba predpostavlja, da žanrski bralci ne potrebujejo dosti več od žanrskih omejitev, da so zadovoljni z bralsko izkušnjo. To zna v primeru umetne inteligence držati: stroj lahko vzame vse naše digitalne podatke, na podlagi katerih nam proizvede unikatno knjigo, ki nas bo kot bralca privlekla. Druga Dahlova predpostavka je, da bralci vseeno potrebujejo človeško figuro – avtorja –, ki naj bi ta tekst proizvedla, zato stroj na svoje knjige še zmeraj daje imena slavnih piscev. Morda ta predpostavka še vedno drži. Tretja predpostavka, s katero živimo še danes, pa je, da je knjiga kot izdelek popolnoma statična, nespremenljiva, zamrznjena v času.

Ravno zadnjič sem se s svojimi otroki, lačnimi zgodb (takšni pač smo ljudje), znašla v Mrs Dalloway’s, priljubljeni neodvisni knjigarni v Berkeleyju. Američani znajo delati hudo vabljive naslovnice, in ker sem se ravno ponovno zaljubila v glasbo, sem odprla prodajno uspešnico iz leta 2001, Bel Canto romanopiske Ann Patchett. V novi izdaji iz leta 2024 je Patchettova natisnila tudi svoje komentarje, pripisane s peresom na rob knjige, včasih kritične, drugič pohvalne, najpogosteje pa le opazovalne. Kot avtorica knjige, ki ji je že zdavnaj pobegnila v svet, je dobila novo priložnost, da jo prebere, prebavi, se odzove nanjo. Knjiga je vedno pogovor s preteklostjo, ki določa sedanjost. Kaj, če bi se knjiga lahko odzvala na bralca ali bralec nanjo? Kakšna je prihodnost knjige zdaj, desetletja globoko v digitalnem času, ko jo je mogoče nenehoma obnavljati in preigravati njeno obliko?

 

Knjiga kot podatek

Materializirana knjiga cveti tudi v digitalnem času, še zdaleč pa to ni več njena edina oblika. Izdana knjiga bolj kot ne nakazuje, da je šla skozi bolj ali manj rigorozen založniški proces. V času jezikovnih modelov pa je marsikatera knjiga ostala brez zaščite pred njihovo lakoto po besedah.

 

»H je bila požrešna. ›Povej mi še eno,‹ mi je rada rekla. Ne vem, od kod ji to.« (Richard Powers)

 

Kako lahko fiktivna H – nevronska mreža, trenirana na ogromni količini besedil – razume človeškost iz knjig? Za jezikovne modele je tekst samo podatek, saj so popolnoma podatkovno agnostični: piksel, tekst, formula, kakršenkoli drug podatek – vse to nima nobene kvalitativne plati. Kako lahko torej H kaj občuti? Tako, da je Richard Powers v romanu Galatea 2.2 H prikazal kot jezikovni model, ki je v svoji esenci človek. H kmalu dobi ime z veliko literarne teže: Helena. Lepa ženska, katere obraz je pognal čez morje tisoč ladij.

Ontološka negotovost pri klepetalnikih – nihanje med človeško podobo in programom – je namerna. A vendar si je umetno inteligenco ekstremno težko predstavljati in jo dejansko zasnovati kot nečloveškega agenta. Kakšna je strojna inteligenca brez človeške maske in kako jo sploh predstaviti, še posebej kadar se stroj pogovarja z nami v našem jeziku? Manjka nam domišljije, preveč smo omejeni z lastno antropocentričnostjo in idejami iz preteklosti. Za humanistiko in umetno inteligenco, zlasti pa za literaturo in drugo fikcijo, je to le eden od izzivov za prihodnost.

 

Uravnavanje vrednot

Uravnavanje vrednot (value alignment) je Sizifovo delo, saj vrednote niso zlahka posplošljive, a sloni na ramenih inženirjev. Vpliv kreatorjev umetne inteligence je povsem enosmeren. Slovenija se trudi ustvariti svoj lasten model, ki bo dobro deloval kljub omejeni količini digitalnih podatkov. A tisto, česar se stroji naučijo zgolj iz teksta, se ne sklada nujno z originalno kulturo, v kateri so besedila vzklila. Če bodo modeli uravnavani po ameriških vrednotah, se bodo te vrednote prelivale v vse kulture, ki bodo te modele uporabljale.

To je samo eden od enormnih vplivov jezikovnih modelov na kulturo in družbo. Povratna zanka njihovega delovanja zajema vse stopnje: od podatkov, ki modele napajajo, do sintetičnih vsebin, ki jih producirajo. Kdo bi si mislil, da bomo humanisti v tem desetletju študirali tako kulturo umetne inteligence kot njeno kulturnost.

 

Poplava nečloveških besed

Zaskrbljujoča plat jezikovnih modelov je poplava nečloveških besed, »besedilna apokalipsa« (textpocalypse), kot jo je krstil Matthew Kirschenbaum. Noben trenutni besedilni kriterij ne zmore razločiti tako imenovanih kentavrov, pol človeških in pol strojnih besedil. Kako krmariti po takem svetu kot pisec in kot bralec?

Dilem, kako obvladovati internet in svet, poln cenenih generiranih podob in stavkov, je veliko. Vprašanja o resnici in tehničnem postopku verifikacije, ki ji pritiče, so povsem humanistična in zahtevajo nove kriterije in celo institucije. Družboslovna vprašanja, predvsem v zvezi s kapitalizmom, so enako nespregledljiva. Ameriški pisatelj Ted Chiang je izjavil, da je »večino naših strahov in tesnob v zvezi s tehnologijo najbolje razumeti kot strahove ali tesnobe glede tega, kako bo kapitalizem uporabil tehnologijo proti nam«.

Že z iskalniki, kot je Google, se je rodila nova oblika jezikovnega kapitala. Jezikovni modeli predstavljajo le razširitev digitalnega ekosistema. Kako klepetamo z njimi, nosi torej veliko težo že za vsakega posameznika, ki v njem sodeluje – in to je danes malodane vsakdo, po lastni izbiri ali pač ne. Problemi digitalne revolucije ostajajo nerešeni, in umetna inteligenca jih le še dodatno amplificira.

 

Vstop umetne inteligence v prostor pisanja

A za trenutek se odmaknimo od izzivov umetne inteligence v tradicionalnih institucijah in gospodarskih sistemih. Kaj je v njej za literaturo, kreativnost in jezik?

Literaturi pripada eksperimentiranje z navigacijo okrog človeške izkušnje – bivanja, pomena, motivacije, namena – in strojnih sposobnosti. A človeški cilji, užitki in frustracije so sekundarni. Prvotna srečanja z umetno inteligenco morajo biti raziskovalne ekspedicije po njenih sposobnostih, ki jih moramo, čeprav smo jih izumili sami, sami tudi odkriti.

Podobno je z jezikom. Vešč pisec je – vsekakor bolj kot nekdo, ki ni vešč jezika – zmožen tako v jeziku kot v jezikovnem modelu spodbuditi te še neodkrite sposobnosti. Preberite si na primer pogovor prvega klepetalnika, Elize, s kanadsko pisateljico Sheilo Heti v Paris Reviewju. Poskusite pred tem ali nato sami govoriti z Elizo.

Trik ni v zgolj pisanju z umetno inteligenco, ampak predvsem v pisanju, ki osvetljuje, kako nam ta tehnologija omogoči novo izkušnjo človeškosti.

Ameriška pisateljica Vauhini Vara je denimo s pomočjo jezikovnega modela napisala esej »Ghosts« (»Duhovi«), ki ga zaradi žalovanja za svojo pokojno sestro sicer ne bi zmogla končati. Jezikovna umetnica Sasha Stiles nam na primer skozi intimni medij jezika, literature in vizualnosti kaže, kako je lahko človeški odnos z našimi tehnološkimi orodji prav tako intimen. Tehnologija je splošna (pisanje, jezikovni modeli itd.), a njena raba je lahko tako splošna (prilagojena populaciji) kot intimna (izraža posameznikovo notranjost).

Človek se od nekdaj igra s fizičnimi in metafizičnimi zmožnostmi tega sveta. V igri ni pomena in namena – je samo motivacija za sam proces igre in njegov konec. Igra še ni umetnost, saj umetnost nosi tudi odgovornost, in prav zato jo tako cenimo.

 

»Umetnik je odgovoren za vse, kar se zgodi v njegovem delu – ne samo za to, kako je delo narejeno, ampak tudi za to, kako je mišljeno.« (Stanley Cavell)

 

Jezik je orodje, vzemi ga v roke – tudi kadar ima umetnointeligenčni ego. Le z odkrivanjem in eksperimentiranjem v radikalni odprtosti do jezika in novega prostora, ki ga je odprla umetna inteligenca, bomo res priča revoluciji jezika in pisanja.

 

Cankar, Ivan. »Skodelica kave.« V: Črtice. Mladinska knjiga, 1967 [1920].

Cavell, Stanley. Must We Mean What We Say?. Cambridge University Press, 2002 [1958]. Str. 14.

Chiang, Ted. »Transcript of the Ezra Klein Podcast«. The New York Times, 23. februar 2023 (https://www.nytimes.com/2021/03/30/podcasts/ezra-klein-podcast-ted-chiang-transcript.html)

Dahl, Roald. »The Great Automatic Grammatisator«. V: Someone Like You. Alfred A. Knopf, 1953. Str. 250–276.

Filipčič, Emil. Keopsova piramida. Študentska založba, 2005.

Haraway, Donna. Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century. The University of Minnesota Press, 2016 [1985].

Heti, Sheila. »Hello, World! Part One: Eliza«. The Paris Review, 14. november 2022 (https://www.theparisreview.org/blog/2022/11/14/hello-world-part-one-eliza/)

Kirschenbaum, Matthew. »Prepare for the Textocalypse«. The Atlantic, 8. marec 2023 (https://www.theatlantic.com/technology/archive/2023/03/ai-chatgpt-writing-language-models/673318/)

Patchett, Ann. Bel Canto. Perennial, 2024 [2002].

Powers, Richard. Galatea 2.2. New York: Farrar Strauss Giroux, 1995.

Sapir, Edward. Language: An Introduction to the Study of Speech. Harcourt, Brace and Co., 1921.

Stiles, Sasha. Technelegy. Black Spring Press Group, 2022.

Vara, Vauhini. »Ghosts«. The Believer, 9. avgust, 2021 (https://www.thebeliever.net/ghosts/)

Tomažin, Andrej. »Hlapci, heroji in umetna inteligenca«. V: Anonimna tehnologija. LUD Literatura, 2018. Str. 17–31.

 

Kritika je bila prvič objavljena v Literaturi 405.