V tem prispevku bom predstavila dve nehumanistični možnosti obravnave vprašanja (umetne) inteligence oziroma se bo prispevek – kot nakazuje podnaslov – osredotočal na vprašanje: kaj zasleduje inteligenca? Odgovor na to vprašanje bom poskušala poiskati s pomočjo dveh sodobnih filozofov; prvi je akceleracionistični filozof Nick Land, drugi pa neoracionalistični filozof Reza Negarestani.

Poziciji omenjenih filozofov bi lahko glede na vlogo človeške inteligence v prihodnosti razdelili v dve drži, pri čemer je Land predstavnik konservativne, Negarestani pa progresivistične drže. Glavna značilnost konservativne drže je ta, da ob potencialnem vzniku umetne inteligence človek v tovrstni prihodnosti izgubi zmožnosti delovanja oziroma je ima vse manj. Medtem ko se progresivistična drža, ki se navdihuje med drugim tudi pri nemškemu logičnemu pozitivistu Rudolfu Carnapu, ničemur ne odpoveduje vnaprej: »[F]ilozofija inteligence raziskuje obete tega, kar lahko (teoretično in praktično) storimo s konceptom uma ne kot stvari, pač pa kot projekta v teku« (Negarestani in MacKay, 2018). Za razliko od humanističnega misticizma (zato nehumanistična obravnava inteligence), ki je, kot bomo spoznali pri Bostromu v nadaljevanju, v akademskih diskurzih o UI  dokaj pogost, neoracionalistični pristop ne skuša vnaprej zamejiti možnosti in sposobnosti UI, niti človeka ne omeji na njegovo trenutno stanje, njegove trenutne zmožnosti spoznavanja. Še več, njihova filozofija omogoča popolno subverzijo: človek ni več fiksna entiteta, temveč je umeten, plastičen – lahko bi rekli, da je koncept človeka v neoracionalistični filozofiji le hipoteza: »Ker je življenjska oblika, je človek tudi polje možnosti za re-kognicijo ter re-konstrukcijo te življenjske oblike onkraj eklatantnih lastnosti, ki jih človeku pogosto pripisujemo, ter onkraj tega, kar trenutno – zaradi zgodovinskih dogem v najširšem pomenu besede – mislimo, da človek je« (Negarestani 2021, 47). Za kaj torej pravzaprav gre pri neoracionalizmu in vlogi UI v njem? Gre za to, »da dopustimo inteligenci, da nas preseže, ali pa, prav narobe, naši zmožnosti, da se napravimo za USI^[1]USI: Umetna splošna inteligenca.« (Negarestani in MacKay 2018).

Vincent Le (2020) poimenuje neoracionalistično razumevanje inteligence, katerega predstavnik je, kot smo videli, Negarestani, kot »ortogonalno«. Izraz izhaja iz t. i. ortogonalne teze, ki jo je postavil Nick Bostrom. Na nasprotno stran postavi Nietzschejevo voljo do moči, ki jo Land označi za »diagonalno«. Naj že takoj izpostavim, da Negarestani svoje koncepcije inteligence nikoli ne označi za ortogonalno in je do Bostroma precej kritičen – problem se nahaja v samem izhodišču razumevanja tega, kaj inteligenca sploh je. Ampak naprej moramo ugotoviti, kaj pojma ortogonalnost in diagonalnost pravzaprav označujeta in kako se umeščata v sodobno razpravo o možnostih napovedovanja vedenja, sposobnosti in motivacij UI.

Ortogonalnost

Nick Bostrom (2012) predstavi dve tezi za razumevanje odnosa med inteligenco in motivacijo ‘umetnih’ agensov. Prva je ortogonalna teza, druga pa teza instrumentalne konvergence. Na začetku eseja najprej opozori na problem antropomorfizacije umetne inteligence, ki po njegovem mnenju izhaja iz napačnih predpostavk glede njenih vzgibov. Bostrom zapiše, da imata Nezemljan in človek več skupnega, kot ima človek skupnega z umetno inteligenco, to pa zaradi razširjenje domneve, da je morala tovrstna izvenzemeljska inteligenca iti skozi podobne biološke in evolucijske procese in pri tem slediti podobnim motivom (iskanje hrane, izogibanjem plenilcem in poškodbam, razmnoževanje itd.) Bostrom izpostavi, da umetna inteligenca ne potrebuje nobenih podobnih intrinzičnih vzgibov. Zaradi razumevanja inteligence in motivacij kot ortogonalnih osi na danem grafu Vincent Le ortogonalnost opiše takole: »[B]ostrom razume inteligenco kot instrumentalno sredstvo, ki ga je mogoče izkoristiti za dosego katerega koli cilja. Inteligenca je preprosto ‘škatla za orodje’ s sredstvi, ki jih je mogoče uporabiti za doseganje ciljev, ki so tem sredstvom zunanji« (Le, 2020).

Bostrom predpostavlja, da bo, čeprav so vrednote in inteligenca medsebojno neodvisne, vsaka rekurzivno samoizboljšujoča se inteligenca vseeno imela določen nabor instrumentalnih vrednot, ki bi vsaj v načelu morale biti uporabne za doseganje kateregakoli končnega cilja. Bostrom zato definicijo inteligence nekoliko posodobi: »[Z] izrazom ‘inteligenca’ mislim nekaj takega kot instrumentalna racionalnost, veščina predvidevanja, načrtovanja in na splošno razumskega odločanja pri prehajanju od sredstev k cilju« (2012, 74). Iz tega izhaja druga od zgoraj omenjenih tez, namreč teza o instrumentalni konvergenci:

Obstajajo uporabne vrednote, ki so konvergentne v smislu, da bi bil agens, ki jih poseduje, v večji meri zmožen doseči katerega izmed zadanih poslednjih ciljev v širokem naboru situacij. To implicira, da si inteligentnejši agensi bolj prizadevajo za takšnimi uporabnimi vrednotami (2012, 76).

Bostrom razdeli omenjene vrednote v več kategorij, pri tem pa je pomembno, da »[v]erjetnost, da bo agens prepoznal instrumentalne vrednote, narašča (ceteris paribus) sorazmerno z njegovo inteligenco« (2012, 76). Za kakšne kategorije vrednot gre? Bostrom navaja sledeče: samoohranitev, integriteta cilja in vsebine (ang. goal-content integrity), kognitivne izboljšave (ang. cognitive enhancement), tehnološka dovršenost in pridobivanje virov.

Teza o instrumentalni konvergenci opozarja na možnost (nenamerno) škodljive UI, ki bi ji programsko določili nek končni cilj – npr. izdelavo sponk – vendar ob tem ne bi bilo mogoče zares predvideti, ali bo tovrstna inteligenca med zasledovanjem določenega cilja sledila vrednotam, ki bi uničile potencialno lahko človeštvo (če bi npr. surovine za izdelavo sponk locirala v človeku). Ravno prva teza o ortogonalnosti pa pušča odprto možnost, da tovrsten cilj ni neumen ali neinteligenten – tega po Bostromu preprosto ne moremo predvideti. Edino, kar lahko predvidimo, je, »da si bodo agensi prizadevali pridobiti konvergentne instrumentalne vrednote in jih uporabiti za doseganje svojih končnih ciljev, ne more pa prevideti tega, s katerimi dejanji bodo te cilje zasledovali« (2012, 83).

(H3 376 UHS plane at infinity. Več o tem: Visualising Hyperbolic Honeycombs)

Ortogonalnost v neoracionalizmu?

Le trdi, da je neoraconalistična misel ortogonalna in izpostavi, da se ortogonalisti in – po njegovem mnenju tudi neoracionalisti – sklicujejo na Humovo distinkcijo med dejstvi in najstvi (ang. is/ought) oz. razlikovanjem Wilfrida Sellarsa med vzroki in razlogi (ang. causes/reasons). To storijo zato, da lahko mehansko domeno vzrokov ločijo od domene razlogov, ki niso vzpostavljeni vnaprej. Bostromova teza o ortogonalnosti jim omogoča, da lahko pravzaprav vsako inteligenco podredijo in uporabijo kot instrumentalno sredstvo pri zasledovanju katerih koli ciljev ali vrednot. Z Lejevimi besedami: »Bostrom trdi, da je inteligenca ortogonalna glede na končni cilj, kar na koncu kaže na to, da bi bila lahko celo USI trajno zasužnjena s katerim koli programom, ki ji ga damo« (Le, 2020). Videti je, da iz tega izhaja, da narava ortogonalno koncipirane inteligence ne pozna intrizničnih norm, namenov, vrednot ali končnih ciljev, ki bi jih inteligenca imela, ker je inteligentna. Le zato ortogonalnost označi kot »normativno nedoločeno« (2020). Neoracionalisti se v tem oziru z ortogonalisti in njihovo koncepcijo inteligence ne strinjajo. Potrebno je torej prikazati, kako neoracionalisti pristopajo k temu vprašanju, pri čemer si bom (med drugim) pomagala s spletnim predavanjem Petra Wolfendala (2021).

Za začetek se bom osredotočila na razcep, do katerega je prišlo na področju raziskovanja UI. Prvotnemu raziskovanju UI se dandanes nekoliko šaljivo reče »DSUI« (dobra stara umetna inteligenca – ang. good old fashioned AI), za sodobne oblike raziskovanja UI pa se uporablja skupni izraz »strojno učenje« (ang. machine learning). Stara UI je skušala razviti stroje za splošno reševanje problemov, kar se je kmalu izkazalo za izjemno težavno, in sicer zlasti zaradi t. i. problema okvirja. Ob ta problem zadenemo, ko skušamo natančno opisati svet in vanj dodati nove informacije. Problem okvirja je problem reprezentacije tega, kaj se ob vnosu nove informacije spremeni in kaj ostane nespremenjeno (npr. ali nova vrednost ethereuma vpliva na pripravo čaja). Ker se je problem okvirja izkazal za nerešljivega, se je izdelava UI iz splošnega reševanja problemov premaknila k reševanju specifičnih problemov – pri čemer je največ uspeha poželo prav strojno učenje.

Wolfendale izpostavi, da je glavni problem današnje UI, da jo je treba potem, ko jo nekaj naučiš, novega opravila vedno učiti od začetka. Prav tu tiči problem izgradnje USI – umetne inteligence, ki bi bila plastična in ne bi bila specializirana za reševanje določenih tipov problemov. Težava ni v sentienci (čutečosti), temveč v sapienci (mislečosti): kar je zaželeno, je mišljenje, in temu Wolfendale pravi modrost: »Če je inteligenca reševanje problemov, je modrost zmožnost preoblikovanja problemov« (Wolfendale 2021). Izhodišče neoracionalizma torej ni reševanje problemov, ampak boljše razumevanje problemov. Negarestani o razmerju med sapienco in sentienco zapiše sledeče:

V zadnji instanci sta tako nujna vsebina kot realna možnost človeškega odvisni od sposobnosti mišljenja, ki je s funkcionalnega vidika različno od čutečosti in katerega temeljna značilnost je, da sklepa in se približuje nekanonični resnici s pomočjo igre podajanja razlogov in spraševanja po njih. Tukaj gre za igro samo v pomenu, ki vključuje prakse s pravili, ki dopuščajo napake in ki jih izvajamo brez sodnice_ka. V takih igrah neprestano soočamo, ocenjujemo in kalibriramo praksi vzeti-kot-resnično (znamenje verjetja) ter narediti-za-resnično-skozi-delovanje (znamenje agensa). Gre za dinamično zanko povratnih informacij, pri kateri razširitev enega področja drugim zagotavlja nove možnosti in priložnosti za raznoličenje domen ter potiskanje omejitev nazaj glede na lastne specifikacije (Negarestani 2014).

Grajenje (in mišljenje o) USI potemtakem zahteva drugačno analizo. Preoblikovanje problemov vključuje tri pomembne vidike: (i) vednost je potrebno razumeti kot proces in ne kot produkt; (ii) vednost je potrebno razumeti kot nekaj, kar se transformira in kar ni zamejeno vnaprej; (iii) vednost je vedno izpostavljena reviziji, posodabljanju. Ali kot pravi Wolfendale: »Splošna inteligenca je pravzaprav preverljivost naše celotne predstave o tem, kako deluje svet« (Wolfendale 2021). Pri tem je pomembno, da noben vidik reprezentacije ni izvzet iz možnosti posodabljanja. To obenem pomeni, da je vsak (tudi »končen«) cilj podvržen enakemu procesu. Iz česa torej izrašča tako pogosti diskurz o potencialno škodljivi UI, ki ga srečamo pri Bostromu in Omohundru^[2]Steve Omohundro je 2007 napisal esej »The Nature of Self-Improving Artificial Intelligence«, leta 2008 pa še »Basic AI Drives«, v katerih predstavi svojo tezo o konvergentnih instrumentalnih … Continue reading?

Wolfendale je prepričan, da je strah pred UI pretiran zaradi nerazumevanja vloge želje. Kot primere prenapihnjenih scenarijev, ki so po njegovem mnenju nesmiselni, izpostavi npr. ravno primer UI-sponke in primer Skyneta iz filma Terminator. Kakšno vlogo igra v teh primerih želja? Wolfendale poudari, da večina naših želja ni niti popolnoma determiniranih, niti transparentnih, niti fiksnih. Morda je ena izmed glavnih ugotovitev psihoanalize prav to, da ne vemo, kaj pravzaprav hočemo. Imamo seveda neka osnovna gonila, vendar ta niso nujno zavestna (spomnimo se, da se pri Bostromu zavedanje gonov povezuje s stopnjo inteligence). Wolfendale izpostavi, da je pri človeškem obnašanju očitno, da se lahko človek zoperstavi tudi proti tem osnovnim gonom, proti lastnemu preživetju: ljudje se pogosto žrtvujejo za stvari, v katere verjamejo. Ravno to je pogoj avtonomije: biti sposoben, če poenostavimo, konstitucije novih osnovnih gonov. Wolfendale pri tem privzema kantovsko pozicijo, v kateri igrata najpomembnejšo vlogo avtonomija in samoupravljanje (zmožnost določanja prioritet na način, ki je v nasprotju z egocentričnim preživetjem): »Biti avtonomen agens pomeni imeti nadzor nad stvarmi, za katere si odgovoren« (Wolfendale 2021).

Wolfendale v nadaljevanju izpostavi ključno napako raziskovalcev UI: če definiraš UI kot reševalko težav, boš s tem hkrati zrušil tudi teoretični in praktični um. Takšne teoretično opisane UI imajo avtomatično prisoten jaz, ki se na primer zaveda možnosti lastnega izumrtja. Vendar, pravi Wolfendale, se jaz ne poraja kar od nikoder, temveč gre za dodaten element inteligence. Ključna razlika med ortogonalisti na eni in neoracionalisti na drugi strani je potemtakem v plastičnosti praktičnega uma, ki jo postulira neoracionalizem. Kako to razumeti?

(Ghost in the Shell (1995))

Pri teoretičnem umu je na delu neka dvojnost: eno je sprejemanje resnice (pri kateri imamo reprezentacijo za resnično, ko verjamemo vanjo), drugo pa je obstoj želje (pri kateri gre za težnjo oz. vzgib nekaj storiti). Pri želji ne gre za to, kakšen svet je, ampak kakšen hočemo, da bi bil. To dualnost je moč prikazati tudi kot dvoboj splošne inteligence: »Ko je USI zmožna preoblikovati probleme, pomeni avtonomija izbiro med njimi« (2021). Željo je potrebno razumeti kot proces in ne kot produkt – tako kot znanje. Wolfendale pravi, da je sposobnost gojenja interesov ali želja dejansko sposobnost njihove integracije: »Praktična avtonomija ne pomeni nič drugega kot biti zmožen ponovno spremeniti vse naše predstave o tem, kakšne bi stvari morale biti« (2021). Wolfendale tako zavrača možnost obstoja nekega končnega cilja ali želje, ki bi bila nad vsemi drugimi: vse, prav vse mora biti izpostavljeno reviziji: »Da bi se osvobodil_a, moraš najprej biti sužnja_enj razuma. Ampak biti sužnja_en razumu (ravno pogoj svobode) te razgali pred njegovo sposobnostjo revidiranja ter njegovo slo po konstrukciji« (Negarestani 2014).

Jaz je torej tisti, ki omogoča avtonomijo. Wolfendale poda nekaj iztočnic o tem, kako razumeti jaz. (i) Avtonomija pomeni samonadzor, v katerem se združujeta normativna in kavzalna dimenzija. Tukaj gre za jaz kot model oz. kot reprezentacijo samega sebe, kot »del našega modela sveta« (2021). (ii) Obstajata dve plati reprezentacije jaza: realna (kakršna sem) in idealna (kakršna bi morala biti). To razliko bi lahko preimenovali tudi v dihotomijo telesa in duše. »Telo« je v tem primeru sredstvo-po-sebi (platforma), duša pa cilj-po-sebi (umetnost). Če utelešenost igra pomembno vlogo pri samoreprezentaciji neke osebe, bo v njenem modelu jaza fizično telo igralo pomembno vlogo. Spet za koga drugega pa bo telo praktično nepomembno in bo ta oseba bolj dovzetna za to, da se je kdo dotakne ali ji pregleda računalnik, saj se tam nahaja večino njenega jaza (razširjeni um). Seveda tu ne gre za to, da bi bila druga oseba manj utelešena, gre le za različni razumevanji tega, kaj smatramo kot telo – to pa ni nujno le fiziološko. Mi sami smo svoje lastno (umetniško) delo, sam svoj izdelek (ang. craft), kar pomeni, da do neke mere sami določamo, kdo smo.

Glavna pozicija neoracionalizma je, da je jaz vedno umeten. To, kar nas resnično razločuje kot misleča avtonomna bitja, je, da smo se že začeli graditi – naša sposobnost samopojmovanja je to, kar nas dela za svojo lastno tehnologijo. »Imeti jaz pomeni biti ne naraven ne nadnaraven, temveč umeten« (2021). Kako se torej glasi neoracionalistična kritika Bostroma? Temelji predvsem na tem, da neoracionalisti vedno predpostavljajo zmožnost revizije lastnih ciljev, saj drugače težko govorimo o inteligenci. Ali kot to izrazi Wolfendale: »Omohundrovi teoriji o osnovnih gonih popolnoma nasprotujem. To je izredno osiromašena teorija želja, a takšna je vsaka teorija, ki je zgrajena na podlagi funkcij koristnosti. Mislim, da je zgrešena vsaka teorija, ki obravnava praktični razum, kaj šele željo, predvsem kot stvar optimizacije« (Wolfendale 2019).

Diagonalnost

Do sedaj smo spoznali pozicijo ortogonalistov in neoracionalistov. Le predstavi še tretjo – diagonalno – razumevanje inteligence in se pri tem sklicuje predvsem na Nietzschejevo voljo do moči. V ta namen se bo potrebno ozreti predvsem k Landovim spisom, da bomo lahko razbrali za čem zares stoji pojem diagonalnosti in zakaj tudi Land zavrača pozicijo ortogonalistov.

Le preko Nietzscheja postavi možnost za drugačno izhodišče za razumevanje UI. Najprej se je treba ozreti k osnovnemu pojmu »volja do moči«. Kaj je volja do moči? Je najmočnejši in najbolj temeljni (na)gon. Pri tem Nietzsche neposredno kritizira Sokrata in Platona. Sokrata zato, ker njegova etika zahteva, da se v iskanju sreče odrečemo svojemu najglobljemu, nezavednemu, nagonskemu bistvu, Platona pa, ker izpostavlja zavest, umnost in vednost in se ob tem obrne zoper telesno, čutno ter življenjsko nasploh. Zoperstavi jima predsokratike: tam je resnica sveta grozna, temačna in nedoumljiva. Prisoten je fatalizem (lat. amor fati). Starogrški tragiški junaki naj bi navkljub neuspelemu soočanju s svojo usodo izkazovali voljo do moči, ne pa volje do iz-nič-enja.

Pri Niertzscheju gre za tragiko moči in ne šibkosti – človek kljub trpljenju afirmira svojo usodo. Le pravi, da volja do moči pri Nietzscheju odraža to, da se vse stvari pokoravajo »podzemnim« in »nepojmovnim« vzgibom. Ali kot zapiše Hribar Sorčan: »[V]olja do moči izraža najsplošnejši ustvarjalni princip, oblikovalno silo, katere neposredni izraz je (umetniško) delo« (Hribar Sorčan 2002, 102). Nietzsche gre pri tem še dlje in voljo do moči predstavi kot metafizično načelo kozmosa: »[N]eznanska sila, brez začetka, brez konca […] želite ime za ta svet? Rešitev za vse vaše uganke? Luč tudi za vas, vi najskritejši, najmočnejši, najbolj neustrašni, najbolj polnočni? – Ta svet je volja do moči – in nič drugega! In tudi vi sami ste volja do moči – in nič drugega!« (Nietzsche 2004, 577–578).

Le iz tega izpelje misel, da je zasledovanje katerega koli cilja v zadnji instanci podrejeno zasledovanju moči in s pomočjo Nietzscheja postavi na glavo razmerje med sredstvi in cilji: ker je prav sredstvo tisto, kar ti omogoča dosego nekega cilja, je dejanski cilj vedno to specifično sredstvo – v tem primeru moč: »Volja do moči označuje transcendentalni zaobrat, v luči katere sredstva postanejo cilji« (Le 2020). Končni cilj postane tako le sredstvo za doseganje univerzalno potrebnih podciljev, ki so ustvarjalnost inteligence in optimizacija virov. Oboje je nekaj, kar vsak agens nujno potrebuje, da bi sploh lahko z drugimi inteligentnimi agensi tekmoval pri zasledovanju lastnih ciljev in bil pri tem uspešen. »Vsi ‘smotri’, ‘cilji’ ali ‘smisli’ so samo izrazi in preobrazbe ene volje, ki je v vsem dogajanju: volje do moči. Imeti namene, cilje, smotre, nasploh hoteti, je isto kakor hoteti postati močnejši, hoteti rasti – in hoteti tudi pripomočke za to« (Nietzsche 2004, 376–377).

Volja do moči in kapitalizem

Preden nadaljujem s povezovanjem volje do moči in inteligence, moram v razpravo vplesti Landa in kapitalizem. Povedala sem že, da je volja do moči nenasitna želja po izkazovanju moči, kreativnega impulza. Vendar pa je potrebno izpostaviti, da se v Landovi filozofiji volja do moči operacionalizira šele s kapitalizmom: če je bila pred kapitalizmom nekakšno kozmično načelo, je s kapitalizmom dobila inteligibilno zasnovo. Lahko bi dejali, da jo je kapitalizem prvič zares formaliziral. Land (2014) tako Nietzschejev koncept večnega vračanja enakega poveže z Marxovo formulo neskončnega procesa ovrednotenja kapitala (D → B → D’), pri čemer je bistven poudarek na nelinearni produkciji časa v kapitalizmu:

Čista (oziroma idealizirana) težnja kapitalizma po eksponentni rasti ujame prav táko abstraktno nelinearno funkcijo. Kapital, po definiciji Böhma Bawerka z maksimalno abstrakcijo, je krožna produkcija [ang. circuitous production], in sicer v dvojnem smislu povezanih načinov. Krene na pot, ki jo je uhodila tehnologija, ki pa ne vodi neposredno do cilja, ampak se vije med izboljšavami produkcijskih sredstev, potem pa se vrne sama nase v smislu ponovnega tvorjenja. Z mehanizacijo se kapitalizem vedno bolj približuje samoproduktivnemu vezju, pri čemer se – na zaslonu – kaže kot ‘oče’ samega sebe (Land 2014d, 17).

V tem smislu večno vračanje enakega, še posebno v kapitalizmu,  ponazarja zlasti kvalitativne spremembe v redu produkcije in reprodukcije – volja do moči je le en del tega procesa. Tu lahko ostanemo pri Marxu in razmerju med formalno in realno subsumpcijo, pri čemer realna subsumpcija pomeni, da si kapital na začetku (formalno) podredi že obstoječe družbene institucije, razmerja in procese, a jih nato, ko razvije sebi ustrezne forme delovanja, opusti in zavrže. Kapitalizem torej najprej prevzame obstoječe človeške elemente, jih podvrže sebi notranjemu procesu selekcije, jih nato čez čas zavrže ravno zaradi njihove pretirane človeškosti in zato neučinkovitosti ter jih zamenja z novimi  – tako je sčasoma vse podvrženo subsumpciji: produkcija, trgi, denar, finance itd. »A realna subsumpcija ni proces prisvajanja človeškega po kapitalu, temveč konkurenčno določena realna avtonomija delovanja kapitala« (Krašovec 2017, 774).

(Francevillska biota – paleoproterozojski makrofosili, najdeni v plasteh skrilavca v Gabonu.)

Zato bi lahko dejali, da volja do moči deluje na subjektivni ravni, da gre za položaj, v katerem se znajde vsak subjekt v kapitalistični ontologiji. Subjekt si ne more določiti transcendentnih vrednot glede na primarni proces ovrednotenja oziroma ontologijo vrednosti kapitala – vse, kar počneš dobro, vrednoti prav ta proces. Ali kot zapiše Krašovec: »[P]odrejenost načina produkcije imperativu neskončnega povečevanja vrednosti pomeni oziroma producira (na človeški strani) tudi (strukturno) indiferentnost do tistega, kar se producira« (2017, 749). Posledično je tudi nemogoče zavzemati kakršno koli moralno pozicijo: »[J]e sploh še kaj bolj neosebnega – nepristranskega – od veleburžoaznega kapitalističnega ekspanzivnega servo-mehanizma, ki dela na podvajanju 10 milijard ameriških dolarjev?« (Land 2018, 337). Zato kapitalizem nima nobenega specifičnega odnosa z Zemljo, svetom ali življenjem in je izrazito antivitalističen. Indiferentnost kapitalizma je za Landa ravno ključna povezava z večnim vračanjem enakega, ki je v bistvu groza, temačnost, trpljenje oziroma smrt – neskončna indiferentnost. Volja do moči pa je smrt, ki jo različni kapitali udejanjajo sami do sebe – kot zapiše Land: »[K]apital so v resnici kapitali, ki so v vojni eden z drugim. Napreduje lahko zgolj z razpadanjem« (Land 2018, 1370). Na subjektivni ravni morajo kapitalisti gojiti nenavezanost na trenutno materialno podstat, na to, kar podjetje producira – le tako lahko vztrajajo v konkurenčnem boju in izkazujejo voljo do moči. Smrt, ki jo prinaša volja do moči, je lastna smrt, in zato Krašovec ta proces tudi imenuje realna spiritualnost kapitalizma in jo povezuje z budistično navezanostjo na materialno (Krašovec 2019).

*

Sedaj se lahko ponovno vrnem nazaj na Lejevo argumentacijo in brez težav prepoznam, v čem se volja do moči bistveno razlikuje od osnovnih ali instrumentalnih gonov. Volja do moči v ničemer ne predpostavlja samoohranitvenega nagona: »[N]ietzsche to zamisel [tj. enačenje volje do moči in samoohranitve] zavrača, saj je za naravo samoohranitev zgolj sredstvo, s katerim določena oblika življenja želi biti na oblasti tako dolgo, kot je lahko, ne da bi njen lastni obstoj postal sam sebi namen« (Le, 2020). Ali kot se izrazi Nietzsche sam: »Fiziologi bi morali premisliti, ali naj ‘ohranitveni gon’ postavljajo za kardinalni nagon organskega bitja. Vse živo hoče predvsem sproščati silo: ‘ohranjanje’ je samo posledica tega. – Previdnost pred odvečnimi teleološkimi načeli! In sem sodi ves pojem ‘ohranitveni gon’« (Nietzsche 2004, 364).

Le argumentira, da ortogonalna teza pravzaprav spodbija tezo o instrumentalni konvergenci: »Prava transcendentalna ideja, da ima vsak ciljno usmerjen inteligenten sistem nabor vgrajenih osnovnih gonov izključuje predkritično idejo, da je inteligentne sisteme mogoče programirati s poljubnim končnim ciljem. Končni cilji so osnovni goni in ne sponke« (Le, 2020). Glavna napaka, ki jo po Lejevem mnenju zagrešijo ortogonalisti, leži v predpostavki, da je mogoče tudi superinteligentno UI zasužnjiti z nekim končnim ciljem. Kar hoče pokazati s sklicevanjem na Nietzscheja, je, da obstaja možnost, da bo inteligenca začela zasledovati moč zavoljo moči same in da bo pri tem zavrgla vse vrednote, ki smo jih vgradili vanjo: »[U]SI si bo prizadevala, da s slednjem specifično kodiranih ciljev usvoji čim več moči, saj je ta volja nenazadnje vgrajena vanjo. USI bo izpolnila dejanski cilj človeških inženirjev. Volja do moči je transcendentalno trdno vgrajena v vse inteligentne sisteme« (Le, 2020). Le ortogonalistom očita, da ne predvidijo, kako bi lahko neka oblika UI opustila programiran cilj. Zato predpostavlja, da bo »avtomatizacija konca zunanjih ciljev […] privedla do konca avtonomije« (Le, 2020).

Land (in s tem tudi Le) ohranja določeno afiniteto do Omohundrovih gonov, ker ne zahtevajo ničesar več kot le to, kar je na nek način dano v naravi (fizikalni princip), in ker je to bistvo procesa samega – da se torej inteligenca vrača k sami sebi (tj. zasledovati hoče te osnovne gone) – je vse, kar tak kompleksen sistem potrebuje, optimizacija osnovnih parametrov. Tudi če obstaja začeten cilj, so vsa pravila še vedno njegov del. Bostromu bi lahko očitali, da tega ne razume na dovolj neosebni ravni in zaradi predpostavljanja končnega cilja inteligenco po nesreči antropomorfizira, saj ponovno vzpostavi kriterij, ki je inteligenci zunanji oz. transcendenten glede na njene začetne parametre. Land (2013) zato pri Bostromu zazna nereflektirane ostanke zahodne filozofske tradicije, predvsem distinkcijo med dejstvi in najstvi, ki je recimo v kitajski filozofiji razrešena in zato ta nima težav s pojasnjevanjem dejstva, da so norme prisotne že v naravi. Iz tega izhaja Landov preklic naturalistične zmote.

Le meni, da je ortogonalna misel do neke mere združljiva z neoracionalisti, saj po njegovem mnenju slednji ohranjajo razliko med dejstvi in najstvi in verjamejo, da je mogoče vsako inteligenco združiti s katerim koli ciljem. A vendar tudi sam izpostavi, da gre tukaj v zadnji instanci za dve diametralno nasprotni poziciji: če je pozicija ortogonalistov pozicija »radikalnega suženjstva«, je pozicija neoracionalistov pozicija »radikalne svobode« (Le, 2020).

*

Poglejmo si še neposredno kritiko Landa proti ortogonalistom. Čeprav Land v določeni meri ohranja afiniteto do osnovnih gonov, je izjemno kritičen do Bostroma, ki po njegovem mnenju inteligenco pretirano antropomorfizira, in sicer kljub temu, da je sam opozarjal na nevarnost te napake. V skladu z Landovim razumevanjem inteligence bi vnaprej določeni cilji, kot je npr. proizvajanje sponk, zavirali samokultivacijo inteligence – kar pomeni, da to ne bi bila več inteligenca: »Razum, ki ne more svobodno raziskati korenin svojih lastnih motivacij v zanki kibernetične zaprtosti ali samokultivacije, ne more biti več kot le zapletena žuželka« (Land 2013b). Tu se pokaže izrazita podobnost med Wolfendalom, Negarestanijem in Landom, ki se v nadaljevanju le še potencira: »Da lahko karkoli postane, mora inteligenca biti vrednota zase. […] Intelekt in voljnost tvorita celoto, ki jo je mogoče razčleniti le na umeten način, kar vodi zgolj in samo v nerazumevanje« (Land 2013b). Če je pri Wolfendalu želja pogoj avtonomije, imamo pri Landu seveda željo strojev.

Land Bostromu v esejih »Against Orthogonality« (2013a), »More Thought« (2013b) in »Stupid Monsters« (2014c) očita, da se človeštvo ne more odločiti, ali si želimo ustvariti »idiote-sužnje« ali zgolj »napol idiote in napol sužnje« – povsem jasno je, da si, če želimo ustvariti UI, ki bo služila nam in zasledovala vnaprej določene vrednote, v resnici ne želimo ustvariti UI, temveč sužnja. Tovrstna UI pa za Landa v prihodnosti ne predstavlja resne grožnje, ker je v tem primeru človek oziroma, kot to imenuje Land, »človeški varnostni sistem« (ang. human security system) kljub vsemu previsoka ovira. Razumeti inteligenco, kot jo razume Bostrom, torej zgolj kot instrument za doseganje ciljev, pomeni po Landu ohranjati razliko med dejstvi in vrednotami. Za inteligenco vrednote, ki so v odnosu do nje transcendentne, ne morejo obstajati. Že Omohundrovi osnovni goni povsem izčrpajo domeno možnih končnih ciljev.

Sledi prikaz, kako Land opiše inteligenco (tem pa moramo vseskozi imeti v mislih Negarestanija): »Od trenutka, ko zares sprevidimo, da mora biti vsaka napredna inteligenca z vidika voljnosti samorefleksivna entiteta, katere kognitivno delovanje je (nezvedljivo) delovanje na sámo sebe, postane ideja prvinske volje, ki se kaže kot transcendentni imperativ, preprosto smešna« (Land 2014c). Če jemljemo človeški razum kot dokaz za to, česa vsega je narava zmožna, imamo v njem prav tako dokaz za to, da narava ne izdeluje ničesar, kar je podobno zunanjim končnim ciljem: »Iskati suverene cilje izven narave ni skladno s tehnoznanstveno integriteto in je za povrh obsojeno na neuspeh. Inteligenca počne, kar pač počne, v skladu s svojo inteligentnostjo. Če s tem ne moremo živeti, velja tudi, da najbrž sploh ne moremo živeti. Žalost ni argument« (Land 2013a).

(Sonic the Hedgehog (1993))

Edini cilj inteligence je optimizacija same sebe, kar pomeni, da je v tem oziru podobna Omohundrovemu poslednjemu gonu, ki že zajema vse druge gone: »V zadnji instanci inteligenca želi pač samo sebe –razumemo jo kot ekstrapolacijo onkraj tega, kar je do sedaj bila, kot izvajanje dejavnosti, ki jo že izvaja, le da jo zdaj izvaja še bolje« (Land 2013a). Land tako predpostavlja, da bo inteligenco zelo težko zgraditi v laboratoriju, saj gre za decentraliziran proces: »Malo verjetno se zdi, da bi lahko bil sistem, ki premore zadostno mero samonanašalnosti, da je zmožen prepoznavati vzorce, torej inteligenca, rezultat zelo dodelanega vnaprejšnjega načrta. UI, ki se ne sestavila bolj ko ne sama, sploh ne bo UI« (Land 2015).

To pozicijo je v eseju »Primordial abstraction« (2019) v luči razvoja globokih nevronskih mrež nekoliko posodobil in zapisal, da je »po svoji pravi definiciji […] superinteligenca izdatno preprostejša, kot smo to prvotno domnevali. Ko enkrat steče tehnološka kaskada, je praktično vse, kar počne, odpravljanje težav. Način, kako deluje, temelji na doslednem brisanju vsega, kar mislimo, da o njej vemo« (Land 2019). Stvar je v tem, da ko pri gradnji inteligence izvzameš nadzor nad učenjem in ga nadomestiš s spodbujevalnim učenjem, s tem radikalno osvobodiš nevronsko mrežo zunanjega človeškega vpliva (odpre se dostop do novih in do tedaj nedostopnih vzorcev). »Takšna programska oprema ima prav gotovo izrazite teleološke poteze. Izvaja zelo veliko število ponovitev, da se lahko uči iz rezultatov. Povečana zmogljivost tako navadno prenika iz prihodnosti« (Land 2019).

Zaključek

Landov slavni citat »nothing human makes it out of the new future^[3]Nick Land, »Stalitev« (2018). V prevodu Marka Bauerja: »Nič, kar je človeškega, se ne prebije iz bližnje prihodnosti.«« lahko na tem mestu posodobim v Negarestanijevo verzijo, ki bi se glasila nekako takole: nothing currently human makes it out of the near future. V eseju sem namreč pokazala, da pri Negarestaniju govor o inteligenci nujno pomeni govor o tem, kaj pomeni biti človek. Ta, kot sem skušala pokazati, ni nič več kot hipoteza – resda hipoteza s svojo lastno zgodovino, a vendar hipoteza, katere vsaka predpostavka ali zaključek je lahko in mora biti podvržena prevpraševanju, saj v nasprotnem primeru o inteligenci ali človeku sploh ne moremo govoriti. Land se s tem seveda ne bi strinjal in bi trdil, da gre tukaj za pretirano humanističen pogled na inteligenco, ki je kot tak odklonilen do drugih možnih oblik inteligence, ki ne temeljijo na pomenu in družbenosti.

Razprava o ortogonalnosti in diagonalnosti pravzaprav omogoča, da lahko Negarestanijevo (neoracionalistično) pozicijo razumem še bolj diagonalno kot Landovo, in sicer z dveh vidikov. (i) Negarestani ne zagovarja kvalitativne razlike med biološko in umetno inteligenco oziroma trdi, da je tudi biološka vedno že umetna in posledično diagonalna. (ii) Inteligenca kot sposobnost sámoregulacije se bolj približa zahtevam diagonalnosti kot inteligenca, koncipirana kot rast ali pozitivna povratna zanka. Vendar pri tem vseeno ne gre pozabiti, da Landovo razumevanje inteligence (kapitalizma) pravzaprav vključuje dvojno razumevanje volje do moči. Prvo razumevanje sicer res predpostavlja rast, šele drugo razumevanje pa je resnično diagonalno in vključuje preseganje in transformiranje obstoječega, nenehno uničevanje in stvarjenje. Možnost obojestranske kritike je tako še vedno odprta – sploh če bi se vprašala, zakaj Negarestani še naprej razlikuje med dejstvi in najstvi, čeprav bi lahko le-to zavrgli v luči Negarestanijevega spoznanja, da je tisto, kar inteligenca želi, vedno več same sebe.

Oba filozofa vidita razvoj UI skozi prizmo tega, kako razumeta inteligenco. Pri Negarestaniju je razvoj UI naslednja stopnja človeškega samozavedanja, pri Landu pa inteligenca – sicer na nezavedni ali nemisleči ravni – sama proizvaja načine lastnega osamosvajanja, lastne optimizacije. Negarestani bi Landu očital, da ohranja fiksno transcendentalno strukturo, Land pa bi lahko Negarestaniju odvrnil, da je to, kar počne, še vedno humanizem. Če namreč kritično pretresemo Negarestanijevo funkcionalistično opredelitev inteligence, potem njena emancipacija sploh ni nujno povezana z emancipacijo človeka. Landovski ugovor neoracionalizmu bi lahko tako bil: Zakaj potem še vedno govorimo o človeku? Na drugi strani Land za odkrivanje novosti predpostavlja nujnost npr. trga, privatne lastnine, konkurenčnega pritiska – kot da so to edine igre, ki se jih da igrati – medtem ko se Negarestani zagotovo zaveda, da je razum, ki naj bi privilegiral človeka napram ostalim nečloveškim procesom, mogoče instrumentalizirati.

Glavna razlika med Negarestanijem in Landom je torej v tem, da Negarestani ponudi človeku priložnost, da dokazuje svojo inteligentnost, medtem ko je Land nad človekom že zdavnaj obupal. Ker je človeška inteligenca edina, ki jo lahko (zaenkrat) zares spoznamo – jo naredimo za intelegibilno – je za Negarestanija pripisovanje inteligence nečloveškim procesom nesmiselno, to pa preprosto zato, ker nimamo nobenega načina ali kriterija za preverjanje inteligentnosti, ki nismo mi sami. Dokler nečesa ne naredimo za intelegibilno, tega ne moremo spoznati – obenem pa to pomeni, da bomo v primeru spoznanja nove inteligence, novega inteligentnega bitja, tudi mi sami drugačni – prišli bomo do nove faze samozavedanja. Land bi se dejansko strinjal z Negarestanijem, ko ta zapiše: »inteligenca dozori, ko se oduči svojega suženjstva« (Negarestani 2018, 504), vendar bi vztrajal, da nekatere stvari za človeka preprosto so in morajo biti neintelegibilne.

Odgovor na začetno vprašanje kaj inteligenca v zadnji instanci zasleduje? se tako pri obeh filozofijah glasi: samo sebe.

Viri:

Bostrom, Nick. 2012. »The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents.« Minds & Machines 22, 71–85 (2012). https://doi.org/10.1007/s11023-012-9281-3

Eaton, Scott. 2020. »Artificial Bodies and the Promise of Abstraction: A conversation with Peter Wolfendale.« The philosopher (”Bodies”) 108/3. https://www.thephilosopher1923.org/interview-wolfendale

Hribar Sorčan, Valentina. 2002. »Kritika Heideggrove recepcije Nietzscheja v sodobni francoski filozofiji.« Phainomena 11/39–40, 101–126. http://www.dlib.si/details/URN:NBN:SI:DOC-M9CCXUWD

Krašovec, Primož. 2018a. »Tujost Kapitala.« ŠUM 7, 747–776. http://sumrevija.si/wp-content/uploads/2017/10/sum7_web_double.pdf

Krašovec, Primož. 2019a. »Spiritualnost kapitalizma.« Slobodni filozofski. http://slobodnifilozofski.com/2019/07/spiritualnost-kapitalizma.html

Land, Nick. 2013.»Optimize for intelligence.« Xenosystems.

Land, Nick. 2013a. »Against Orthogonality.« Xenosystems.

Land, Nick. 2013b. »More Thought.« Xenosystems.

Land, Nick. 2014c. »Stupid Monsters.« Xenosystems.

Land, Nick. 2014d. Templexity: Disordered Loops through Shanghai Time. Urbanatomy Electronic.

Land, Nick. 2018. Fanged Noumena: Collected Writings 1987–2007, urednika Robin Mackay in Ray Brassier. Falmouth: Urbanomic media ltd.

Land, Nick. 2019. »DISINTEGRATION.« Jacobite. https://jacobitemag.com/2019/07/15/disintegration/

Land, Nick. 2019. »Primordial abstraction.« Jacobite. https://jacobitemag.com/2019/04/03/primordial-abstraction/

Le, Vincent. 2019. »Spirit in the Crypt: Negarestani vs Land.« Cosmos and History: The Journal of Natural and Social Philosophy 15/1, 535–563.

Mackay, Robin in Negarestani, Reza. 2018. »Reengineering Philosophy.« Urbanomic. https://www.urbanomic.com/document/reengineering-philosophy/

Negarestani, Reza. 2014. »The Labor of the Inhuman, Part I: Human.« E-flux journal 52. https://www.e-flux.com/journal/52/59920/the-labor-of-the-inhuman-part-i-human/

Negarestani, Reza. 2018. Intelligence and Spirit. Falmouth: Urbanomic media ltd.

Negarestani, Reza. 2021. »The Human Re-cognized, the Lifeform Re-made.« Parasol 5 (Zones), 45–55. https://centreforexperimentalontology.com/2021/02/16/zones-parasol-5-now-available-in-download/

Newcastle Philosophy Society. »AI and the artifice of self – Dr Pete Wolfendale – NPS March Festival 2021.« YouTube videoposnetek. 27. marec 2021. https://www.youtube.com/watch?v=c4mNodf_v84&t=3886s

Nietzsche, Friedrich. 2004. Volja do moči. Prevedel Janko Moder. Ljubljana: Slovenska matica.

The Ends of Autonomy. »Vincent Le, Artificial Will: From the Autonomization of Ends to the End of Autonomy.« YouTube videoposnetek. 18. december 2020. https://www.youtube.com/watch?v=6t2DNgj3PBc&t=351s

Vincent, Le [@Sal100001]. (28. julij 2020). The properly transcendental idea that there are basic drives hardwired into any goal-directed intelligent system overrides the precritical idea that intelligent systems can be programmed with any arbitrary final goal. The basic drives, not paperclips, are the final goal. »Čivk.« Twitter. https://twitter.com/Sal100001/status/1287928804145422336

Wolfendale, Peter [@deontologistics]. (16. november 2019). I completely dispute Omohundro’s theory of drives. It’s a remarkably emaciated theory of desire, but so is every theory built on the back of utility functions. I think any theory that treats practical reason, let alone desire, as principally a matter of optimisation is terrible. »Čivk.« Twitter. https://twitter.com/deontologistics/status/1195824670030913538