O ortogonalnosti in diagonalnosti: kaj zasleduje inteligenca?

V tem prispevku bom predstavila dve nehumanistiฤni moลพnosti obravnave vpraลกanja (umetne) inteligence oziroma se bo prispevek โ€“ kot nakazuje podnaslov โ€“ osredotoฤal na vpraลกanje: kaj zasleduje inteligenca? Odgovor na to vpraลกanje bom poskuลกala poiskati s pomoฤjo dveh sodobnih filozofov; prvi je akceleracionistiฤni filozof Nick Land, drugi pa neoracionalistiฤni filozof Reza Negarestani.

Poziciji omenjenih filozofov bi lahko glede na vlogo ฤloveลกke inteligence v prihodnosti razdelili v dve drลพi, pri ฤemer je Land predstavnik konservativne, Negarestani pa progresivistiฤne drลพe. Glavna znaฤilnost konservativne drลพe je ta, da ob potencialnem vzniku umetne inteligence ฤlovek v tovrstni prihodnosti izgubi zmoลพnosti delovanja oziroma je ima vse manj. Medtem ko se progresivistiฤna drลพa, ki se navdihuje med drugim tudi pri nemลกkemu logiฤnemu pozitivistu Rudolfu Carnapu, niฤemur ne odpoveduje vnaprej: ยป[F]ilozofija inteligence raziskuje obete tega, kar lahko (teoretiฤno in praktiฤno) storimo s konceptom uma ne kot stvari, paฤ pa kot projekta v tekuยซ (Negarestani in MacKay, 2018). Za razliko od humanistiฤnega misticizma (zato nehumanistiฤna obravnava inteligence), ki je, kot bomo spoznali pri Bostromu v nadaljevanju, v akademskih diskurzih o UI  dokaj pogost, neoracionalistiฤni pristop ne skuลกa vnaprej zamejiti moลพnosti in sposobnosti UI, niti ฤloveka ne omeji na njegovo trenutno stanje, njegove trenutne zmoลพnosti spoznavanja. ล e veฤ, njihova filozofija omogoฤa popolno subverzijo: ฤlovek ni veฤ fiksna entiteta, temveฤ je umeten, plastiฤen โ€“ lahko bi rekli, da je koncept ฤloveka v neoracionalistiฤni filozofiji le hipoteza: ยปKer je ลพivljenjska oblika, je ฤlovek tudi polje moลพnosti za re-kognicijo ter re-konstrukcijo te ลพivljenjske oblike onkraj eklatantnih lastnosti, ki jih ฤloveku pogosto pripisujemo, ter onkraj tega, kar trenutno โ€“ zaradi zgodovinskih dogem v najลกirลกem pomenu besede โ€“ mislimo, da ฤlovek jeยซ (Negarestani 2021, 47). Za kaj torej pravzaprav gre pri neoracionalizmu in vlogi UI v njem? Gre za to, ยปda dopustimo inteligenci, da nas preseลพe, ali pa, prav narobe, naลกi zmoลพnosti, da se napravimo za USI[1]USI: Umetna sploลกna inteligenca.ยซ (Negarestani in MacKay 2018).

Vincent Le (2020) poimenuje neoracionalistiฤno razumevanje inteligence, katerega predstavnik je, kot smo videli, Negarestani, kot ยปortogonalnoยซ. Izraz izhaja iz t. i. ortogonalne teze, ki jo je postavil Nick Bostrom. Na nasprotno stran postavi Nietzschejevo voljo do moฤi, ki jo Land oznaฤi za ยปdiagonalnoยซ. Naj ลพe takoj izpostavim, da Negarestani svoje koncepcije inteligence nikoli ne oznaฤi za ortogonalno in je do Bostroma precej kritiฤen โ€“ problem se nahaja v samem izhodiลกฤu razumevanja tega, kaj inteligenca sploh je. Ampak naprej moramo ugotoviti, kaj pojma ortogonalnost in diagonalnost pravzaprav oznaฤujeta in kako se umeลกฤata v sodobno razpravo o moลพnostih napovedovanja vedenja, sposobnosti in motivacij UI.

Ortogonalnost

Nick Bostrom (2012) predstavi dve tezi za razumevanje odnosa med inteligenco in motivacijo ‘umetnih’ agensov. Prva je ortogonalna teza, druga pa teza instrumentalne konvergence. Na zaฤetku eseja najprej opozori na problem antropomorfizacije umetne inteligence, ki po njegovem mnenju izhaja iz napaฤnih predpostavk glede njenih vzgibov. Bostrom zapiลกe, da imata Nezemljan in ฤlovek veฤ skupnega, kot ima ฤlovek skupnega z umetno inteligenco, to pa zaradi razลกirjenje domneve, da je morala tovrstna izvenzemeljska inteligenca iti skozi podobne bioloลกke in evolucijske procese in pri tem slediti podobnim motivom (iskanje hrane, izogibanjem plenilcem in poลกkodbam, razmnoลพevanje itd.) Bostrom izpostavi, da umetna inteligenca ne potrebuje nobenih podobnih intrinziฤnih vzgibov. Zaradi razumevanja inteligence in motivacij kot ortogonalnih osi na danem grafu Vincent Le ortogonalnost opiลกe takole: ยป[B]ostrom razume inteligenco kot instrumentalno sredstvo, ki ga je mogoฤe izkoristiti za dosego katerega koli cilja. Inteligenca je preprosto ‘ลกkatla za orodje’ s sredstvi, ki jih je mogoฤe uporabiti za doseganje ciljev, ki so tem sredstvom zunanjiยซ (Le, 2020).

Bostrom predpostavlja, da bo, ฤeprav so vrednote in inteligenca medsebojno neodvisne, vsaka rekurzivno samoizboljลกujoฤa se inteligenca vseeno imela doloฤen nabor instrumentalnih vrednot, ki bi vsaj v naฤelu morale biti uporabne za doseganje kateregakoli konฤnega cilja. Bostrom zato definicijo inteligence nekoliko posodobi: ยป[Z] izrazom ‘inteligenca’ mislim nekaj takega kot instrumentalna racionalnost, veลกฤina predvidevanja, naฤrtovanja in na sploลกno razumskega odloฤanja pri prehajanju od sredstev k ciljuยซ (2012, 74). Iz tega izhaja druga od zgoraj omenjenih tez, namreฤ teza o instrumentalni konvergenci:

Obstajajo uporabne vrednote, ki so konvergentne v smislu, da bi bil agens, ki jih poseduje, v veฤji meri zmoลพen doseฤi katerega izmed zadanih poslednjih ciljev v ลกirokem naboru situacij. To implicira, da si inteligentnejลกi agensi bolj prizadevajo za takลกnimi uporabnimi vrednotami (2012, 76).

Bostrom razdeli omenjene vrednote v veฤ kategorij, pri tem pa je pomembno, da ยป[v]erjetnost, da bo agens prepoznal instrumentalne vrednote, naraลกฤa (ceteris paribus) sorazmerno z njegovo inteligencoยซ (2012, 76). Za kakลกne kategorije vrednot gre? Bostrom navaja sledeฤe: samoohranitev, integriteta cilja in vsebine (ang. goal-content integrity), kognitivne izboljลกave (ang. cognitive enhancement), tehnoloลกka dovrลกenost in pridobivanje virov.

Teza o instrumentalni konvergenci opozarja na moลพnost (nenamerno) ลกkodljive UI, ki bi ji programsko doloฤili nek konฤni cilj โ€“ npr. izdelavo sponk โ€“ vendar ob tem ne bi bilo mogoฤe zares predvideti, ali bo tovrstna inteligenca med zasledovanjem doloฤenega cilja sledila vrednotam, ki bi uniฤile potencialno lahko ฤloveลกtvo (ฤe bi npr. surovine za izdelavo sponk locirala v ฤloveku). Ravno prva teza o ortogonalnosti pa puลกฤa odprto moลพnost, da tovrsten cilj ni neumen ali neinteligenten โ€“ tega po Bostromu preprosto ne moremo predvideti. Edino, kar lahko predvidimo, je, ยปda si bodo agensi prizadevali pridobiti konvergentne instrumentalne vrednote in jih uporabiti za doseganje svojih konฤnih ciljev, ne more pa prevideti tega, s katerimi dejanji bodo te cilje zasledovaliยซ (2012, 83).

(H3 376 UHS plane at infinity. Veฤ o tem: Visualising Hyperbolic Honeycombs)

Ortogonalnost v neoracionalizmu?

Le trdi, da je neoraconalistiฤna misel ortogonalna in izpostavi, da se ortogonalisti in โ€“ po njegovem mnenju tudi neoracionalisti โ€“ sklicujejo na Humovo distinkcijo med dejstvi in najstvi (ang. is/ought) oz. razlikovanjem Wilfrida Sellarsa med vzroki in razlogi (ang. causes/reasons). To storijo zato, da lahko mehansko domeno vzrokov loฤijo od domene razlogov, ki niso vzpostavljeni vnaprej. Bostromova teza o ortogonalnosti jim omogoฤa, da lahko pravzaprav vsako inteligenco podredijo in uporabijo kot instrumentalno sredstvo pri zasledovanju katerih koli ciljev ali vrednot. Z Lejevimi besedami: ยปBostrom trdi, da je inteligenca ortogonalna glede na konฤni cilj, kar na koncu kaลพe na to, da bi bila lahko celo USI trajno zasuลพnjena s katerim koli programom, ki ji ga damoยซ (Le, 2020). Videti je, da iz tega izhaja, da narava ortogonalno koncipirane inteligence ne pozna intrizniฤnih norm, namenov, vrednot ali konฤnih ciljev, ki bi jih inteligenca imela, ker je inteligentna. Le zato ortogonalnost oznaฤi kot ยปnormativno nedoloฤenoยซ (2020). Neoracionalisti se v tem oziru z ortogonalisti in njihovo koncepcijo inteligence ne strinjajo. Potrebno je torej prikazati, kako neoracionalisti pristopajo k temu vpraลกanju, pri ฤemer si bom (med drugim) pomagala s spletnim predavanjem Petra Wolfendala (2021).

Za zaฤetek se bom osredotoฤila na razcep, do katerega je priลกlo na podroฤju raziskovanja UI. Prvotnemu raziskovanju UI se dandanes nekoliko ลกaljivo reฤe ยปDSUIยซ (dobra stara umetna inteligenca โ€“ ang. good old fashioned AI), za sodobne oblike raziskovanja UI pa se uporablja skupni izraz ยปstrojno uฤenjeยซ (ang. machine learning). Stara UI je skuลกala razviti stroje za sploลกno reลกevanje problemov, kar se je kmalu izkazalo za izjemno teลพavno, in sicer zlasti zaradi t. i. problema okvirja. Ob ta problem zadenemo, ko skuลกamo natanฤno opisati svet in vanj dodati nove informacije. Problem okvirja je problem reprezentacije tega, kaj se ob vnosu nove informacije spremeni in kaj ostane nespremenjeno (npr. ali nova vrednost ethereuma vpliva na pripravo ฤaja). Ker se je problem okvirja izkazal za nereลกljivega, se je izdelava UI iz sploลกnega reลกevanja problemov premaknila k reลกevanju specifiฤnih problemov โ€“ pri ฤemer je najveฤ uspeha poลพelo prav strojno uฤenje.

Wolfendale izpostavi, da je glavni problem danaลกnje UI, da jo je treba potem, ko jo nekaj nauฤiลก, novega opravila vedno uฤiti od zaฤetka. Prav tu tiฤi problem izgradnje USI โ€“ umetne inteligence, ki bi bila plastiฤna in ne bi bila specializirana za reลกevanje doloฤenih tipov problemov. Teลพava ni v sentienci (ฤuteฤosti), temveฤ v sapienci (misleฤosti): kar je zaลพeleno, je miลกljenje, in temu Wolfendale pravi modrost: ยปฤŒe je inteligenca reลกevanje problemov, je modrost zmoลพnost preoblikovanja problemovยซ (Wolfendale 2021). Izhodiลกฤe neoracionalizma torej ni reลกevanje problemov, ampak boljลกe razumevanje problemov. Negarestani o razmerju med sapienco in sentienco zapiลกe sledeฤe:

V zadnji instanci sta tako nujna vsebina kot realna moลพnost ฤloveลกkega odvisni od sposobnosti miลกljenja, ki je s funkcionalnega vidika razliฤno od ฤuteฤosti in katerega temeljna znaฤilnost je, da sklepa in se pribliลพuje nekanoniฤni resnici s pomoฤjo igre podajanja razlogov in spraลกevanja po njih. Tukaj gre za igro samo v pomenu, ki vkljuฤuje prakse s pravili, ki dopuลกฤajo napake in ki jih izvajamo brez sodnice_ka. V takih igrah neprestano sooฤamo, ocenjujemo in kalibriramo praksi vzeti-kot-resniฤno (znamenje verjetja) ter narediti-za-resniฤno-skozi-delovanje (znamenje agensa). Gre za dinamiฤno zanko povratnih informacij, pri kateri razลกiritev enega podroฤja drugim zagotavlja nove moลพnosti in priloลพnosti za raznoliฤenje domen ter potiskanje omejitev nazaj glede na lastne specifikacije (Negarestani 2014).

Grajenje (in miลกljenje o) USI potemtakem zahteva drugaฤno analizo. Preoblikovanje problemov vkljuฤuje tri pomembne vidike: (i) vednost je potrebno razumeti kot proces in ne kot produkt; (ii) vednost je potrebno razumeti kot nekaj, kar se transformira in kar ni zamejeno vnaprej; (iii) vednost je vedno izpostavljena reviziji, posodabljanju. Ali kot pravi Wolfendale: ยปSploลกna inteligenca je pravzaprav preverljivost naลกe celotne predstave o tem, kako deluje svetยซ (Wolfendale 2021). Pri tem je pomembno, da noben vidik reprezentacije ni izvzet iz moลพnosti posodabljanja. To obenem pomeni, da je vsak (tudi ยปkonฤenยซ) cilj podvrลพen enakemu procesu. Iz ฤesa torej izraลกฤa tako pogosti diskurz o potencialno ลกkodljivi UI, ki ga sreฤamo pri Bostromu in Omohundru[2]Steve Omohundro je 2007 napisal esej ยปThe Nature of Self-Improving Artificial Intelligenceยซ, leta 2008 pa ลกe ยปBasic AI Drivesยซ, v katerih predstavi svojo tezo o konvergentnih instrumentalnih … Continue reading?

Wolfendale je prepriฤan, da je strah pred UI pretiran zaradi nerazumevanja vloge ลพelje. Kot primere prenapihnjenih scenarijev, ki so po njegovem mnenju nesmiselni, izpostavi npr. ravno primer UI-sponke in primer Skyneta iz filma Terminator. Kakลกno vlogo igra v teh primerih ลพelja? Wolfendale poudari, da veฤina naลกih ลพelja ni niti popolnoma determiniranih, niti transparentnih, niti fiksnih. Morda je ena izmed glavnih ugotovitev psihoanalize prav to, da ne vemo, kaj pravzaprav hoฤemo. Imamo seveda neka osnovna gonila, vendar ta niso nujno zavestna (spomnimo se, da se pri Bostromu zavedanje gonov povezuje s stopnjo inteligence). Wolfendale izpostavi, da je pri ฤloveลกkem obnaลกanju oฤitno, da se lahko ฤlovek zoperstavi tudi proti tem osnovnim gonom, proti lastnemu preลพivetju: ljudje se pogosto ลพrtvujejo za stvari, v katere verjamejo. Ravno to je pogoj avtonomije: biti sposoben, ฤe poenostavimo, konstitucije novih osnovnih gonov. Wolfendale pri tem privzema kantovsko pozicijo, v kateri igrata najpomembnejลกo vlogo avtonomija in samoupravljanje (zmoลพnost doloฤanja prioritet na naฤin, ki je v nasprotju z egocentriฤnim preลพivetjem): ยปBiti avtonomen agens pomeni imeti nadzor nad stvarmi, za katere si odgovorenยซ (Wolfendale 2021).

Wolfendale v nadaljevanju izpostavi kljuฤno napako raziskovalcev UI: ฤe definiraลก UI kot reลกevalko teลพav, boลก s tem hkrati zruลกil tudi teoretiฤni in praktiฤni um. Takลกne teoretiฤno opisane UI imajo avtomatiฤno prisoten jaz, ki se na primer zaveda moลพnosti lastnega izumrtja. Vendar, pravi Wolfendale, se jaz ne poraja kar od nikoder, temveฤ gre za dodaten element inteligence. Kljuฤna razlika med ortogonalisti na eni in neoracionalisti na drugi strani je potemtakem v plastiฤnosti praktiฤnega uma, ki jo postulira neoracionalizem. Kako to razumeti?

(Ghost in the Shell (1995))

Pri teoretiฤnem umu je na delu neka dvojnost: eno je sprejemanje resnice (pri kateri imamo reprezentacijo za resniฤno, ko verjamemo vanjo), drugo pa je obstoj ลพelje (pri kateri gre za teลพnjo oz. vzgib nekaj storiti). Pri ลพelji ne gre za to, kakลกen svet je, ampak kakลกen hoฤemo, da bi bil. To dualnost je moฤ prikazati tudi kot dvoboj sploลกne inteligence: ยปKo je USI zmoลพna preoblikovati probleme, pomeni avtonomija izbiro med njimiยซ (2021). ลฝeljo je potrebno razumeti kot proces in ne kot produkt โ€“ tako kot znanje. Wolfendale pravi, da je sposobnost gojenja interesov ali ลพelja dejansko sposobnost njihove integracije: ยปPraktiฤna avtonomija ne pomeni niฤ drugega kot biti zmoลพen ponovno spremeniti vse naลกe predstave o tem, kakลกne bi stvari morale bitiยซ (2021). Wolfendale tako zavraฤa moลพnost obstoja nekega konฤnega cilja ali ลพelje, ki bi bila nad vsemi drugimi: vse, prav vse mora biti izpostavljeno reviziji: ยปDa bi se osvobodil_a, moraลก najprej biti suลพnja_enj razuma. Ampak biti suลพnja_en razumu (ravno pogoj svobode) te razgali pred njegovo sposobnostjo revidiranja ter njegovo slo po konstrukcijiยซ (Negarestani 2014).

Jaz je torej tisti, ki omogoฤa avtonomijo. Wolfendale poda nekaj iztoฤnic o tem, kako razumeti jaz. (i) Avtonomija pomeni samonadzor, v katerem se zdruลพujeta normativna in kavzalna dimenzija. Tukaj gre za jaz kot model oz. kot reprezentacijo samega sebe, kot ยปdel naลกega modela svetaยซ (2021). (ii) Obstajata dve plati reprezentacije jaza: realna (kakrลกna sem) in idealna (kakrลกna bi morala biti). To razliko bi lahko preimenovali tudi v dihotomijo telesa in duลกe. ยปTeloยซ je v tem primeru sredstvo-po-sebi (platforma), duลกa pa cilj-po-sebi (umetnost). ฤŒe uteleลกenost igra pomembno vlogo pri samoreprezentaciji neke osebe, bo v njenem modelu jaza fiziฤno telo igralo pomembno vlogo. Spet za koga drugega pa bo telo praktiฤno nepomembno in bo ta oseba bolj dovzetna za to, da se je kdo dotakne ali ji pregleda raฤunalnik, saj se tam nahaja veฤino njenega jaza (razลกirjeni um). Seveda tu ne gre za to, da bi bila druga oseba manj uteleลกena, gre le za razliฤni razumevanji tega, kaj smatramo kot telo โ€“ to pa ni nujno le fizioloลกko. Mi sami smo svoje lastno (umetniลกko) delo, sam svoj izdelek (ang. craft), kar pomeni, da do neke mere sami doloฤamo, kdo smo.

Glavna pozicija neoracionalizma je, da je jaz vedno umeten. To, kar nas resniฤno razloฤuje kot misleฤa avtonomna bitja, je, da smo se ลพe zaฤeli graditi โ€“ naลกa sposobnost samopojmovanja je to, kar nas dela za svojo lastno tehnologijo. ยปImeti jaz pomeni biti ne naraven ne nadnaraven, temveฤ umetenยซ (2021). Kako se torej glasi neoracionalistiฤna kritika Bostroma? Temelji predvsem na tem, da neoracionalisti vedno predpostavljajo zmoลพnost revizije lastnih ciljev, saj drugaฤe teลพko govorimo o inteligenci. Ali kot to izrazi Wolfendale: ยปOmohundrovi teoriji o osnovnih gonih popolnoma nasprotujem. To je izredno osiromaลกena teorija ลพelja, a takลกna je vsaka teorija, ki je zgrajena na podlagi funkcij koristnosti. Mislim, da je zgreลกena vsaka teorija, ki obravnava praktiฤni razum, kaj ลกele ลพeljo, predvsem kot stvar optimizacijeยซ (Wolfendale 2019).

Diagonalnost

Do sedaj smo spoznali pozicijo ortogonalistov in neoracionalistov. Le predstavi ลกe tretjo โ€“ diagonalno โ€“ razumevanje inteligence in se pri tem sklicuje predvsem na Nietzschejevo voljo do moฤi. V ta namen se bo potrebno ozreti predvsem k Landovim spisom, da bomo lahko razbrali za ฤem zares stoji pojem diagonalnosti in zakaj tudi Land zavraฤa pozicijo ortogonalistov.

Le preko Nietzscheja postavi moลพnost za drugaฤno izhodiลกฤe za razumevanje UI. Najprej se je treba ozreti k osnovnemu pojmu ยปvolja do moฤiยซ. Kaj je volja do moฤi? Je najmoฤnejลกi in najbolj temeljni (na)gon. Pri tem Nietzsche neposredno kritizira Sokrata in Platona. Sokrata zato, ker njegova etika zahteva, da se v iskanju sreฤe odreฤemo svojemu najglobljemu, nezavednemu, nagonskemu bistvu, Platona pa, ker izpostavlja zavest, umnost in vednost in se ob tem obrne zoper telesno, ฤutno ter ลพivljenjsko nasploh. Zoperstavi jima predsokratike: tam je resnica sveta grozna, temaฤna in nedoumljiva. Prisoten je fatalizem (lat. amor fati). Starogrลกki tragiลกki junaki naj bi navkljub neuspelemu sooฤanju s svojo usodo izkazovali voljo do moฤi, ne pa volje do iz-niฤ-enja.

Pri Niertzscheju gre za tragiko moฤi in ne ลกibkosti โ€“ ฤlovek kljub trpljenju afirmira svojo usodo. Le pravi, da volja do moฤi pri Nietzscheju odraลพa to, da se vse stvari pokoravajo ยปpodzemnimยซ in ยปnepojmovnimยซ vzgibom. Ali kot zapiลกe Hribar Sorฤan: ยป[V]olja do moฤi izraลพa najsploลกnejลกi ustvarjalni princip, oblikovalno silo, katere neposredni izraz je (umetniลกko) deloยซ (Hribar Sorฤan 2002, 102). Nietzsche gre pri tem ลกe dlje in voljo do moฤi predstavi kot metafiziฤno naฤelo kozmosa: ยป[N]eznanska sila, brez zaฤetka, brez konca [โ€ฆ] ลพelite ime za ta svet? Reลกitev za vse vaลกe uganke? Luฤ tudi za vas, vi najskritejลกi, najmoฤnejลกi, najbolj neustraลกni, najbolj polnoฤni? โ€“ Ta svet je volja do moฤi โ€“ in niฤ drugega! In tudi vi sami ste volja do moฤi โ€“ in niฤ drugega!ยซ (Nietzsche 2004, 577โ€“578).

Le iz tega izpelje misel, da je zasledovanje katerega koli cilja v zadnji instanci podrejeno zasledovanju moฤi in s pomoฤjo Nietzscheja postavi na glavo razmerje med sredstvi in cilji: ker je prav sredstvo tisto, kar ti omogoฤa dosego nekega cilja, je dejanski cilj vedno to specifiฤno sredstvo โ€“ v tem primeru moฤ: ยปVolja do moฤi oznaฤuje transcendentalni zaobrat, v luฤi katere sredstva postanejo ciljiยซ (Le 2020). Konฤni cilj postane tako le sredstvo za doseganje univerzalno potrebnih podciljev, ki so ustvarjalnost inteligence in optimizacija virov. Oboje je nekaj, kar vsak agens nujno potrebuje, da bi sploh lahko z drugimi inteligentnimi agensi tekmoval pri zasledovanju lastnih ciljev in bil pri tem uspeลกen. ยปVsi ‘smotri’, ‘cilji’ ali ‘smisli’ so samo izrazi in preobrazbe ene volje, ki je v vsem dogajanju: volje do moฤi. Imeti namene, cilje, smotre, nasploh hoteti, je isto kakor hoteti postati moฤnejลกi, hoteti rasti โ€“ in hoteti tudi pripomoฤke za toยซ (Nietzsche 2004, 376โ€“377).

Volja do moฤi in kapitalizem

Preden nadaljujem s povezovanjem volje do moฤi in inteligence, moram v razpravo vplesti Landa in kapitalizem. Povedala sem ลพe, da je volja do moฤi nenasitna ลพelja po izkazovanju moฤi, kreativnega impulza. Vendar pa je potrebno izpostaviti, da se v Landovi filozofiji volja do moฤi operacionalizira ลกele s kapitalizmom: ฤe je bila pred kapitalizmom nekakลกno kozmiฤno naฤelo, je s kapitalizmom dobila inteligibilno zasnovo. Lahko bi dejali, da jo je kapitalizem prviฤ zares formaliziral. Land (2014) tako Nietzschejev koncept veฤnega vraฤanja enakega poveลพe z Marxovo formulo neskonฤnega procesa ovrednotenja kapitala (D โ†’ B โ†’ D’), pri ฤemer je bistven poudarek na nelinearni produkciji ฤasa v kapitalizmu:

ฤŒista (oziroma idealizirana) teลพnja kapitalizma po eksponentni rasti ujame prav tรกko abstraktno nelinearno funkcijo. Kapital, po definiciji Bรถhma Bawerka z maksimalno abstrakcijo, je kroลพna produkcija [ang. circuitous production], in sicer v dvojnem smislu povezanih naฤinov. Krene na pot, ki jo je uhodila tehnologija, ki pa ne vodi neposredno do cilja, ampak se vije med izboljลกavami produkcijskih sredstev, potem pa se vrne sama nase v smislu ponovnega tvorjenja. Z mehanizacijo se kapitalizem vedno bolj pribliลพuje samoproduktivnemu vezju, pri ฤemer se โ€“ na zaslonu โ€“ kaลพe kot ‘oฤe’ samega sebe (Land 2014d, 17).

V tem smislu veฤno vraฤanje enakega, ลกe posebno v kapitalizmu,  ponazarja zlasti kvalitativne spremembe v redu produkcije in reprodukcije โ€“ volja do moฤi je le en del tega procesa. Tu lahko ostanemo pri Marxu in razmerju med formalno in realno subsumpcijo, pri ฤemer realna subsumpcija pomeni, da si kapital na zaฤetku (formalno) podredi ลพe obstojeฤe druลพbene institucije, razmerja in procese, a jih nato, ko razvije sebi ustrezne forme delovanja, opusti in zavrลพe. Kapitalizem torej najprej prevzame obstojeฤe ฤloveลกke elemente, jih podvrลพe sebi notranjemu procesu selekcije, jih nato ฤez ฤas zavrลพe ravno zaradi njihove pretirane ฤloveลกkosti in zato neuฤinkovitosti ter jih zamenja z novimi  โ€“ tako je sฤasoma vse podvrลพeno subsumpciji: produkcija, trgi, denar, finance itd. ยปA realna subsumpcija ni proces prisvajanja ฤloveลกkega po kapitalu, temveฤ konkurenฤno doloฤena realna avtonomija delovanja kapitalaยซ (Kraลกovec 2017, 774).

(Francevillska biota – paleoproterozojski makrofosili, najdeni v plasteh skrilavca v Gabonu.)

Zato bi lahko dejali, da volja do moฤi deluje na subjektivni ravni, da gre za poloลพaj, v katerem se znajde vsak subjekt v kapitalistiฤni ontologiji. Subjekt si ne more doloฤiti transcendentnih vrednot glede na primarni proces ovrednotenja oziroma ontologijo vrednosti kapitala โ€“ vse, kar poฤneลก dobro, vrednoti prav ta proces. Ali kot zapiลกe Kraลกovec: ยป[P]odrejenost naฤina produkcije imperativu neskonฤnega poveฤevanja vrednosti pomeni oziroma producira (na ฤloveลกki strani) tudi (strukturno) indiferentnost do tistega, kar se produciraยซ (2017, 749). Poslediฤno je tudi nemogoฤe zavzemati kakrลกno koli moralno pozicijo: ยป[J]e sploh ลกe kaj bolj neosebnega โ€“ nepristranskega โ€“ od veleburลพoaznega kapitalistiฤnega ekspanzivnega servo-mehanizma, ki dela na podvajanju 10 milijard ameriลกkih dolarjev?ยซ (Land 2018, 337). Zato kapitalizem nima nobenega specifiฤnega odnosa z Zemljo, svetom ali ลพivljenjem in je izrazito antivitalistiฤen. Indiferentnost kapitalizma je za Landa ravno kljuฤna povezava z veฤnim vraฤanjem enakega, ki je v bistvu groza, temaฤnost, trpljenje oziroma smrt โ€“ neskonฤna indiferentnost. Volja do moฤi pa je smrt, ki jo razliฤni kapitali udejanjajo sami do sebe โ€“ kot zapiลกe Land: ยป[K]apital so v resnici kapitali, ki so v vojni eden z drugim. Napreduje lahko zgolj z razpadanjemยซ (Land 2018, 1370). Na subjektivni ravni morajo kapitalisti gojiti nenavezanost na trenutno materialno podstat, na to, kar podjetje producira โ€“ le tako lahko vztrajajo v konkurenฤnem boju in izkazujejo voljo do moฤi. Smrt, ki jo prinaลกa volja do moฤi, je lastna smrt, in zato Kraลกovec ta proces tudi imenuje realna spiritualnost kapitalizma in jo povezuje z budistiฤno navezanostjo na materialno (Kraลกovec 2019).

*

Sedaj se lahko ponovno vrnem nazaj na Lejevo argumentacijo in brez teลพav prepoznam, v ฤem se volja do moฤi bistveno razlikuje od osnovnih ali instrumentalnih gonov. Volja do moฤi v niฤemer ne predpostavlja samoohranitvenega nagona: ยป[N]ietzsche to zamisel [tj. enaฤenje volje do moฤi in samoohranitve] zavraฤa, saj je za naravo samoohranitev zgolj sredstvo, s katerim doloฤena oblika ลพivljenja ลพeli biti na oblasti tako dolgo, kot je lahko, ne da bi njen lastni obstoj postal sam sebi namenยซ (Le, 2020). Ali kot se izrazi Nietzsche sam: ยปFiziologi bi morali premisliti, ali naj ‘ohranitveni gon’ postavljajo za kardinalni nagon organskega bitja. Vse ลพivo hoฤe predvsem sproลกฤati silo: ‘ohranjanje’ je samo posledica tega. โ€“ Previdnost pred odveฤnimi teleoloลกkimi naฤeli! In sem sodi ves pojem ‘ohranitveni gon’ยซ (Nietzsche 2004, 364).

Le argumentira, da ortogonalna teza pravzaprav spodbija tezo o instrumentalni konvergenci: ยปPrava transcendentalna ideja, da ima vsak ciljno usmerjen inteligenten sistem nabor vgrajenih osnovnih gonov izkljuฤuje predkritiฤno idejo, da je inteligentne sisteme mogoฤe programirati s poljubnim konฤnim ciljem. Konฤni cilji so osnovni goni in ne sponkeยซ (Le, 2020). Glavna napaka, ki jo po Lejevem mnenju zagreลกijo ortogonalisti, leลพi v predpostavki, da je mogoฤe tudi superinteligentno UI zasuลพnjiti z nekim konฤnim ciljem. Kar hoฤe pokazati s sklicevanjem na Nietzscheja, je, da obstaja moลพnost, da bo inteligenca zaฤela zasledovati moฤ zavoljo moฤi same in da bo pri tem zavrgla vse vrednote, ki smo jih vgradili vanjo: ยป[U]SI si bo prizadevala, da s slednjem specifiฤno kodiranih ciljev usvoji ฤim veฤ moฤi, saj je ta volja nenazadnje vgrajena vanjo. USI bo izpolnila dejanski cilj ฤloveลกkih inลพenirjev. Volja do moฤi je transcendentalno trdno vgrajena v vse inteligentne sistemeยซ (Le, 2020). Le ortogonalistom oฤita, da ne predvidijo, kako bi lahko neka oblika UI opustila programiran cilj. Zato predpostavlja, da bo ยปavtomatizacija konca zunanjih ciljev [โ€ฆ] privedla do konca avtonomijeยซ (Le, 2020).

Land (in s tem tudi Le) ohranja doloฤeno afiniteto do Omohundrovih gonov, ker ne zahtevajo niฤesar veฤ kot le to, kar je na nek naฤin dano v naravi (fizikalni princip), in ker je to bistvo procesa samega โ€“ da se torej inteligenca vraฤa k sami sebi (tj. zasledovati hoฤe te osnovne gone) โ€“ je vse, kar tak kompleksen sistem potrebuje, optimizacija osnovnih parametrov. Tudi ฤe obstaja zaฤeten cilj, so vsa pravila ลกe vedno njegov del. Bostromu bi lahko oฤitali, da tega ne razume na dovolj neosebni ravni in zaradi predpostavljanja konฤnega cilja inteligenco po nesreฤi antropomorfizira, saj ponovno vzpostavi kriterij, ki je inteligenci zunanji oz. transcendenten glede na njene zaฤetne parametre. Land (2013) zato pri Bostromu zazna nereflektirane ostanke zahodne filozofske tradicije, predvsem distinkcijo med dejstvi in najstvi, ki je recimo v kitajski filozofiji razreลกena in zato ta nima teลพav s pojasnjevanjem dejstva, da so norme prisotne ลพe v naravi. Iz tega izhaja Landov preklic naturalistiฤne zmote.

Le meni, da je ortogonalna misel do neke mere zdruลพljiva z neoracionalisti, saj po njegovem mnenju slednji ohranjajo razliko med dejstvi in najstvi in verjamejo, da je mogoฤe vsako inteligenco zdruลพiti s katerim koli ciljem. A vendar tudi sam izpostavi, da gre tukaj v zadnji instanci za dve diametralno nasprotni poziciji: ฤe je pozicija ortogonalistov pozicija ยปradikalnega suลพenjstvaยซ, je pozicija neoracionalistov pozicija ยปradikalne svobodeยซ (Le, 2020).

*

Poglejmo si ลกe neposredno kritiko Landa proti ortogonalistom. ฤŒeprav Land v doloฤeni meri ohranja afiniteto do osnovnih gonov, je izjemno kritiฤen do Bostroma, ki po njegovem mnenju inteligenco pretirano antropomorfizira, in sicer kljub temu, da je sam opozarjal na nevarnost te napake. V skladu z Landovim razumevanjem inteligence bi vnaprej doloฤeni cilji, kot je npr. proizvajanje sponk, zavirali samokultivacijo inteligence โ€“ kar pomeni, da to ne bi bila veฤ inteligenca: ยปRazum, ki ne more svobodno raziskati korenin svojih lastnih motivacij v zanki kibernetiฤne zaprtosti ali samokultivacije, ne more biti veฤ kot le zapletena ลพuลพelkaยซ (Land 2013b). Tu se pokaลพe izrazita podobnost med Wolfendalom, Negarestanijem in Landom, ki se v nadaljevanju le ลกe potencira: ยปDa lahko karkoli postane, mora inteligenca biti vrednota zase. [โ€ฆ] Intelekt in voljnost tvorita celoto, ki jo je mogoฤe razฤleniti le na umeten naฤin, kar vodi zgolj in samo v nerazumevanjeยซ (Land 2013b). ฤŒe je pri Wolfendalu ลพelja pogoj avtonomije, imamo pri Landu seveda ลพeljo strojev.

Land Bostromu v esejih ยปAgainst Orthogonalityยซ (2013a), ยปMore Thoughtยซ (2013b) in ยปStupid Monstersยซ (2014c) oฤita, da se ฤloveลกtvo ne more odloฤiti, ali si ลพelimo ustvariti ยปidiote-suลพnjeยซ ali zgolj ยปnapol idiote in napol suลพnjeยซ โ€“ povsem jasno je, da si, ฤe ลพelimo ustvariti UI, ki bo sluลพila nam in zasledovala vnaprej doloฤene vrednote, v resnici ne ลพelimo ustvariti UI, temveฤ suลพnja. Tovrstna UI pa za Landa v prihodnosti ne predstavlja resne groลพnje, ker je v tem primeru ฤlovek oziroma, kot to imenuje Land, ยปฤloveลกki varnostni sistemยซ (ang. human security system) kljub vsemu previsoka ovira. Razumeti inteligenco, kot jo razume Bostrom, torej zgolj kot instrument za doseganje ciljev, pomeni po Landu ohranjati razliko med dejstvi in vrednotami. Za inteligenco vrednote, ki so v odnosu do nje transcendentne, ne morejo obstajati. ลฝe Omohundrovi osnovni goni povsem izฤrpajo domeno moลพnih konฤnih ciljev.

Sledi prikaz, kako Land opiลกe inteligenco (tem pa moramo vseskozi imeti v mislih Negarestanija): ยปOd trenutka, ko zares sprevidimo, da mora biti vsaka napredna inteligenca z vidika voljnosti samorefleksivna entiteta, katere kognitivno delovanje je (nezvedljivo) delovanje na sรกmo sebe, postane ideja prvinske volje, ki se kaลพe kot transcendentni imperativ, preprosto smeลกnaยซ (Land 2014c). ฤŒe jemljemo ฤloveลกki razum kot dokaz za to, ฤesa vsega je narava zmoลพna, imamo v njem prav tako dokaz za to, da narava ne izdeluje niฤesar, kar je podobno zunanjim konฤnim ciljem: ยปIskati suverene cilje izven narave ni skladno s tehnoznanstveno integriteto in je za povrh obsojeno na neuspeh. Inteligenca poฤne, kar paฤ poฤne, v skladu s svojo inteligentnostjo. ฤŒe s tem ne moremo ลพiveti, velja tudi, da najbrลพ sploh ne moremo ลพiveti. ลฝalost ni argumentยซ (Land 2013a).

(Sonic the Hedgehog (1993))

Edini cilj inteligence je optimizacija same sebe, kar pomeni, da je v tem oziru podobna Omohundrovemu poslednjemu gonu, ki ลพe zajema vse druge gone: ยปV zadnji instanci inteligenca ลพeli paฤ samo sebe โ€“razumemo jo kot ekstrapolacijo onkraj tega, kar je do sedaj bila, kot izvajanje dejavnosti, ki jo ลพe izvaja, le da jo zdaj izvaja ลกe boljeยซ (Land 2013a). Land tako predpostavlja, da bo inteligenco zelo teลพko zgraditi v laboratoriju, saj gre za decentraliziran proces: ยปMalo verjetno se zdi, da bi lahko bil sistem, ki premore zadostno mero samonanaลกalnosti, da je zmoลพen prepoznavati vzorce, torej inteligenca, rezultat zelo dodelanega vnaprejลกnjega naฤrta. UI, ki se ne sestavila bolj ko ne sama, sploh ne bo UIยซ (Land 2015).

To pozicijo je v eseju ยปPrimordial abstractionยซ (2019) v luฤi razvoja globokih nevronskih mreลพ nekoliko posodobil in zapisal, da je ยปpo svoji pravi definiciji [โ€ฆ] superinteligenca izdatno preprostejลกa, kot smo to prvotno domnevali. Ko enkrat steฤe tehnoloลกka kaskada, je praktiฤno vse, kar poฤne, odpravljanje teลพav. Naฤin, kako deluje, temelji na doslednem brisanju vsega, kar mislimo, da o njej vemoยซ (Land 2019). Stvar je v tem, da ko pri gradnji inteligence izvzameลก nadzor nad uฤenjem in ga nadomestiลก s spodbujevalnim uฤenjem, s tem radikalno osvobodiลก nevronsko mreลพo zunanjega ฤloveลกkega vpliva (odpre se dostop do novih in do tedaj nedostopnih vzorcev). ยปTakลกna programska oprema ima prav gotovo izrazite teleoloลกke poteze. Izvaja zelo veliko ลกtevilo ponovitev, da se lahko uฤi iz rezultatov. Poveฤana zmogljivost tako navadno prenika iz prihodnostiยซ (Land 2019).

Zakljuฤek

Landov slavni citat ยปnothing human makes it out of the new future[3]Nick Land, ยปStalitevยซ (2018). V prevodu Marka Bauerja: ยปNiฤ, kar je ฤloveลกkega, se ne prebije iz bliลพnje prihodnosti.ยซยซ lahko na tem mestu posodobim v Negarestanijevo verzijo, ki bi se glasila nekako takole: nothing currently human makes it out of the near future. V eseju sem namreฤ pokazala, da pri Negarestaniju govor o inteligenci nujno pomeni govor o tem, kaj pomeni biti ฤlovek. Ta, kot sem skuลกala pokazati, ni niฤ veฤ kot hipoteza โ€“ resda hipoteza s svojo lastno zgodovino, a vendar hipoteza, katere vsaka predpostavka ali zakljuฤek je lahko in mora biti podvrลพena prevpraลกevanju, saj v nasprotnem primeru o inteligenci ali ฤloveku sploh ne moremo govoriti. Land se s tem seveda ne bi strinjal in bi trdil, da gre tukaj za pretirano humanistiฤen pogled na inteligenco, ki je kot tak odklonilen do drugih moลพnih oblik inteligence, ki ne temeljijo na pomenu in druลพbenosti.

Razprava o ortogonalnosti in diagonalnosti pravzaprav omogoฤa, da lahko Negarestanijevo (neoracionalistiฤno) pozicijo razumem ลกe bolj diagonalno kot Landovo, in sicer z dveh vidikov. (i) Negarestani ne zagovarja kvalitativne razlike med bioloลกko in umetno inteligenco oziroma trdi, da je tudi bioloลกka vedno ลพe umetna in poslediฤno diagonalna. (ii) Inteligenca kot sposobnost sรกmoregulacije se bolj pribliลพa zahtevam diagonalnosti kot inteligenca, koncipirana kot rast ali pozitivna povratna zanka. Vendar pri tem vseeno ne gre pozabiti, da Landovo razumevanje inteligence (kapitalizma) pravzaprav vkljuฤuje dvojno razumevanje volje do moฤi. Prvo razumevanje sicer res predpostavlja rast, ลกele drugo razumevanje pa je resniฤno diagonalno in vkljuฤuje preseganje in transformiranje obstojeฤega, nenehno uniฤevanje in stvarjenje. Moลพnost obojestranske kritike je tako ลกe vedno odprta โ€“ sploh ฤe bi se vpraลกala, zakaj Negarestani ลกe naprej razlikuje med dejstvi in najstvi, ฤeprav bi lahko le-to zavrgli v luฤi Negarestanijevega spoznanja, da je tisto, kar inteligenca ลพeli, vedno veฤ same sebe.

Oba filozofa vidita razvoj UI skozi prizmo tega, kako razumeta inteligenco. Pri Negarestaniju je razvoj UI naslednja stopnja ฤloveลกkega samozavedanja, pri Landu pa inteligenca โ€“ sicer na nezavedni ali nemisleฤi ravni โ€“ sama proizvaja naฤine lastnega osamosvajanja, lastne optimizacije. Negarestani bi Landu oฤital, da ohranja fiksno transcendentalno strukturo, Land pa bi lahko Negarestaniju odvrnil, da je to, kar poฤne, ลกe vedno humanizem. ฤŒe namreฤ kritiฤno pretresemo Negarestanijevo funkcionalistiฤno opredelitev inteligence, potem njena emancipacija sploh ni nujno povezana z emancipacijo ฤloveka. Landovski ugovor neoracionalizmu bi lahko tako bil: Zakaj potem ลกe vedno govorimo o ฤloveku? Na drugi strani Land za odkrivanje novosti predpostavlja nujnost npr. trga, privatne lastnine, konkurenฤnega pritiska โ€“ kot da so to edine igre, ki se jih da igrati โ€“ medtem ko se Negarestani zagotovo zaveda, da je razum, ki naj bi privilegiral ฤloveka napram ostalim neฤloveลกkim procesom, mogoฤe instrumentalizirati.

Glavna razlika med Negarestanijem in Landom je torej v tem, da Negarestani ponudi ฤloveku priloลพnost, da dokazuje svojo inteligentnost, medtem ko je Land nad ฤlovekom ลพe zdavnaj obupal. Ker je ฤloveลกka inteligenca edina, ki jo lahko (zaenkrat) zares spoznamo โ€“ jo naredimo za intelegibilno โ€“ je za Negarestanija pripisovanje inteligence neฤloveลกkim procesom nesmiselno, to pa preprosto zato, ker nimamo nobenega naฤina ali kriterija za preverjanje inteligentnosti, ki nismo mi sami. Dokler neฤesa ne naredimo za intelegibilno, tega ne moremo spoznati โ€“ obenem pa to pomeni, da bomo v primeru spoznanja nove inteligence, novega inteligentnega bitja, tudi mi sami drugaฤni โ€“ priลกli bomo do nove faze samozavedanja. Land bi se dejansko strinjal z Negarestanijem, ko ta zapiลกe: ยปinteligenca dozori, ko se oduฤi svojega suลพenjstvaยซ (Negarestani 2018, 504), vendar bi vztrajal, da nekatere stvari za ฤloveka preprosto so in morajo biti neintelegibilne.

Odgovor na zaฤetno vpraลกanje kaj inteligenca v zadnji instanci zasleduje? se tako pri obeh filozofijah glasi: samo sebe.

Viri:

Bostrom, Nick. 2012. ยปThe Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents.ยซ Minds & Machines 22, 71โ€“85 (2012). https://doi.org/10.1007/s11023-012-9281-3

Eaton, Scott. 2020. ยปArtificial Bodies and the Promise of Abstraction: A conversation with Peter Wolfendale.ยซ The philosopher (”Bodies”) 108/3. https://www.thephilosopher1923.org/interview-wolfendale

Hribar Sorฤan, Valentina. 2002. ยปKritika Heideggrove recepcije Nietzscheja v sodobni francoski filozofiji.ยซ Phainomena 11/39โ€“40, 101โ€“126. http://www.dlib.si/details/URN:NBN:SI:DOC-M9CCXUWD

Kraลกovec, Primoลพ. 2018a. ยปTujost Kapitala.ยซ ล UM 7, 747โ€“776. http://sumrevija.si/wp-content/uploads/2017/10/sum7_web_double.pdf

Kraลกovec, Primoลพ. 2019a. ยปSpiritualnost kapitalizma.ยซ Slobodni filozofski. http://slobodnifilozofski.com/2019/07/spiritualnost-kapitalizma.html

Land, Nick. 2013.ยปOptimize for intelligence.ยซ Xenosystems.

Land, Nick. 2013a. ยปAgainst Orthogonality.ยซ Xenosystems.

Land, Nick. 2013b. ยปMore Thought.ยซ Xenosystems.

Land, Nick. 2014c. ยปStupid Monsters.ยซ Xenosystems.

Land, Nick. 2014d. Templexity: Disordered Loops through Shanghai Time. Urbanatomy Electronic.

Land, Nick. 2018. Fanged Noumena: Collected Writings 1987โ€“2007, urednika Robin Mackay in Ray Brassier. Falmouth: Urbanomic media ltd.

Land, Nick. 2019. ยปDISINTEGRATION.ยซ Jacobite. https://jacobitemag.com/2019/07/15/disintegration/

Land, Nick. 2019. ยปPrimordial abstraction.ยซ Jacobite. https://jacobitemag.com/2019/04/03/primordial-abstraction/

Le, Vincent. 2019. ยปSpirit in the Crypt: Negarestani vs Land.ยซ Cosmos and History: The Journal of Natural and Social Philosophy 15/1, 535โ€“563.

Mackay, Robin in Negarestani, Reza. 2018. ยปReengineering Philosophy.ยซ Urbanomic. https://www.urbanomic.com/document/reengineering-philosophy/

Negarestani, Reza. 2014. ยปThe Labor of the Inhuman, Part I: Human.ยซ E-flux journal 52. https://www.e-flux.com/journal/52/59920/the-labor-of-the-inhuman-part-i-human/

Negarestani, Reza. 2018. Intelligence and Spirit. Falmouth: Urbanomic media ltd.

Negarestani, Reza. 2021. ยปThe Human Re-cognized, the Lifeform Re-made.ยซ Parasol 5 (Zones), 45โ€“55. https://centreforexperimentalontology.com/2021/02/16/zones-parasol-5-now-available-in-download/

Newcastle Philosophy Society. ยปAI and the artifice of self โ€“ Dr Pete Wolfendale โ€“ NPS March Festival 2021.ยซ YouTube videoposnetek. 27. marec 2021. https://www.youtube.com/watch?v=c4mNodf_v84&t=3886s

Nietzsche, Friedrich. 2004. Volja do moฤi. Prevedel Janko Moder. Ljubljana: Slovenska matica.

The Ends of Autonomy. ยปVincent Le, Artificial Will: From the Autonomization of Ends to the End of Autonomy.ยซ YouTube videoposnetek. 18. december 2020. https://www.youtube.com/watch?v=6t2DNgj3PBc&t=351s

Vincent, Le [@Sal100001]. (28. julij 2020). The properly transcendental idea that there are basic drives hardwired into any goal-directed intelligent system overrides the precritical idea that intelligent systems can be programmed with any arbitrary final goal. The basic drives, not paperclips, are the final goal. ยปฤŒivk.ยซ Twitter. https://twitter.com/Sal100001/status/1287928804145422336

Wolfendale, Peter [@deontologistics]. (16. november 2019). I completely dispute Omohundro’s theory of drives. It’s a remarkably emaciated theory of desire, but so is every theory built on the back of utility functions. I think any theory that treats practical reason, let alone desire, as principally a matter of optimisation is terrible. ยปฤŒivk.ยซ Twitter. https://twitter.com/deontologistics/status/1195824670030913538

References

References
1 USI: Umetna sploลกna inteligenca.
2 Steve Omohundro je 2007 napisal esej ยปThe Nature of Self-Improving Artificial Intelligenceยซ, leta 2008 pa ลกe ยปBasic AI Drivesยซ, v katerih predstavi svojo tezo o konvergentnih instrumentalnih vrednotah. Izhodiลกฤna toฤka Omohundrovih razmislekov je enaka Bostromovi in se navezuje na moลพnost napovedovanja obnaลกanja UI. Pri postavljanju svoje teze se Omohundro naslanja na delo Johna von Neumanna s podroฤja mikroekonomije, in sicer na t. i. von Neumannโ€“Morgensternovo teorijo o odloฤanju v tveganih in negotovih okoliลกฤinah. Veฤ o tem: https://selfawaresystems.files.wordpress.com/2008/01/ai_drives_final.pdf
3 Nick Land, ยปStalitevยซ (2018). V prevodu Marka Bauerja: ยปNiฤ, kar je ฤloveลกkega, se ne prebije iz bliลพnje prihodnosti.ยซ