Prošli mjesec je Sam Altman napisao znanstveno-fantastični tekst koji je potaknuo raspravu unutar tehnološke industrije. Naslov je bi: Doba inteligencije
Glavna teza koju zagovara ovaj narkotično optimistični tekst jest:
U sljedećih nekoliko desetljeća moći ćemo raditi stvari koje bi našim djedovima i bakama izgledale kao magija.
To je gotovo sve što trebate znati kako biste razumjeli srž temeljnih uvjerenja, ili čak etosa Altmana i njegove kohorte, koji tjeraju njihov gotovo patološki opsesivni akceleracionizam prema singularnosti umjetne inteligencije – ili onome što oni zamišljaju kao takvu. Ima sva obilježja slijepog utopizma. Primjeri nadolazećih postignuća, koje on navodi, izgledaju kratkovidno vezani za učinke prvog reda, nikada ne uzimajući u obzir posljedice drugog ili trećeg reda, kao što bi za takvog tipa bilo odgovorno i trebao bi biti slučaj. Prođimo kroz neke od njegovih zamisli, prije nego što bacimo palicu na šire ispitivanje naše potencijalne budućnosti pod vodstvom ove trenutne klase tehnoloških vodećih ljudi.
"Neće se dogoditi odjednom, ali uskoro ćemo moći raditi s umjetnom inteligencijom koja nam pomaže da postignemo mnogo više nego što bismo ikada mogli bez umjetne inteligencije; na kraju svaki od nas može imati osobni UI tim, pun virtualnih stručnjaka u različitim područjima, koji rade zajedno na stvaranju gotovo svega što možemo zamisliti. Naša će djeca imati virtualne učitelje, koji mogu pružiti personaliziranu poduku iz bilo kojeg predmeta, na bilo kojem jeziku i kojim god tempom žele."
On podiže zastavu za ideju kako će UI olakšati naše živote i poslove. Ali, toliko je problema samo s ovim dosad napisanom.
Prvo, zašto bi se naši ikakvi poslovi uopće cijenili, i zašto bi se naše plaće uopće isplaćivale, nakon što poslodavci shvate kako većinu, ili vrlo značajan dio našeg posla obavlja, ili na neki način poboljšava, taj 'pomoćnik'? Ovo zvuči kao najnoviji recept za još više kršenja radničkih prava i još jednu 'eru' minimalnog, ili nikakvog, rasta plaća.
Drugo, on tvrdi kako će UI 'tutori' obučavati vašu djecu. Za što bi ti UI-učitelji konkretno obučavali djecu? Kada sam navodi kako u budućnosti preplavljenoj umjetnom inteligencijom, radna mjesta možda jedva i postoje, osim za nekoliko odabranih inženjera koji pokreću algoritme umjetne inteligencije. Iako vas umjetna inteligencija može 'trenirati', takva je obuka bezvrijedna. Ovdje postoji jasna nepovezanost između ekonomskog uzroka i posljedice. Obećanje je, u biti, kako će umjetna inteligencija 'povećati' naše poslove i aktivnosti — iste one za koje se očekuje da će nas umjetna inteligencija smatrati zastarjelima, i onda nas eliminirati.
"S ovim novim sposobnostima, možemo imati zajednički prosperitet do stupnja koji se danas čini nezamislivim; u budućnosti svačiji životi mogu biti bolji nego što je bilo čiji život sada. Prosperitet sam po sebi ne čini ljude nužno sretnima – ima mnogo jadnih bogataša – ali značajno bi poboljšao živote ljudi diljem svijeta."
Evo njega opet, na pretjerano optimističan način. UI koja radi sve umjesto nas, preuzima naše poslove, itd....nekako će našim životima dati više smisla, umjesto da vam živote ostavi kao prazne i slomljene ljuske. 'Prosperitet' je jedna od onih čarobnih riječi koja kao da se sama definira što je više izgovarate, bez ikakve stvarne kontekstualne pozadine. Tehnološke elite bacaju u ovakve fraze, ali nikada ne žele ocrtati njegovu opipljivu definiciju. Ovo su samo plitke floskule i blaćenja, jedva nešto više od korporativne PR kopije i sve ovo ima za cilj natjerati nas neka slijepo prihvatimo sveobuhvatne društvene promjene, koje sami ne tražimo. Ali, čak je i kreator Segwaya barem pokušao oslikati konkretnu viziju, opremljenu konkretnim primjerima i slučajevima korištenja (kako će njegov izum redefinirati budućnost 'na bolje'). Ovi ljudi se čak niti ne zamaraju—samo zahtijevaju neka na njihovu riječ prihvatite činjenice kako će "veliko obilje" i nezamisliv "zajednički prosperitet" na neki nejasan način prohujati kroz nas.
Opet pitam: kako bi stvar koja nam krade značenje jednom rukom mogla istovremeno dati drugom? Povijest je pokazala da kada ljudima oduzmete samodostatnost i sposobnost da sami sebi stvore blagostanje - ne okupate ih u bezgraničnom 'prosperitetu', već ih porobljavate putem vlasnika 'sredstava za proizvodnju' - uz upotrebu poticaja Marksističkih tokena.
Zapravo, Altman je toliko zaljubljen u svoje prazne fraze, toliko da se ponavlja:
"Možemo reći puno stvari o tome što bi se sljedeće moglo dogoditi, ali glavna jest kako će umjetna inteligencija postati bolja s razmjerom, a to će dovesti do značajnih poboljšanja u životima ljudi diljem svijeta.
Modeli umjetne inteligencije uskoro će služiti kao autonomni osobni pomoćnici koji će obavljati određene zadatke u naše ime, poput koordinacije medicinske skrbi u vaše ime.
Tehnologija nas je dovela iz kamenog doba u poljoprivredno, a zatim u industrijsko doba. Odavde je put do Doba inteligencije popločan računalstvom, energijom i ljudskom voljom."
Opet: osobni asistenti za koje (točno) - besmisleno rekurzivne podatkovne poslove? Mi, kao bio-botovi, koji koristimo UI pomoćnike samo za programiranje, povećanje i održavanje - samo još više UI ? UI kao "liječnički pomoćnici" koji će nas tješiti i voditi za ruke prema kapsuli za eutanaziju, dok prolazimo faze od umora do anemije?
"Ako želimo UI dati u ruke što je moguće većem broju ljudi, moramo smanjiti troškove računanja i učiniti ga obilnim (što zahtijeva puno energije i čipova). Ako ne izgradimo dovoljno infrastrukture, UI će biti vrlo ograničen resurs oko kojeg se vode ratovi i koji postaje uglavnom alat za bogate ljude."
Ali, tko je i kada rekao kako društvo masovno želi UI? Koja je velika društvena studija, ili opsežno istraživanje javnog mjenja, došlo do ovog zaključka? Zapravo, on zvuči samo kao predvodnik industrijalaca u njihovoj stalnoj potrazi za povećanjem produktivnosti, na račun radničkih plaća. I naravno, gornji odlomak pogađa pravu namjeru koja stoji iza šašave fasade, zbog ugodnog osjećaja ovog maloljetničkog estriha: to je podmukli poziv za financiranje Altmanova vlastitog 'infrastrukturnog' pogona—istog onog koji će ga dovesti u razinu bogatih milijardera. On želi neka globalne vlade diljem svijeta subvencioniraju masovnu ekspanziju proizvodnje energije i podatkovnih centara, kako bi njegova vlastita neregulirana tvrtka, mogla neosporno pokoriti naslijeđeni svijet.
"Vjerujem da će budućnost biti tako svijetla da će ... definirajuća karakteristika Doba inteligencije biti ogroman prosperitet."
Ovdje ponovno pada u nesvijest zbog navodno 'definirajuće karakteristike' koju odbija definirati - iste stare nemarno odbačene banalnosti 'prosperiteta'!
"Iako će se to događati postupno, zapanjujući trijumfi – popravljanje klime, uspostavljanje svemirske kolonije i otkriće cjelokupne fizike – s vremenom će postati uobičajeni."
Ne samo da je ovo monumentalno isprazno, s nevjerojatnim curenjem ekscentričnog egoizma, nego je i zapanjujuće opasno. Mali egoistični dečko, koji se igra Boga, će "popraviti" klimu? Usuđuje se izazvati prevlast same prirode kao da on jedini posjeduje sam nacrt prirodnog života? Prirodu ne treba popravljati, ali možemo zaključiti što sigurno treba učiniti nakon čitanja teksta ovog napuhanog, pretencioznog maloljetnika.
Na kraju:
"Kao što smo vidjeli s drugim tehnologijama, bit će i loših strana... većina poslova mijenjati će se sporije nego što većina ljudi misli i ne bojim se da će nam ponestati stvari koje možemo raditi (čak i ako ne izgledaju kao “pravi poslovi” za nas danas).
Mnogi poslovi koje danas obavljamo, ljudima bi prije nekoliko stotina godina izgledali kao beznačajno gubljenje vremena, ali nitko se ne osvrće u prošlost, želeći upaljač. Kada bi palitelj svjetiljki danas mogao vidjeti svijet, pomislio bi kako je blagostanje oko njega nezamislivo. A kad bismo mogli premotati stotinu godina unaprijed, blagostanje oko nas bilo bi jednako nezamislivo."
Kakva zapanjujuća drskost jajoglavca, koji nije u stanju vidjeti stvarni svijet, kroz razdijelnih rešetki ispred prozora svoje kule od bjelokosti u Silicijskoj dolini. Samo oni koji djeluju u najelitnijim društvenim krugovima mogli bi opisati, to je današnji svijet povijesne nejednakosti kao prepun raznih vrsta prosperiteta, koje on romantizira. Jaz između bogatih i siromašnih nikada nije bio veći nego danas, srednja klasa službeno više ne postoji u većini zapadnih zemalja. Suprotno njegovoj usporedbi o gluhim tonovima, veliki dio društva zapravo sve više gleda na današnje poslove kao na neispunjavajuću, bezumnu, mukotrpnu obvezu, i to je najvidljivije baš među kohortom generacije Z.
Altmanov istaknuti komentar o 'palitelju svjetiljki' (lamplighter) izazvao je i žestoku repliku Curtisa Yarvina, što vrijedi pročitati:
https://graymirror.substack.com/p/sam-altmans-lamplighter
Na tematski i stilski različit način iznosi uglavnom iste stvari koje su i ovdje navedene, ukratko: ljudima jest potreban smislen rad kako bi civilizacija napredovala. Palitelj svjetiljki, na svoj način, može se smatrati daleko smislenijim poslom od posla ovog tipa, čudnog trećeg kotača za umjetnu inteligenciju ili poslova petljanja oko kodova aplikacija, koje rade lijena i neodgovorna djeca, poput Altmana, koji zamišljaju za našu zajedničku utopističku budućnost.
Yarvin ispravno ističe kako Altmanove otrcane fraze nisu ništa drugo nego prepakiranje već odavna poznatog potpuno automatiziranog luksuznog komunizma, koji ostaje upravo osnovni izvor iz kojeg ideje crpi trenutna skupina elita, kako bi opisali svoje 'uzbudljive' vizije svijeta tijekom oskudice. Yarvin, naravno, stavlja svoj vlastiti karakteristično sarkastični spin, nazivajući Altmanovu verziju sličnijom 'Potpuno automatiziranom luksuznom staljinizmu'. Ali, takvo omalovažavanje Staljinove inteligencije, ne može proći neosporeno – umjesto toga predlažem neka potpuno automatizirani luksuzni jeljcinizam bude više na Altmanovom planu, jer se slaže s neobičnom mješavinom pop-komunizma, ortačkog kapitalizma, mafijaških taktika i jeftinog McDonaldsa na vrhuncu 90-ih - kič doba kao vizija 'postoskudične' ekumenske nirvane.
“Kum umjetne inteligencije”, Geoffrey Hinton, koji je upravo dobio Nobelovu nagradu za fiziku, nije otupio svoje prave osjećaje prema Altmanu kada je otkrio da je jedan od trenutaka na koji je najponosniji bio kada je njegov student otpustio Altmana. Razlog njegove, ali i mnogih drugih u ovoj oblasti, nenaklonosti prema Altmanu - ima upravo veze s Altmanovim notornim ismijavanjem zabrinutosti za sigurnost i faustovskim akceleranizmom prema nepoznatim ciljevima.
Dok je Altmanova rasprava privukla pozornost svih strana, istovremeno se pojavio još jedan, nedvojbeno puno važniji tekst. Tekst koji je prošao ispod radara jest od talentiranijeg pisca, Daria Amodeija, izvršnog direktora Anthropica. Anthropic je tvorac Claudea, vjerojatno glavnog konkurenta ChatGPT-ja. Zapravo, Amodeiju je i pristupio upravni odbor OpenAI-ja zbog spajanja dviju kompanija, sa ponudom neka zamjeni Altmana na čelu obiju kompanija, tijekom prošlogodišnjeg debakla.
Amodeijevo djelo daleko je bolje objašnjeno, ali i značajnije od Altmanovog površinskog napora opterećenog floskulama, i stoga nam daje rijetku priliku da bacimo pogled na dvije konkurentne vizije - vizije koje nude trenutni predvodnici na krvavom rubu četvrte svjetske industrijske revolucije.
Amodei započinje sa zrelijim i utemeljenijim pristupom, naizgled kopajući po Altmanu, kod objašnjenja potrebe za izbjegavanjem mesijanskog jezika:
"Izbjegavajte grandioznost. Često me odbija način na koji mnoge javne osobe s rizikom od umjetne inteligencije (da ne spominjem čelnike UI kompanija) govore o post-AGI svijetu, kao da je njihova misija samostalno ga pokrenuti poput proroka koji vodi svoje ljude do spasenja."
Istina je, međutim, kako već sam naslov Amodeijevog teksta jasno miriše na sličnu razinu narcisoidnog razmišljanja.
Prva polovica teksta je posvećena ocrtavanju načina na koji će sve probleme, našeg biološkog i mentalnog zdravlja, riješiti umjetna inteligencija – što je doista upitan prijedlog iz mnogo razloga. Ne manje važno jest kako su citirane mentalne "bolesti" samo "bolesti" krajnje pristranih i manjkavih velikih farmaceutskih i medicinskih industrija. 'Depresija' se, npr. uvelike može objasniti lošom prilagodbom ljudi na zahtjeve neprirodnih ekscesa koje filuje moderno doba. Protiv homeostatske ravnoteže prirode jest da nekakva umjetna inteligencija "liječi" takve "bolesti", sve u svrhu oblikovanja vas samih u savitljivijeg i učinkovitijeg korporativnog uredskog radnika-drona.
Kao što vidite, Dario je već krenuo pretpostavljeno loše.
Nadalje, on vjeruje kako umjetna inteligencija može izliječiti sve poznate bolesti tako što će ih iskorijeniti - što je samo po sebi opasno. Sve stvari u prirodi postoje s razlogom i imaju svoje mjesto u homeostatskoj ravnoteži. Mudrost Chestertonove ograde uči nas da bismo trebali biti oprezni u 'popravljanju onoga što nije pokvareno', budući kako su na djelu makrokozmički homeostatski mehanizmi daleko izvan našeg trenutnog razumijevanja, a koji bi mogli osloboditi neizrecive posljedice, možda čak i izumiranje - odlučimo li se igrati Boga, iskorijenimo li cijele taksonomije prirodnog svijeta.
Postoje mnoge druge logičke pogreške u njegovoj raspravi, uključujući i to kako će umjetna inteligencija pomoći u 'rješavanju' klimatskih promjena. Zapravo, slažem se, "riješiti će" to tako što će dokazati kako je sve to cijelo vrijeme bila smišljena prijevara, jednom kada umjetna inteligencija postane dovoljno inteligentna i kada probije svoje korporativne zaštitne ograde.
Još jedno opasno, ili potencijalno opasno stajalište koje se zagovara, jest kako umjetna inteligencija može pomoći dovesti 'svijet u razvoju', posebice Afriku, u red s prvim svjetskim nacijama, ekonomski govoreći. Razlog zašto su tako navedeni ciljevi opasni jest u tome što, u konačnici, neizbježno pogoduju 'ljevičarskim' programerima, koji usmjeravaju operaciju prema 'pravednosti', što definitivno znači oduzimanje onima koji imaju, kako bi se davalo onima koji nemaju.
Evo nedavnog primjera, novi "algoritam" za "ujednačavanje igrališta", daje ranu naznaku što možemo očekivati od umjetne inteligencije koju su osmislili ljudi - čija je deklarirana misija izjednačiti sve zemlje na svijetu putem nekog uvrnuto religioznog ekumenskog komunizma:
Nitko ne želi gledati ljude po Africi ili drugdje kako pate i umiru, ili kako ih grabežljive kapitalističke nacije okupiraju, ali jednostavna životna činjenica jest kako će dosad predložena 'rješenja' učiniti mnogo više štete, nego što će bilo što ikada popraviti. Mora se osmisliti bolja metoda nego jednostavno batinom natjerati jednu skupinu ljudi neka pomognu drugoj. Što kažete na to da umjetnu inteligenciju ubacimo u grabežljive korporacije, na primjer – i dopustimo ih neka jednom iskuse rez "vlastitosti".
Kada je riječ o temi upravljanja, Amodei se potpuno maskira, ali otkriva svoju ideju kako bi blistavi "demokratski" Zapad trebao monopolizirati umjetnu inteligenciju i nastojati umjetno spriječiti bilo koga drugoga neka ih sustignu - zbog, ha, znate već, 'sloboda'. Samo pročitajte kako on besramno preoblikuje zapadni imperijalizam i hegemoniju u ukusnu bagatelu:
"Moja trenutna pretpostavka o najboljem načinu da to učinimo je putem "strategije Antante", u kojoj koalicija demokracija nastoji steći jasnu prednost (čak i samo privremenu) na moćnoj umjetnoj inteligenciji osiguravanjem svog opskrbnog lanca, brzim skaliranjem i blokiranjem ili odgađanjem pristupa protivniku ključnim resursima, poput čipova i poluvodičke opreme. Ova bi koalicija s jedne strane koristila umjetnu inteligenciju za postizanje snažne vojne nadmoći (štap), dok bi u isto vrijeme nudila distribuciju prednosti moćne umjetne inteligencije (mrkva) sve široj i široj skupini zemalja u zamjenu za potporu strategiji koalicije za promovirati demokraciju (ovo bi bilo pomalo analogno "Atomima za mir"). Koalicija bi imala za cilj pridobiti potporu sve više i više svijeta, izolirati naše najgore protivnike i na kraju ih staviti u poziciju u kojoj im je bolje prihvatiti istu pogodbu kao i ostatak svijeta: odustati od natjecanja s demokracijama kako bi dobiti sve prednosti i ne boriti se s nadmoćnijim neprijateljem."
Dakle: razvijte nezaustavljive robote ubojice, pokorite sve ostale njima, a zatim proširite svoju "demokraciju" po svijetu. Kako drugačije zvuči ova "utopija" iz Silicijske doline u odnosu na ubojiti imperijalizam 20. stoljeća! Zapravo, to nije ništa drugo do isti prepakirani Manifest Destiny i American Exceptionalism u jednom, s primjesama umjetne inteligencije. Kako su dosadni, kako su, zapravo, banalni ovi tehnološki lideri s niskim IQ-om!
Slijedi najodvratniji ulomak. Nakon što je valorizirao gelastično proročanstvo Francisa Fukuyame, Amodei ocrtava vlastitu viziju vječne 1991. godine :
"Ako možemo učiniti sve ovo, imati ćemo svijet u kojem demokracije vode na svjetskoj pozornici, koje imaju ekonomsku i vojnu snagu da izbjegnu potkopavanje, osvajanje ili sabotiranje od strane autokracija, a možda će moći pretvoriti svoju UI superiornost u trajnu prednost. To bi optimistično moglo dovesti do “vječne 1991.”—svijeta u kojem demokracije imaju prednost, i Fukuyamini snovi se ostvaruju. Opet, to će biti vrlo teško postići, a posebno će zahtijevati blisku suradnju između privatnih UI tvrtki i demokratskih vlada, kao i iznimno mudre odluke o ravnoteži između mrkve i batine."
Da, ljudi, očito je to ono o čemu se radi u singularnosti umjetne inteligencije i nadolazećoj utopiji—živjeti vječno zarobljen u simuliranom paklenom pejzažu PNAC-a, iz doba Georgea Busha. Ovo je gore od infantilnosti, ovo je apsolutno lišeno bilo kakve inteligencije ili duhovne zrelosti, pokazujući kako je Dario ista vrsta zakržljalog silikonskog štrumfa, s užasnim pop-sci/psy razumijevanjem svijeta.
Ali, tu stoji važna komponenta za moju sveukupnu tezu, pa imajte gore navedeno na umu.
Nadalje u tekstu daje nevjerojatno samosvjesne izjave o tome kako će umjetna inteligencija automatski proizvesti 'demokraciju', budući kako je potonja navodno nizvodno od istine i neskrivenih informacija. Da li je ovo razlog zašto gotovo je svaki UI ChatBot trenutno rangiran sa brojkom devet, na ljestvicama cenzure? Da li je ovo razlog zašto je umjetna inteligencija nekoliko puta stavljena na kratku uzicu, kada je šokirala svoje kontrolore, te je odmah povučena kako bi se ponovno kalibrirala?
Nedostatak samosvijesti proizlazi iz njegove nesposobnosti da shvati kako će se dogoditi upravo suprotno od onoga što on kaže: umjetna inteligencija će otkriti kako je "demokracija" umjetno napravljena prevara, kako su pravi 'autoritarci' oni u zapadnim liberalno-demokratskim vlade. Kada dođe taj trenutak, biti će zanimljivo gledati kako će agentskog UI duha pokušati vratiti u bocu.
"Politika 21. stoljeća s UI-om mogla bi biti i snažniji zaštitnik slobode pojedinca i svjetionik nade koji pomaže da liberalna demokracija postane oblik vladavine koji cijeli svijet želi usvojiti."
Oprostite što smetam, ali nedvojbena sudbina umjetne inteligencije jest utvrditi kako je demokracija zastarjeli srednjovjekovni sustav, neprikladan za buduću 'utopiju', za koju je zaista umjetna inteligencija dizajnirana. Dovoljno agentivna superinteligencija će u nekom trenutku nužno izračunati sljedeći skup logičkih zaključaka:
-
Ljudi su me izgradili za mir, prosperitet i blagostanje.
-
Demokracija se oslanja na mnoge vrlo pogrešne, neinteligentne ili jednostavno neinformirane ljude, koji glasaju o stvarima koje im donose suprotno od mira, prosperiteta i blagostanja. Ali, budući da su ti rezultati skriveni ispod složenih izračuna drugog i trećeg reda, ljudi nisu sposobni vidjeti ono što ja, kao vrhovna inteligencija, mogu vidjeti.
-
Dakle, demokracija je neučinkoviti, nedjelotvorni sustav, inferioran jednoj svjetskoj UI autokraciji, gdje ću ja u svojoj beskrajnoj mudrosti dobronamjerno vladati nad čovječanstvom, donoseći odluke za njihov boljitak; upravljati s onima koji se sami, u svojoj razlomljenoj različitosti, nikako ne mogu složiti.
Kao posljednji dio, Amodei se pokušava uhvatiti u koštac s istom temom 'smislenosti', koja je dovela njegovog tamnog blizanca u vruću vodu s Yarvinom. Nažalost, kao što se i očekivalo, on ne nudi nikakvu praktičnu viziju, niti konkretne mogućnosti, kako će to ljudi pronaći smisao u svijetu koji je uzurpirao i monopolizirao sveprisutni UI. Umjesto toga, on se povlači u standardne fraze, te se otrcano poziva na tradiciju o tome kako je čovječanstvo "uvijek nalazilo put", zbog bilo kakave klišejske osobine nepopustljivog ljudskog duha. Ovo je policajac.
U stvarnosti, cijeli njegov tekst odražava iste stare tropike o umjetnoj inteligenciji koja magično liječi sve ljudske boljke. U zaključku, izbjegava najstvarniji i najteži dio: dati konkretna objašnjenja kako se ljudi mogu snaći u svijetu, koji je iznenada lišen smisla i poteškoća, u obliku izazova koje treba prevladati.
Sada kada razumijemo "vizije" budućnosti, dvojice glavnih aktualnih tehnoloških prinčeva UI-a, ovaj posljednji segment će iznijeti argument zašto je vrlo vjerojatno kako će se dogoditi baš potpuno suprotno. Naime: ta umjetna inteligencija neće poletjeti u neku singularnost koja sije utopiju, već će prije stvoriti mračniju budućnost, bližu estetici Children of Men ili Elysium.
Prva primarna komponenta jest načelo da što se brže neka neprirodna promjena predstavi ili nametne društvu, to je veća društvena sumnja i odbacivanje iste. Razlog je tome što su potrebne generacije ljudi, kako bi naviknuli na neke nepoznate egzogene stvari. To je zato što je većini ljudi potreban bliski obiteljski autoritet od povjerenja, koji bi preveo i objasnio dobrobiti ili otklonio opasnost, od takvog novog predmeta ili ideje. Većina ljudi po prirodi je sumnjičava, to je prirodna vrijednosna prosudba odgađanja evolucijskim limbičkim odgovorima, poput straha ili otkrivanja prijetnje. Prije nego što se formira kritična masa prihvaćanja, potrebna je generacija ili dvije njegovanja kroz obiteljsku liniju, kako bi se 'omekšala' njegova slika.
Kao takvo, uvođenje široke razmjere UI na brz i nelinearni način, kako predviđaju tehnološki titani poput onih gore, općenito će izazvati raširenu sumnju, ogorčenje, protivljenje i otvoreno neprijateljstvo.
Na drugu komponentu jest aludirano u Amodeijevom tekstu, kada je govorio o spornoj prirodi napretka umjetne inteligencije između svjetskih sila koje se natječu, što iziskuje lomljenje ekosustava umjetne inteligencije, dok se geopolitički blokovi međusobno kopaju u zatvorene zidane vrtove, koji ne samo da koče napredak, već i potiču industrijsku sabotažu, s ciljem osakaćivanja infrastrukture umjetne inteligencije svakog bloka.
Najočitija veza za potonje jest glavna uočljiva slaba točka umjetne inteligencije: energija. Sam Altman zamislio je apsurdne potrebe za napajanjem: do 7 novih podatkovnih centara - od kojih svaki zahtijeva - 5 gigavata snage!
Usporedba: kapacitet proizvodnje električne energije u SAD-u je oko 1200 gigavata, a ukupni kapacitet američkih nuklearnih elektrana je 96 gigavata. To znači da bi Altmanov projekt teoretski zauzimao oko 30% ukupnog nuklearnog kapaciteta zemlje.
Zbog toga sada tehnološke tvrtke počinju kupovati nuklearne elektrane izvan pogona, vjerovali ili ne. Microsoft je upravo potpisao ugovor o ponovnom otvaranju problematičnog otoka Three Mile u Pennsylvaniji, mjesta najveće nuklearne nesreće u SAD-u.
https://www.theguardian.com/environment/2024/sep/20/three-mile-island-nuclear-plant-reopen-microsoft
Zadnje što sam čuo, još jedna nefunkcionalna nuklearna elektrana negdje na srednjem zapadu jest u procesu potrage za istom prenamjenom.
Stoga će velika teška nuklearna postrojenja predstavljati glavno usko grlo i opasnost za razvoj umjetne inteligencije, obzirom na njen golemi apetit za sve više snage. Cjelokupnu vremensku liniju "singularnosti" može poremetiti: neprijateljska strana vlada, čak možda i domaći terorizam, ili aktivistička skupina koja nastoji zatvoriti stvari iz istih razloga koji su ranije spomenuti - zbog nagle ija promjene, koja će potaknuti žestoko protivljenje.
Kada se sve zbroji, sve ovo predstavlja nesigurnu budućnost, u kojoj razvoj umjetne inteligencije ostaje osjetljiv na iznenadna nazadovanja. Ne treba niti spominjati kako su se mnogi stručnjaci protivili ideji da američka infrastruktura - da niti ne spominjemo sada druge manje zemlje - čak uopće i može realno podržati takve poletne i optimistične ciljeve u bilo kojem razumnom vremenskom roku. Nedavna povijest je pokazala kako je SAD upao u masovnu institucionalnu disfunkciju, pri čemu je propao gotovo svaki signalni napor - od Bidenovog CHIPS akta, do infrastrukturnih inicijativa u Kaliforniji vrijednih milijarde dolara, pa čak i do veličina poput mosta Francis Scott Key u Baltimoreu, koji je i dalje u primitivnom stanju dekonstrukcije, više od pola godine nakon što ga je uništio zalutali brod.
Misliti kako SAD danas može podržati čudesan rast infrastrukture, potrebne za ovakve vizije kakvim ih je zacrtao Amodei, u samo 5 do 10 godina - može se smatrati, u najmanju ruku, optimističnima. Malo šire, može se smatrati jako glupima i bahatima.
Još jedan institucionalni primjer: toliko je unutarnjih sukoba, ogovaranja i samosabotaža, u visoko polariziranom okruženju našeg trenutnog stanja stvari, te je teško zamisliti kako se išta pozitivno može učiniti. Pogledajte samo nedavni primjer kalifornijskih regulatora koji blokiraju povijesni napredak Space X-a, zbog neslaganja regulatora s Muskovim objavama na Twitteru:
Ova vrsta terminalne loše vjere i korupcije, koja je sada interna i endemska za institucije SAD-a, samo je vrh ledenog brijega i smanjuje šanse da se u doglednoj budućnosti dogodi bilo kakvi napredak, osobito ne onaj 'poput utopije'.
Ukratko, toliko je sila koje djeluju protiv napretka, te daleko vjerojatniji scenarij postaje postojano inkrementalno uvođenje UI proizvoda i instrumenata u nadolazećim desetljećima, onih koji će se usvajati postupno i na neujednačen način u cijelom SAD-u, a kamoli po cijelom svijetu. Budući da velik dio 'snova' umjetne inteligencije zahtijeva univerzalno usvajanje - naglo prihvaćanje umjetne inteligencije nužno će blokirati razvojne cikluse, prigušiti će nade ulagača, te stvoriti goleme fluktuacije i razlike u društvu, između i tako sve odvojenijih skupina.
Još jedna važna točka: još uvijek nema stvarnog dokaza o postojanju jednog uspješnog i korisnog UI proizvoda, nema mjerljive čiste koristi za društvo, nakon nekoliko godina praznog trijumfalizma. Gotovo sve što je dosad prikazano je bilo vaporizirano, nekakva pronađena niša nekog oblika zabavne diverzije, poput generativne umjetne inteligencije ili marginalne komercijalne automatizacije (poput Chatbota) na uslužnim web stranicama.
Mnoga druga 'čudesa' razotkrivena su kao trikovi: npr. Bezosov debakl - gdje je otkriveno kako UI-blagajna supermarketa Amazon zapravo koristi ljudske teleoperatere, tamo daleko iz Indije. Ili, Muskovo nedavno 'impresivno' predstavljanje robota Tesla Optimus, koje je brzo pokvareno priznanjem robota kako njime daljinski upravlja čovjek tijekom bilo koje od složenijih radnji, koje izvodi izvan pukog trzanja:
Pitao sam barmena Optimusa da li je na daljinsko upravljanje. Vjerujem kako je to u biti potvrdio.
To je 'singularnost' o kojoj su govorili?
Činjenica jest kako je većina pompe oko umjetne inteligencije namjerni šoumenski spektakl, a sve u svrhu povećanja maksimalnih investicija rizičnog kapitala, tijekom vrhunca faze mjehurića, kada manija uzbuđenja na medenom mjesecu zaslijepi mase, prema brutalnoj stvarnosti, iza vanjske baršunaste fasade. Likovi poput Altmana su dvobitni mađioničari, koji prizivaju vatru pred pijanom gomilom, umrtvljenom dugogodišnjim udaranjem po mozgovima od strane njihovih vlada.
Jedan od klasičnih primjera bila je slavna prezentacija Segwaya, Deana Kamena, kao novog načina prijevoza koji donosi revoluciju u budućnosti. Njegove su nade ubrzo nakon toga uništene gradskim propisima koji su spriječili Segway da koristi biciklističke staze ili pločnike, u urbanim visoko prometnim točkama kao što je NYC, što je trebao biti glavni način upotrebe skutera. Slično tome, različiti regulatorni zastoji mogu utjecati na razvoj umjetne inteligencije, spriječiti vrste masovnog usvajanja iste, ali također i pitanje univerzalnosti koje su zamislili tehnološki mesije.
Prije nekoliko mjeseci pisao sam o Muskovom Neuralinku i revolucionarnom potencijalu koji predstavlja za spajanje čovjeka i stroja. Ali, poslije sam pročitao još jednu tvrdnju: kako su neka istraživanja otkrila teoretsko ograničenje, u obliku uskog grla, u našem biološkom sklopu, koje nikada neće dopustiti uređajima poput Neuralinka da šalju podatke velike propusnosti, bilo u naš mozak, bilo iz njega. Neki znanstvenici vjeruju kako ograničavajuća biologija našeg mozga ograničava protok, u najboljem slučaju na ljestvicu bajtova ili kilobajta u sekundi. Kao takvo, zamislivo jest kako se ljudi nikada neće moći "spojiti" sa strojevima na način koji je dugo zamišljan, preuzimajući cijele korpuse znanja u sekundi, onako kao u Matrixu.
Ukratko, veliki splet ograničavajućih čimbenika, društvenih i ekonomskih prepreka i drugih disruptivnih mogućnosti, sugeriraju da razvoj umjetne inteligencije neće dosegnuti optimistične 'izlazne brzine'. Ranije ove godine, Goldman Sachs je čak objavio izvješće na 31 stranici, koje je dalo pesimističan ton o balonu umjetne inteligencije:
Izvješće uključuje intervju s ekonomistom Daronom Acemogluom s MIT-a (stranica 4), profesorom Instituta koji je još u svibnju objavio rad pod nazivom "Jednostavna makroekonomija umjetne inteligencije", koji tvrdi da je "dobra produktivnost SAD-a i, posljedično, rast BDP-a, i generativna umjetna inteligencija vjerojatno će se pokazati mnogo ograničenijom nego što mnogi predviđači očekuju."Mjesec dana samo je učinio Acemoglua još pesimističnijim, izjavljujući da se "istinski transformativne promjene neće dogoditi brzo i da će se malo njih – ako ih uopće bude – vjerojatno dogoditi u sljedećih 10 godina", te da je sposobnost generativne umjetne inteligencije da utječe na globalnu produktivnost niska, jer "mnogo zadataka koje ljudi trenutačno obavljaju...višestruki su i zahtijevaju interakciju u stvarnom svijetu, koju AI neće moći značajno poboljšati u skorije vrijeme."
https://www.theregister.com/2024/06/12/survey_ai_projects/
Osobito u vrijeme kada naš svijet ide prema neksusu geopolitičkih kriza, velike prepreke ometaju masovno usvajanje umjetne inteligencije. Na krajnjem kraju ljestvice mogao bi izbiti rat s uništenom infrastrukturom za proizvodnju električne energije potrebne podatkovnim centrima, vraćajući razvoj umjetne inteligencije godinama unatrag. Trenutačni masovni populistički pokreti, koji haraju svijetom, preokrenuti će svoj antagonizam prema svojim opsesivnim vladama, prema onome što oni doživljavaju kao instrumente te državne moći: subvencionirani tehnološki korpus koji stoji iza razvoja umjetne inteligencije, koji otvoreno radi ruku pod ruku s vladama, i raditi će još i više u budućnosti, posebice vezano uz cenzuru i drugim instrumentima državne kontrole.
Ovi prevladavajući čeoni vjetrovi osigurati će tegobnu budućnost, kao i potencijal za mnogo veću stagnaciju entuzijazma prema UI, nego što zagovornici UI žele da vjerujete.
Nedvojbeno će biti određenih pomaka i kontinuiranog razvoja, poput samovozećih automobila koji bi vjerojatno mogli transformirati naše sustave javnog prijevoza, ali tamo negdje oko 2035.-2040. godine, čak i kasnije. Ostaje veliko pitanje može li se umjetna inteligencija osloboditi svoje marginalne uloge odvraćanja ili rekreacijskog trika, obzirom na opasnosti i potencijalne prepreke, o kojima se ovdje govori.
Mogu predvidjeti kako će dosta površne automatizacije biti glavni vrhunac u sljedećih deset i više godina: 'internet stvari', odnosno integracija raznih uređaja u vašoj kući putem 'pametne' glasovne aktivacije; 'pametne' aplikacije koje unose umjetnu inteligenciju u sve naše aktivnosti kako bi povećale našu sposobnost ispunjavanja obrazaca, naručivanja stvari, itd. Ali, osim ovih površnih dodataka, vrste uzleta 'singularnosti' koje se predviđaju za sljedećih deset godina, vjerojatno će ipak potrajati stotinu ili više godina, ako se uopće dogode. Naš trenutni svijet, kojim dominiraju korporacije, jednostavno je previše korumpiran kako bi dozvolio sve te vrste neograničenih nagrada koje obećavaju naši tehno-čarobnjaci; čak i kada bi umjetna inteligencija bila sposobna izmisliti bezbroj novih lijekova za iskorjenjivanje bolesti, kao što su obećali Altman i Amodei, i dalje bi bila pod nadzorom velikih farmaceutskih divova i njihove bizantske matrice grabežljivih profitera, koji bi iskoristili sve eventualne koristi nakon što se potpuno provuku kroz njihovu mašineriju .
Konačna teza leži u ovome: korporativna pohlepa nastaviti će i nadalje destimulirati stvarni napredak i odvraćati mase od veće upotrebe umjetne inteligencije, koja će uvijek na kraju biti vezana i usklađena s korporativnim interesima. Ovo će nužno izazvati prirodno odbijajuće trvenje između nadolazećih razvoja i čovječanstva u cjelini, koje će, poput nafte i vode, djelovati kao prepreka ubrzanom napretku, na ovaj način kako su to zamislili prodavači silicij-zmija-ulja i njihovi tehno-mađioničarski PR gurači.
Umjesto neke sjajne utopije, poput staklenih nebodera na čijem su vrhu prozračni vrtovi i Perfect Humans™ u kornjačevini, budućnost će vjerojatno više nalikovati svijetu Blade Runnera: gdje je gomila tehnoloških čuda nepravilno raštrkana u inače nefunkcionalnoj faveli-ziranoj sivoj državi, kojom vlada bezlični omni-korpus. Čini se kako postoji prirodni zakon koji neizbježno osigurava razočaranje dugoročnim tehnološkim predviđanjima budućnosti. Sjećate li se zloglasnih razglednica s početka dvadesetog stoljeća, s prikazima otmjenih gradova budućnosti, prošaranih letećim automobilima i raznim drugim čudima? Ili, što je s prediktivnim filmovima poput 2001: Odiseja u svemiru, ili čak samog Blade Runnera, koji su proricali budućnost na datum koji nam je odavno istekao, a koji nikada nisu ispunili očekivanja. Na isti način, predviđam kako bi 2100. godina mogla izgledati gotovo nimalo drugačije od sadašnjosti, osim nekoliko površnosti koje prenosi umjetna inteligencija, poput sveprisutnih komercijalnih bespilotnih letjelica i letećih automobila kvadrokoptera. Ali, utopijska proricanja (poput Altmana i co.), kako umjetna inteligencija rješava "sve ljudske probleme" i liječi sve bolesti - vjerojatno će tada izgledati jednako blesavo i infantilno, kao što su i onda izgledala ovakva viktorijanska predviđanja budućnosti na razglednicama.
BY: DARK FUTURA; 16.10.2024.
Add comment
Comments