Veliki UI blef

Čovjek koji me potaknuo na pisanje bio je profesor povijesti. Iako je sada međunarodno proslavljen zbog svojih otkrića (i odavno je izgubio kontakt sa mnom), prije mog rođenja bio je zvijezda rock'n'rolla. Govori desetak jezika, može svirati dva odvojena puhačka instrumenta odjednom — sa svakom nosnicom po jedan, svaki izvodi drugu harmonijsku liniju Bachove skladbe (gledao sam ga kako to radi) — nadaren je kipar, sveobuhvatno vlada geopolitikom (još jedan moj interes koji je izvorno potaknuo), i može raditi sa  integralima trećeg reda u svojoj glavi.

Vrlo je cijenjen u svom području, ima izmjereni IQ sjeverno od 180, može točno ekstrapolirati argumente i obrasce mišljenja nakon čitanja prve stranice akademske knjige — bez prethodnog poznavanja teme ili naslova — i jedan je od nekoliko tisuća najpametnijih ljudi koji su ikada hodali zemljom.

I on nije najpametnija osoba koju sam ikad upoznao. Ni izdaleka.

Između provođenja većeg dijela mog djetinjstva po kampusima koledža, druženja u fakultetskim salonima, partyja na bazenu sa studentima, te trideset godina života u blizini Silicijske doline, dok sam se kretao u krugovima koje su često posjećivali tehničari i vojni poduzetnici. Bio sam i ja povremeno uključen u neke startupe, proveo sam većinu svog života okružen intelektualnim (često i financijskim) divovima velikog mozga.

Vidiš puno sranja kad si u takvom svijetu. Jedna od stvari koje vidiš, ponovo i ponovo, jest kako inteligencija funkcionira - i kako ne.

Što je inteligencija?

Inteligencija.

Prenapuhan pojam, zar ne? Bolje da to definiram.

Inteligencija je, u najgrubljem smislu, šablonizam - sposobnost da se shvate obrasci u svijetu i usmjeri se na njih. Jezik, glazba, matematika, kreativnost, posao, financije, društveni inženjering, sve su to jednostavno različite manifestacije prepoznavanja i manipulacije obrascima. Zamislite inteligenciju kao motor, dok je okus, ili orijentacija, te inteligencije prijenos koji preuzima sirovu snagu motora i prevodi ga u korisnu akciju.

Inteligencija i smicalica

Mi, naravno, više nismo ograničeni na svoju izvornu inteligenciju. Trenutačni Big Deal Trend™, u tehnološkom svijetu, jest umjetna inteligencija, koja će, kako nam je rečeno, zamijeniti ljude u industriji za industrijom, jer postaje moćnija od ljudske inteligencije – te samo zamislite za što bi se sve mogla koristiti!

Douglas Adams je sugerirao kako bi krajnja upotreba umjetne inteligencije mogla biti otkrivanje velikih odgovora za kojima je čovječanstvo oduvijek tragalo (a on nije bio prvi autor znanstvene fantastike koji je to učinio). U Vodiču kroz galaksiju za autostopere, umjetna inteligencija ima zadatak pronaći odgovor na krajnje pitanje života, svemira i svega. Nakon dugog razmišljanja, UI objavljuje kako je odgovor "42".

Čini se kako korisnici zapravo nisu postavili konačno pitanje, pa je morala biti izgrađena veća umjetna inteligencija za obrnuti inženjering stvarnog pitanja, kako bi odgovor imao smisla.

Korisnici su bogovi računalstva. Kada provodite Google pretraživanje - ili bilo koji drugi upit prema bazi podataka - govorite računalu neka pronađe određeni uzorak u podacima. To je vaš poslušni rob, stroj podređen vašoj volji. Vaša inteligencija usmjerava upit prema obrascima koje razumijete.

Ali, kao što Hitchhiker's tako divno pokazuje, postoje granice ljudske inteligencije. Sasvim je moguće kako smo već na rubu, ili blizu granica našeg biološkog kapaciteta za sirovu inteligenciju (osim ako ne pronađemo način da pouzdano induciramo savant sindrom).

Čak i ako bismo mogli značajno podići ljudsku inteligenciju neurohakiranjem ili selektivnim uzgojem, uvijek ćemo biti ograničeni u pažnji koju možemo posvetiti bilo kojoj stvari.

Za formuliranje pitanja potreban je vrijednosni sud:

Morate biti dovoljno znatiželjni o nečemu da smatrate da je vrijedno vaše pažnje.

Čini se kao trivijalna smicalica, ali nije. Filtar "vrijedi li toga" najosnovniji je vrijednosni sud i temelj je naše evolucije kao oblika života. Svijet je okrutan, do hrane je teško doći, pa je konstruktivna i strateška lijenost nevjerojatna konkurentska prednost.

Jedna od velikih tajni onih koje povijest pamti kao “genijalce”, nije u tome što im je kvocijent inteligencije nevjerojatno visok (ponekad jest, a ponekad i nije), nego u tome što su pronašli načine postavljati neobična pitanja, koja nitkome prije njih nisu pala na pamet. Ovo sugerira kako je nedovoljna znatiželja, a ne nedovoljna inteligencija, glavna prepreka ljudskom znanstvenom i materijalnom (a možda i društvenom?) napretku.

I željeznica i parni stroj postojali su u starom Rimu, ali nitko ih nije pomišljao spojiti (ili, zapravo, staviti parni stroj u produktivnu upotrebu). Preša Gutenberg jednostavno je spojila prešu za vino, s tehnologijom pečata, s drvenim blokovima. Oba ova izuma - i društvena promjena koju su donijeli - mogla su biti izmišljena tisućama godina ranije, ali nitko nije bio dovoljno znatiželjan da postavi prava pitanja, kako bi se taj alternativni svijet ostvario.

Koje nevjerojatne uvide trenutno propuštamo, a nalaze se pred našim nosom, jednostavno zato što nam relevantna pitanja ne padaju na pamet?

Obećanje umjetne inteligencije

Bez obzira obučete li ga u ruho "Generativne umjetne inteligencije", ili "Velikih jezičnih modela", ili "Predviđanja zločina", ili "Modeliranja vremena", velika nada umjetne inteligencije jest u tome kako će riješiti ovaj problem, jer računalima nedostaju dvije stvari koje ljudi posjeduju u izobilju:

Vrijednosti

i

Znatiželja

Inteligencija bez vrijednosti neće prejudicirano odbaciti "nezanimljive" obrasce. Ljudi to ne mogu učiniti - svaki mozak radi višestruke propusnice za sortiranje za "relevantnost" svih informacija koje ulaze prije nego što informacija uopće stigne do svjesnih centara mozga. Pažljivi mislioci mogu naučiti da ne uključuju previše predrasuda tijekom razmišljanja, a neki vrhunski mislioci mogu ponekad, čak i ponovno, uvježbati ono što njihovi niži mozgovi smatraju relevantnim, ali ništa poput ovoga ne bi se moglo, ili bi se ikada moglo približiti razini neselektivne šablonizacije, koju bi vrijednost, odnosno koju bi besplatno računalo moglo postići.

A budući kako računala ne mogu biti znatiželjna, ne može im biti ni dosadno.

Dakle, priroda programa umjetne inteligencije jest da oni, do određenog stupnja, mogu pronaći uzorke u velikim skupovima podataka, a da im se, pri tome, ne kaže koje uzorke trebaju tražiti.

Ako je umjetna inteligencija "generativna", ona također može koristiti te uzorke kao algoritme za rastavljanje informacija u proizvoljno male komadiće, zatim reorganizirati te informacije za sastaviti nešto što izgleda "kreativno". Kada se to učini na zahtjev korisnika, UI koristi korisnikov unos kao skup vrijednosti za upravljanje informacijama koje treba pronaći, rekonfigurirati i predstaviti (kao i kako ih predstaviti).

Prilično impresivno, zar ne?

Muhe u umjetnoj masti

Impresivno, svakako.

Ali to nije "misao".

Umjesto toga, radi se o simulaciji razvrstavanja informacija koje prethode misli, uključujući neke od petlji povratnih informacija koje se događaju tijekom obrade informacija. Na neki način, umjetna inteligencija nije veliki tehnološki skok iznad onoga što računala već rade: obrada informacija u skladu s pravilima koja diktira korisnik—jedina stvarna razlika jest u tome što umjetna inteligencija, također može (do neke mjere), obrađivati informacije u skladu s pravilima koja su odvojena iz skupa podataka.

"Inteligencija", u smislu "razmišljanja, procjenjivanja i donošenja neovisnih odluka", nije zapisana u kartama za UI. Svi alati za razmišljanje, vrijednosti i ograničenja odlučivanja, moraju biti uneseni, izravno ili neizravno, od strane korisnika—iako dobar UI sustav znatno olakšava davanje tih uputa računalu.

Ali, čak i uz ovu ograničeniju predodžbu o tome kakva je inteligencija UI i kakve stvari može učiniti (čak i u teoriji), otkriva se nekoliko problema.

Prvo, ljudi zapravo ne žele nefiltriranu šarolikost. Da žele to, inženjeri ne bi požurili umetnuti protokole cenzure u svaki model "velikog jezika" za javnost. Drugim riječima, jedna od glavnih prednosti umjetne inteligencije – njezina vrijednosna neutralnost – već je žrtvovana.

Drugo, sposobnost generativne umjetne inteligencije da stvori odgovore na upite jednostavnim jezikom (ili ljudima čitljive slike) — i način na koji takve upite tretiraju kao imperative — znači kako su skloni jednostavno izmišljati sranja. "Izmišljanje sranja" je u biti njihov posao, budući kako su agenti relativno bez vrijednosti, ne mogu razlikovati između konfrontacija između razgovora i informacija. Za zanimljivu ilustraciju kako ovo funkcionira, pogledajte ovaj video Roba Agera.

Treće, nesposobnost takvih modela da razmišljaju čini ih trivijalno lakima za hakiranje. Ljude je teško zbuniti i prevariti, toliko da se obmana ljudske spoznaje naziva umijećem. Prevaranti, pisci fikcije, oglašivači, propagandisti, slikari, vizualni FX umjetnici, fotografi, filmaši, mađioničari i dramaturzi, svi su u poslu manipuliranja ljudskom prosudbom i teško je postati dobar u bilo kojoj od ovih stvari jer ljudi, kao društvena bića , razvijeni su za otkrivanje pogrešaka i prijevara, osim ako se te pogreške i prijevare ne prezentiraju samo tako. Hakabilnost umjetne inteligencije čini njegovu pouzdanost sumnjivom od samog početka.

Ali, sva ova pitanja blijeda su u usporedbi s majkom svih problema, koji se nadvijaju nad trenutnim naporima u području takozvane umjetne inteligencije.

Najstariji problem u računarstvu

Otvorio sam ovaj tekst govoreći o nekim od zastrašujuće pametnih ljudi koje poznajem. Zaboravio sam vam reći što mi je kod njih najzanimljivije:

Svi oni, bez iznimke, vjeruju, i mogu uvjerljivo braniti tvrdnje koje su apsolutno, i bez sumnje, posve netočne. Jedan od njih vjeruje (i može argumentirano dokazati) kako fizičku strukturu svemira drži na okupu seksualno ponašanje živih bića. Drugi je duboko odan vrlo rigidnoj religiji (za koju može dokazati, argumentima, da potječe iz temelja ljudske rase), jer je jednom vidio određeno, imenovano duhovno biće kako mu se smije, dok je bio na LSD-u - činjenica kako ovo određeno duhovno biće nikada nije imenovano, niti se o njemu sanjalo sve do vladavine Aleksandra Velikog, i kako je "drevna" religija iz koje potječe stvorena mnogo kasnije, očito je irelevantna za neprobojno obrazloženje ovog tipa. Slijedeći je još uvijek uvjeren kako je jabuku stvorio Bog i smjestio u rajski vrt, kako bi fizičarima otkrio oblik svemira (hipersfere). Treći je pak uvjeren kako je električni svemir uvjerljivo dokazan, a opet i da je nekoliko nužnih korelata ove paradigme nepobitno lažno (Ne pitajte. Trebalo bi nekoliko stranica za objašnjenje).

Upoznao sam neke prilično pametne ljude u svoje vrijeme. Ali, kada bi me pitali o najpametnijim ljudima u povijesti, teško bih vam ukazao na nekoga pametnijeg od velikih mistika ljudske povijesti.

Pa ipak, pokazalo se kako su mnogi od tih mistika bili u potpunoj zabludi, nakon što su njihovi modeli iskustveno testirani.

Računalni programeri imaju riječ za ovaj fenomen:

GiGo

Garbage In = Garbage Out

(Smeće unutra = smeće van)

Drugim riječima, čak je i najbolji proces razmišljanja dobar onoliko koliko su dobri podaci na kojima se radi.

Galen je bio genij anatomije i fiziologije. Njegovo medicinsko razmišljanje dominiralo je Europom tisućama godina...i bilo je gotovo potpuno netočno.

Sada razmislite o jednoj od velikih prodajnih prednosti moderne umjetne inteligencije:

Oni su obučeni na najvećem postojanju ljudskog znanja i komunikacije—drugim riječima, na Internetu.

Internet, od kojeg se devedeset i kusur posto sastoji od marketinga, neželjene pošte, pornografije i strujanja videa.

To je vraški puno "smeća unutra".

Ali, netko će to na kraju sigurno primijetiti, zar ne? Ako sam ja to primijetio, a nisam bio u svijetu tehnologije više od desetljeća, onda je to sigurno palo na pamet nekom drugom. Sigurno možete riješiti problem tako da svojoj umjetnoj inteligenciji date bolji skup podataka.

Pa gdje ćeš ga naći?

Akademski časopisi? Oni bastioni istine i poštenja koji imaju dokumentiranu povijest objavljivanja prijevara, sranja i korporativne propagande? Ona ista mjesta za koje se priznaje da su podaci između sedamdeset i devedeset posto lažni? Na temelju radova znanstvenika sponzoriranih od strane korporacija koje zataškavaju nepovoljne eksperimentalne rezultate prije nego što se uopće objave?

U redu, obučavamo ga na neobrađenim skupovima podataka koje znanstvenici i statističari koriste za svoj rad, zar ne?

Pa, s obzirom na to koliko je takvih podataka otkriveno kao izmišljenih i kako su akademski poticaji okrenuti prema onima koji varaju, možda i ne.

Naša je civilizacija preplavljena podacima o smeću do te mjere da mi ljudi ne možemo ni reći kako smeće izgleda. A mi smo ti koji UI moramo hraniti informacijama na temelju kojih se može trenirati i raditi.

Smeće unutra, smeće van.

Upotreba i ograničenja inteligencije

Pod pretpostavkom kako nije ubijena u kolijevci cenzurom, nemarom ili paranojom - umjetna inteligencija će nedvojbeno poboljšati i proširiti tehnološku revoluciju na načine koji su i ugodni, ali i zastrašujući. Očekujem kako će se njegova najučinkovitija upotreba pojaviti u područjima astronomije, tiranije i dijagnostičke medicine. Također očekujem kako će inherentna ograničenja gore navedena, kao i pitanja odgovornosti za proizvod koja ona postavljaju, ipak spriječiti njegovo opće širenje. U doglednoj budućnosti očekujte upotrebu specifičnu za misiju. Očekujte, također, masovno pravno odbijanje, jer njegova inherentna štetna priroda stvara ono što ljudi doživljavaju kao goleme nepravde na svim razinama – računala, naposljetku, barataju skupovima podataka, a ne pojedincima. Niti jedno računalo ne može provoditi pravdu (ili njegove prethodnike), bilo u kriminalnom smislu, ili u smislu "poštenog poslovanja", u društvu u kojem je jedinica moralne brige pojedinac.

Umjetna inteligencija bi mogla u potpunosti uništiti individualizam - tehnologija često ima učinak preoblikovanja kulture prema vlastitoj slici - ili bi mogla biti nešto više od kap u oceanu, ili manja točka na krivulji postupno napredujuće automatizacije, koja je bila pouzdani dio života od sedamnaestog stoljeća.

Ali, od svih aspekata društvene opsjednutosti inteligencijom - prirodnom i umjetnom - jedan i dalje izmiče ljudima koji su na taj način opsjednuti.

Inteligencija je poput snažnog motora: sama po sebi je beskorisna. Korisna je samo ako ju dobro nabriješ, i spojiš na nešto. Baš kao što možete spojiti Ferrarijev motor na zračnu sirenu i potrošiti sve te veličanstvene konjske snage kako bi maltretirali svoje susjede, tako isto možete imati najveličanstveniji mozak u ljudskoj povijesti i još uvijek ne postići apsolutno ništa vrijedno - ili, još gore, ogromna količina podataka koja ima negativnu vrijednost.

Da bi inteligencija (bilo koje vrste) imala ikakvu vrijednost, mora biti usmjerena prema korisnim ciljevima.

Što se smatra korisnim?

To je pitanje na koje ljudi nikada nisu mogli odgovoriti a priori. Moramo nagađati, a zatim vidjeti kako će se naša nagađanja pokazati tijekom vremena.

Hej! Imam ideju! Što ako bismo upotrijebili UI neka nam pomogne odgovoriti na to pitanje...

...ima li netko pri ruci dobar skup podataka?