„Sprendimai, kuriuos mes priimame, visa mūsų visuomenės kultūra, mūsų fizinės erdvės – jų susiformavimui vis dažniau įtakos turi kompiuteriniai algoritmai, – įsitikinęs žaidimų kūrėjas Kevinas Slavinas. – Ir mums derėtų tuo susirūpinti.“ Kodėl?
K. Slavinas yra vienas iš bendrovės „Area/Code“ (dabar – „Zynga NY“), kurioje kuriami kompiuteriniai žaidimai, įkūrėjų. Niujorko universitete jis skaitė urbanistinės kompiuterijos ir dizaino kursą. Šis programuotojas yra paskaitos „Kaip algoritmai formuoja mūsų pasaulį?“ autorius.
Jo įsitikinimu, mūsų gyvenimai vyksta pagal algoritmus, jų sekas. Kokiu būdu? Pradėti galbūt derėtų nuo to, jog, paprastai kalbant, algoritmas yra nurodymų, taisyklių rinkinys, seka, kuria vadovaudamasis kompiuteris priima tam tikrą sprendimą.
Algoritmų pasaulį galima prilyginti savotiškam nematomų architektūros struktūrų pasauliui, ant kurių statoma praktiškai viskas, kas tik vyksta. Gėrybių pristatymas į parduotuves, transporto judėjimas, net kiekvieno iš mūsų rytmetinės ar bet kurio kito paros meto procedūros ir ritualai – visa tai vyksta pagal tam tikrą algoritminę seką. Vyksta tai vyksta – bet kodėl mums tai turėtų rūpėti?
Algoritmų pavojai
Bene pražūtingiausias algoritmuose slypintis dalykas yra tai, jog jiems būdinga matematinė prigimtis ir tikslumas. Vadinasi, jokių išimčių – reikia veikti griežtai pagal algoritmą! O jei jis klaidingas, kaip kad yra buvę žemiau čia aprašytais atvejais?
Algoritmuose slypi ir kitas pavojus. Nors gali susidaryti įspūdis, jog jie iš prigimties yra neutralūs, objektyvūs ir nešališki, tačiau tuo pačiu jie pasižymi ir autoriškumu (taigi, tam tikru šališkumu) – t. y., veikia tarsi autorius, kuris kažką kuria pagal savo supratimą ir nuostatas. Savaime suprantama, jog tai jau nėra neutralu. Pavyzdžiui, bet kurios internetinės paieškos sistemos (kad ir „Google“) pagrindas yra neišpasakytai įmantri matematika. Tačiau „Google“ algoritmai, kaip ir kiekvieno iš mūsų, suformuoti pagal tam tikrą ideologiją, pagal tam tikrą prioritetinę hierarchiją – šiuo atveju, tam tikras tinklalapis „Google“ paieškos sistemoje yra tuo vertingesnis, kuo dažniau tas vertingumas atsispindi kituose tinklalapiuose.
Tam tikras požiūris ar net nuostata atsispindi bet kuriame algoritme. Vis dėlto mes nė nesusimąstome, kas gi yra tie algoritmai ir kad jie apskritai egzistuoja. K. Slavino įsitikinimu, jie ne tik šiaip nekaltai (neutraliai, pasyviai) egzistuoja – jie aktyviai ir kryptingai formuoja mūsų kultūrą ir mūsų pasaulį. Kokiu būdu?
„Imkime internetinės filmų nuomos sistemą „Netflix“, kuria naudojasi 20 mln. vartotojų, – aiškina K. Slavinas. – Vartotojai joje išsirenka, išsinuomoja ir žiūri filmus. 60 proc. JAV išsinuomojamų filmų pasirenkami todėl, kad juos rekomenduoja „Netflix“. Rekomendacijas nuomos sistema teikia naudodamasi algoritmu, kuris vadinamas „Pragmatiniu Chaosu“ (angl. – „Pragmatic Chaos“). Šiame algoritme atsižvelgiama į tai, kokie kiti filmai tau patinka ir kiek filmų įvertinai (sureitingavai) iki paskutiniojo žiūrėto ir įvertinto filmo. Vadinasi, algoritmo struktūroje atsispindi žmonių pasirinkimai – tokiu būdu tie pasirinkimai yra pastiprinami. Algoritmas kaupia, fiksuoja informaciją apie žmonių pasirinkimus ir, ją susistemindamas, tuos pasirinkimus pastiprina.“
„O pavojinga tai yra štai kuo: toks algoritmas gali suformuoti monokultūrą, – tęsia kompiuterinių žaidimų kūrėjas. – Tačiau tai nėra kultūra – monokultūra yra kur kas nelankstesnė ir, tuo pačiu, kur kas mažiau prognozuojama. Pavyzdžiui, „Netflix“ algoritmą laužo filmas „Napoleon Dynamite“. Žmonės, kurie, „Netflix“ paskaičiavimu, šį filmą mėgtų, iš tikrųjų to filmo nekenčia. Ir atvirkščiai: tie, kuriems, „Netflix“ algoritmo nuomone, filmas „Napoleon Dynamite“nepatiktų, jį tiesiog dievina.“
Kodėl taip svarbu saugotis algoritmų įtakos mūsų kultūrai?
„Kai žinai, kad tam tikrose aplinkybėse, į kurias tu pakliuvai, šis tas yra reguliuojama negyvų mašinų, tu gali pradėti elgtis kiek kitaip nei įprastai, – aiškina K. Slavinas. – Kai vieną dieną susirūpinsi, jog didžioji dalis to, ką tu nuomojiesi „Netflix“, yra pagrįsta labai jau specifiniu žmogiškųjų smegenų modeliu, kuris nebūtinai sutampa su tikrove, galbūt tu pradėsi rekomendacijų teirautis iš savo bičiulių ir pažįstamų. Tiesą sakant, taip mes esame įpratę daryti – remtis draugų rekomendacijomis.“
Anot K. Salvino, ne mažiau svarbu yra suprasti, kaip algoritmai formuoja tai, ką mes sužinome. Jungtinėse Valstijose vyksta nebylus karas tarp „Google“ ir bendrovės, pavadinimu „Demand Media“. Šioji generuoja turinį, kuris optimizuotas „Google“ paieškai. Kai „Google“ pakoreguoja savąjį paieškos algoritmą, „Demand Media“ turinys tampa bevertis. Tačiau tik iki to momento, kai bendrovės darbuotojams pavyksta išsiaiškinti, ką „Google“ savajame algoritme pakoregavo – tuomet atitinkamai pakoregavus turinį, jis vėl tampa optimizuotu „Google“ paieškai.
Anksčiau buvo įprasta rašyti informaciją (pvz., naujienas) pagal tai, kaip jos mėgstamos ir kaip dažnai skaitomos žmonių. Tačiau dabar gali būti ir taip, jog informacija rašoma atsižvelgiant į tai, kaip ji mėgstama ir kaip dažnai skaitoma paieškos sistemų.
Algoritmai keičia miestų erdves
Algoritmai mus supantį pasaulį keičia ir kitais būdais. K. Slavino įsitikinimu, jie keičia infrastruktūrą ir teritorines (miestų) erdves. Imkime Niujorką. Volstritas tapo svarbiu finansiniu centru, nes čia pagal tam tikrus prekybinius algoritmus suplaukdavo prekes gabenę laivai. Vėliau „Western Union“ pastatas virto komunikacijų centru iš dalies dėl to, jog jis buvo įsteigtas ten, kur buvo išplėtota telekomunikacijų infrastruktūra.
Vis dėlto šiandien Volstrito kompiuterinių tinklų centras yra įrengtas mažame Njudžersio miestelyje Mavoje (Mahwah) – nes tai buvo saugiausia vieta įrengti nepaprastos svarbos infrastruktūrinį centrą. Šis miestelis yra tik už 16 km nuo Volstrito, tačiau toliausiai, kiek tik įmanoma, nuo branduolinių jėgainių, seismiškai aktyvių zonų ir oro transporto maršrutų. Visi tame centre iškylantys pastatai „prifarširuoti“ algoritmais gyvuojančių serverių, kuriuos vėsina ištisi „aušinimo cechai“. Tuose pastatuose beveik nėra žmonių. Jie pastatyti pagal kompiuterinio tinklo topologijos reikalavimus.
Ar tai reiškia, jog algoritmai turi įtakos nūdienos miestų projektavimui? Išeitų, jog taip. „Kadangi sparta, kuriuo jie veikia, yra kertinis jų efektyvumo kriterijus. O spartą apsprendžia susisiekiamumas su kompiuterinių tinklų centrais. Jei sandorius tu gali sudaryti greičiau nei kas nors kitas, tu disponuoji milžinišku privalumu. Stiklo šviesolaidžiai JAV didmiesčiuose paprastai tiesiami išilgai geležinkelio ir metro linijų. Tačiau tokios praktikos po truputį atsisakoma, kadangi JAV geležinkelio ir metro linijos nutiestos ratais (apskritimais), o algoritmams tai – per lėta. Sparčiau viskas vyksta, kai algoritmai siunčiami tiesiomis šviesolaidžio linijomis. Kaip tik tai ir padarė bendrovė „Spread Networks“: ji nutiesė 1,3 tūkst. km ilgio tiesią šviesolaidinę jungtį tarp Niujorko ir Čikagos – ir tik tam, kad prekybiniuose sandoriuose tarp šių miestų finansinių centrų pavyktų sutaupyti keletą milisekundžių.“
Klysti – ne tik žmogiška
Tačiau algoritmai gali ir klysti. Tiksliau, jie gali būti klaidingi. Interneto tyruose yra nutikęs toks atvejis. Vienas mokslininkas internetiniame knygyne „Amazon“ panoro įsigyti raidos biologijos vadovėlį „The Making of a Fly“. Ten buvo siūloma 17 egzempliorių, pigiausias iš kurių kainavo 40 JAV dolerių. Tačiau du šios knygos egzemplioriai buvo įvertinti... net 1,7 mln. JAV dolerių. Kai mokslininkas kainas patikrino po kurio laiko, aukščiausia kaina buvo šoktelėjusi ligi 27 mln. JAV dolerių!
Jis pamėgino išsiaiškinti, kas čia nutikę. Iš esmės, ten į uždarą kilpą buvo „susibėgę“ du kainos nustatymo algoritmai, tad siūloma kaina buvo vis dauginama iš 1,3 ir siūloma iš naujo. Kadangi tuose algoritmuose svarbiausia buvo kainos kėlimas, o ne kainos vertės priimtinumas, knygos kaina nuolatos kilo, pakol pasiekė absurdiškas aukštumas.
Laimei, tai buvo viso labo kainos nustatymo algoritmas, o ne, tarkim, Volstrito finansų centre naudojamas algoritmas. „Amazon“ atveju, saugiklio funkciją atliko realus pirkėjas, kuris į tokį algoritminį pokštą sureagavo labai organiškai: „Čia kažkokia nesąmonė, ir už kažkokią knygą 27 mln. dolerių kloti aš nesiruošiu.“ Bet jei knygą būtų pirkęs ne žmogus, o algoritmas, kaip kad vyksta Volstrite? Tiesa, biržų algoritmuose yra sumontuoti tam tikri saugikliai, tačiau kuriozų yra buvę ir čia.
Pavyzdžiui, atvejis, kuris vadinamas „Flash Crash“, įvyko 2010 m. gegužės 6 d., kai netikėtai keletui minučių kažkur ėmė ir prapuolė 9 proc. JAV akcijų biržos. Vienoje iš teorijų spėjama, jog vienas algoritminis biržos verteiva (automatinė sandorių programa) sudarė neįprastai didelės vertės sandorį, tad visi aukštos spartos algoritmai, reaguodami į tokį „kolegos“ poelgį, įsuko pasiutusią pardavimų karuselę, kuri rinkoje ir sukėlė chaosą, dėl kurio akcijų biržoje ir įvyko savotiškas „trumpasis jungimas“.
O gal iš tiesų algoritmų grėsmė yra kiek perdėta? „Nesakau, kad algoritmai nėra neįkainojami, – tvirtina K. Slavinas. – Tačiau, man regis, yra labai svarbu suvokti, jog aplink mus vyksta kažkas nematomo. Ne, tai nėra pasaulio pabaiga, bet manyčiau, jog tie procesai turi būti matomi ir suprantami. Priešingu atveju, po kokio tūkstančio metų, kaip prognozuoja vienas mano bičiulis, pasaulyje neliks nei žmonių, nei bendrovių – vien kompiuteriniai algoritmai, kompulsyviai tebeprekiaujantys seniai mirusio pasaulio akcijų biržose.“
