На такву опасност ни Орвел није могао да помисли

Џорџ Орвел је упорно одбијао животно важну медицинску помоћ да би завршио књигу „1984“, која представља синоним за наше најгоре страхове од тоталитарне будућности, а овог месеца се навршава седамдесет година од њеног изласка. Шест месеци после објављивања, њен аутор је умро. Пошто је веровао да опасност прети, жртвовао је све, укључујући свог малог сина, одану сестру, младу супругу и захвалну публику која је канонизовала његову књигу, која је предвиђала будућност. Међутим, данас нас опседа једно питање, а то је: Да ли је Џорџ Орвел умро узалуд? Орвел је покушавао да упозори британско и америчко друштво на опасности које са собом носи тоталитарно друштво, а које су претиле демократији чак и после пораза нациста. У писмима која је написао пре и после завршетка књиге, Орвел је подстицао на „стално преиспитивање“, упозоравао да било какав „имунитет“ према тоталитарности не треба узимати здраво за готово. „Ако се тоталитарност не спутава, могла би да победи било где.“

Од објављивања књиге „1984“, претпостављамо, заједно са Орвелом, да опасност од масовног надзора и друштвене контроле може да нам прети само од државе. Погрешили смо. Због те грешке остали смо потпуно незаштићени од подједнако погубне, али потпуно другачије претње која нам угрожава слободу и демократију. Већ деветнаест година, приватне компаније спроводе до сада невиђену привредну логику коју називам „надзорни капитализам“, а успеле су да отму интернет и дигиталне технологије. Такав процес је настао у „Гуглу“ 2000. године, када је нова привредна логика опрезно преузимала лично људско искуство као бесплатни сирови материјал и пребацивала га у бихевиоралне податке. Неки од њих су искоришћени за унапређење услуга, а остали, много већи део, претворен је у рачунарске производе који предвиђају наше понашање. Тим предвиђањима се тргује на новим тржиштима будућности где надзорни капиталисти продају сигурност компанијама које због тога знају шта намеравамо да урадимо. Та логика је прво примењена при проналажењу огласа на интернету који ће привући наше интересовање, али сличне процедуре се данас користе у скоро свим областима живота – осигурању, продаји на мало, здравственој заштити, образовању, финансијама – у којима се лично искуство кришом прикупља и обрађује да би се дошло до предвиђања нашег понашања. Сада бисмо без претеривања могли да кажемо да је интернет у власништву и под контролом приватног надзорног капитализма.

У надметању за освајање сигурности, надзорни капиталисти су научили да се најпредвидивији подаци не добијају само од надзирања понашања већ и од његовог мењања и усмеравања. На пример, 2013. године, компанија „Фејсбук“ је научила како да уклопи сублиминалне сигнале у своје странице да би обликовала поступке и осећања својих корисника у стварном свету. Касније, ти методи су комбиновани са анализом емоција у реалном времену, што је омогућило оглашивачима да изазову одговарајуће понашање у тренутку највеће рањивости. Ти проналасци су хваљени због своје ефикасности и прикривености. Скандал са „Кембриџ аналитиком“ показао је да се исти методи могу користити како за обликовање потрошачког, тако и за обликовање политичког понашања. Покемон Go, игра заснована на проширеној стварности, развијена у компанији „Гугл“ и доступна јавности 2016. године, прихватила је изазов модификације понашања групе и подигла је на виши ниво. Аутори игре научили су како да окупе људе по градовима и упуте их на места која доносе најбољу зараду, а све без знања оних који су играли.

Демократија је спавала док се надзорни капитализма развијао. Због тога надзорни капиталисти имају јединствену моћ 21. века, која до сад није виђена, баш као што ни тоталитарност није била позната пре једног века. Ја то називам „инструментална моћ“ јер своју вољу спроводи преко свуда присутне архитектуре дигиталне инструментације. Уместо да имамо личног Великог брата који користи убиства и застрашивања да би поседовао свачију душу и ум, ове дигиталне мреже су Велики неко: потпуно безлични системи научени да прате и обликују наше понашање из далека, сасвим законски неспутани. Инструментална моћ предаје нашу будућност интересима надзорног капитализма, а ми, пошто нас та нова моћ не тлачи физички користећи насиље и застрашивање, потцењујемо њен утицај и спуштамо гард. Инструментална моћ не жели да нас сломи, једноставно жели да нас аутоматизује. Да би то постигла, протерује нас од нашег својственог понашања. Не занима је шта ми мислимо, осећамо или радимо све док мислимо, осећамо и радимо тако да је доступно милијардама опажајних, рачунарских и импулсивних очију и ушију Великог неког.

Инструментална моћ поставља изазов пред демократију. Велики неко зна све док његови поступци остају сакривени и елиминише нашу моћ да се одупремо. То све слаби људску независност и самоопредељење без чега демократија не може да опстане. Инструментална моћ ствара до сада невиђене асиметрије у стицању знања, што се некад повезивало са претходним епохама. Велики неко зна много о нама, али то знање не користи за наше добро. Велики неко зна све о нама, док ми не знамо ништа о њему. Таква неравнотежа моћи није противзаконита јер ми још немамо законе који би је контролисали, али, свакако, не одговара демократији.

Надзорни капиталисти тврде да су њихови методи неизбежне последице дигиталних технологија. То није тачно. Лако нам је да замислимо дигиталну будућност без надзорног капитализма, али не може се замислити надзорни капитализам без дигиталних технологија. Седам деценија касније, можемо одати почаст Орвелу тако што ћемо одбити да се одрекнемо дигиталне будућности. Орвел је презирао „нагон да се клањамо пред тренутно најјачим освајачем“. Увек је говорио да храброст захтева да утврдимо своја морална начела чак и пред силама које су непобедиве. Као и Орвел, треба да размишљамо критички и да критикујемо. Слободу не треба олако схватати. Борите се за једну идеју у дугачкој људској историји која потврђује право људи да управљају својим животима. Орвел је сматрао да за то вреди умрети.

Рачунарски факултет Рачунарски факултет 011-33-48-079