Дигитална дистопија или како алгоритми кажњавају сиромашне

Широм света, од градића у Илиноису до Рохдејла у Енглеској, од Перта у Аустралији до Думке у северној Индији, дешавају се револуционарне промене у владином односу према сиромашним грађанима. Можда нисте приметили промене, нити сте чули за њих, јер их планирају инжењери и програмери иза затворених врата, на безбедним владиним локацијама далеко од погледа јавности. Само математичари и рачунарски стручњаци могу у потпуности да схвате корените промене које се одвијају, а које покреће вештачка интелигенције, предиктивни алгоритми, моделовање ризика и биометрија. Ипак, ако припадате милионима људи у угроженим групацијама становништва, који се налазе на крају ланца преобликовања државне помоћи, знајте да су промене стварне, а последице могу бити озбиљне, чак фаталне. Стручњаци су провели последња три месеца истражујући како се милијарде уливају у иновације вештачке интелигенције које наметљиво мењају односе сиромашнијих грађана са државом. Заједно су у Америци, Британији, Индији и Аустралији истражили до чега је довело стварање државе која се дигитализовала пружање социјалне помоћи.

Открили су како су се финансијска помоћ незапосленима, дечији додатак, обезбеђивање стамбеног простора и следовање хране се потпуно у умрсиле на мрежи. Владе развијених земаља и земаља у развоју троше огромне количине новца на аутоматизовање сиромаштва и, у том процесу, потребе најугроженијих чланова популације претварају у бројеве, а доношење одлука пребацују са људи на хладне и мртве машине. На тај начин смо добили слику која личи на Дикенсову дистопију 21. век, на дигиталне уџерице. Кад слушамо шта владе говоре, чујемо обећања како ће нове технологије трансформисати сиромаштво племенитим и благонаклоним подухватима. Убрзаће плаћање социјалне помоћи, повећати ефикасност и транспарентност, смањити трошкове, уштедети новац пореских обвезника, уклонити људске несавршености и предрасуде и обезбедити да ограничена средства стигну до оних којима је најпотребнија. Сва та обећања су углавном празна.

У ово време кад штедња доминира политичком сценом, милионима се смањује социјална помоћ или се потпуно укида због рачунарских програма који функционишу тако да их скоро нико не може контролисати, а још мање разумети. Грешке су постале ендемичне, а њиховим жртвама је ускраћена била каква могућност да се њихов случај поново размотри. Ове недеље аутоматизација сиромаштва биће разматрана на светском нивоу. Филип Алстон, представник у Уједињеним нацијама који се бави питањима екстремног сиромаштва, поднеће извештај Генералној скупштини те организације у Њујорку који би требало да представља узбуну за очување људских права пред налетом дигитализације социјалне заштите.

Алстонова анализа се делимично заснива на званичним студијама Уједињених нација о сиромаштву у Великој Британији и Сједињеним Државама, а делом и на извештајима које су поднеле владе, организације за заштиту људских права и стручњака из више од 34 државе. Његов извештај ће вероватно успети да пружи дефинитивну слику стања садашњег света, као и смера у коме се креће. Бавиће се малтретирањем, нападима и кажњавањем оних који живе у дигиталним уџерицама које се све брже шире. У Илиноису су стручњаци открили да су државна и савезна влада ујединиле снаге да би од прималаца социјалне помоћи тражиле да врате преплаћене износе које су примили, у неким случајевима и пре тридесет година. Систем „зомби дуга“ који је своје оружје добио у технологији, изазива страх и забринутост код најугроженијих чланова друштва.

Или како би један од прималаца социјалне помоћи рекао: „Дугујемо оно што смо појели.“ У Великој Британији су истраживали владино обезбеђено постројење изван Њукасла где се троше милиони на развој нове генерације робота који би уместо људи решавали социјалне проблеме. Приватне компаније, укључујући и једну из Њујорка на чијем челу се налази први робот милијардер, убрзавају процес производње који је довео до појаве новог жаргона: „виртуелна радна снага“, „проширено доношење одлука“ и „роботизован процес аутоматизације“.

Влада јури напред у својој дигиталној мисији упркос болу који је нанела милионима Британаца са ниским приходима у свом плану „подразумеване дигитализације“. Примаоци социјалне помоћи говоре о глади, прљавштини, страху и паници које подносе. У Аустралији, где су многи репортери писали о такозваном „роботизованом дугу“, односно плану који је био неоправдано оптужен да покушава да извуче старе дуговања преко погрешних алгоритама, откривено је да је влада отворила нови дигитализовани фронт, односно користи аутоматизацију да би зауставила милионе исплата социјалне помоћи. Потражиоци су се нашли у чуду кад им је новац био ускраћен. Без обавештења.

Најпотреснија прича долази из Думке у Индији. Ту смо се упознали са ужасним последицама које су претрпеле породице због Аадхаара, односно јединственог дванаестоцифреног броја које је влада Индије издала свим својим грађанима у највећем биометријском експерименту на свету. Мотка Манђи је платио највећу цену кад, због рачунарске грешке, његов отисак прста, који је кључ за улаз у Аадхаар, није препознат. Није добијао редовна следовања хране, није имао шта да једе и ускоро је прилично смршао. Срушио се испред своје колибе 22. маја и умро. Његова породица је сигурна да је умро од глади. Сва та истраживања спровели су истраживачи енглеског часописа Гардијан и утврдили да су својства тих нових система, у развијеним и неразвијеним земљама, на истоку и западу, врло слична. Најуочљивија заједничка карактеристика је та да се све одвија светлосном брзином, да висока технологија осваја установе за пружање социјалне помоћи, агенције за рад и пензионо осигурање, за помоћ инвалидима, здравствену заштиту и увек без имало јавне расправе или прихватања одговорности.

У тој коренитој измени, људски елемент социјалне државе се изгубио. Уместо да разговарате са социјалним радником који би проценио ваше потребе, једноставно вас усмеравају на интернет где вам предиктивна анализа доделити будући фактор ризика, а алгоритам одлучује о вашој судбини.  У новом свету, неједнакост и дискриминација су заузеле бусију. Шта се дешава ако сте један од пет милиона одраслих Британаца који немају свакодневни приступ интернету или сте рачунарски неписмени или тек полуписмени? Шта ако се алгоритам учвршћује у постојећој искривљеној слици о расној и класној припадности, правећи још већи јаз између црнаца и белаца, богатих и сиромашних, факултетски образованих и физичких радника?

Светом се шити и језива атмосфера Кафкиних романа. Као што је Манђи трагично открио, грешке се дешавају. Машине се кваре. Ако нема никог у близини ко у вама види људско биће него тек дванаестоцифрени број који треба обрадити, последице могу бити фаталне. Рачунар каже: „Нема исплате“. Шта вам је чинити?

Рачунарски факултет Рачунарски факултет 011-33-48-079