Да ли је Србија изабрана за експеримент: од дигиталног надзора до друштва у којем вјештачка интелигенција преузима људско одлучивање?
Када је Џулијан Асанж говорио о будућности интернета и опасностима које доноси технолошки развој, једно од његових упозорења посебно је привукло пажњу јавности у Србији. Србију је означио као простор на којем се одређени процеси будућности могу испољити раније него у другим друштвима. Његово упозорење није се односило само на могућност злоупотребе технологије, већ на дубљу промјену односа између појединца, државе и система који располаже огромном количином података.
Асанжова теза добија посебну актуелност у времену у којем вјештачка интелигенција престаје да буде искључиво средство за обраду информација и све више постаје фактор у доношењу одлука. Оно што се до јуче сматрало научнофантастичком представом будућности данас постаје дио свакодневног живота: алгоритми процјењују кредитну способност, анализирају понашање потрошача, учествују у избору запослених, управљању јавним услугама и безбједносним системима.
Многима је Асанжово упозорење у вријеме када га је изрекао дјеловало готово нестварно, као предвиђање неке далеке и мало вјероватне будућности. Међутим, вријеме је показало да је он у много чему био претеча упозорења на дистопијски свијет чије контуре данас постају све видљивије. Оно што је тада изгледало као научна фантастика, данас се све више појављује као реална могућност: друштво у којем технологија не служи само човјеку него све више обликује његово понашање, ограничава његову приватност и преузима функције одлучивања.
Уколико се ствари буду развијале у том правцу, кључно питање неће више бити само препознавање и разумијевање тих процеса, него ко ће контролисати примјену вјештачке интелигенције и у чијем ће интересу она функционисати. Јер, није исто да ли технологија служи проширивању људских могућности или постаје средство управљања људима. Одговор на то питање одредиће и границе слободе у друштву које долази.
Од дигитализације до контроле
Дигитализација се најчешће представља као процес који доноси ефикаснију управу, брже услуге, економски напредак и једноставнији живот. Међутим, сваки систем који прикупља и обједињује податке о грађанима истовремено ствара могућност њиховог надзора и контроле. Посебно је значајно питање повезивања различитих база података, система видео-надзора, препознавања лица и алгоритамске анализе понашања. Када се такви системи интегришу, настаје инфраструктура која омогућава не само праћење онога што човјек ради него и процјењивање онога што би могао да уради.
Асанж је, дакле, још 2014. године, у разговору за Б92, Србију назвао земљом у којој будућност долази раније, односно простором на којем се одређени процеси могу испољити прије него у стабилнијим друштвима. Говорио је о времену између двије епохе и опасности од глобалне дистопије контроле. Посебно је упозорио да интернет, који је најприје изгледао као средство ослобађања, може постати средство поробљавања. У интервјуу је Асанж изрекао и важну мисао:
“Интернет је истовремено наше највеће средство ослобађања и наш највећи потенцијални поробљивач.”
Управо ту почиње проблем који превазилази техничку димензију. Ако алгоритам може да процјењује понашање појединца, одређује његов ниво ризика или утиче на његова права и могућности, поставља се питање граница такве моћи. Још важније, ко сноси одговорност када систем донесе погрешну или неправедну одлуку?
Технолошки тоталитаризам не мора нужно да изгледа као класични тоталитарни поредак. Он не мора да почива на видљивој репресији, забранама и политичком насиљу. Његова моћ може произлазити из непрекидног прикупљања података, предвиђања понашања и усмјеравања људских избора.
Зашто баш Србија?
Ако се запитамо зашто би Србија могла бити занимљива као простор за испитивање нових модела технолошког управљања, одговор можда треба тражити у споју њеног геополитичког положаја, институционалних прилика и специфичне културне подлоге.
Не ради се о никаквој привилегији или изабраности, што смо ми често склони да повјерујемо. Прије је ријеч о друштву које се налази на размеђи различитих цивилизацијских, вјерских и политичких утицаја, а истовремено чува снажне елементе историјског памћења, православног предања и колективног идентитета. Управо зато занимљиво је питање да ли би увођење нових технологија могло представљати не само процес модернизације него и својеврсни тест отпорности традиционалних облика заједништва пред моделима дигиталног управљања.
То, наравно, не значи да постоји доказ о посебно планираном експерименту, али отвара питање зашто је важно да технолошки развој прате очување културног суверенитета, слободе и права човјека на самостално одлучивање.
У сваком случају, Србија има специфичан положај између Европске уније, САД, Русије и Кине. У њој се сусрећу различити модели политичког, економског и технолошког утицаја. Поред доминације великих корпоративних компанија из САД, посебно је занимљива сарадња са Кином у области паметних градова, видео-надзора и дигиталне инфраструктуре, као и настојање Србије да се позиционира као регионални центар за развој вјештачке интелигенције.
Иако помиње Србију, Асанж сматра да свијет у цјелини улази у епоху транснационалне дистопије. Тако у интервјуу за србијански “Недељник”, од 18. јуна 2015. каже:
“Она не погађа само једну земљу у једном делу света, већ све државе у свим деловима света. Она погађа све државе јер све државе прелазе на интернет. То је највећа крађа у људској историји. У последњих неколико година видели смо невероватну политичку радикализацију друштава која су повезана на интернет, и то јер интернет и сам пролази кроз невероватну едукативну трансформацију људи који га користе. У неким друштвима то је довело до револуција и невиђених реформи. То је ера јединствене политичке едукације.”
Србија и питање технолошке будућности
Асанжово упозорење добија додатну тежину када се посматра у контексту савремених технолошких промјена у Србији. Влада Србије усвојила је Стратегију развоја вјештачке интелигенције за период 2025–2030, којом се предвиђа ширење њене примјене у јавном сектору, развој рачунарске инфраструктуре и улагање у нове технологије.
Само по себи, то није спорно. Примјена вјештачке интелигенције може донијети значајне користи у здравству, образовању, привреди и администрацији. Међутим, питање је под којим условима се она примјењује, ко надзире њен рад и да ли грађани задржавају право да разумију и оспоре одлуке које се тичу њиховог живота.
Зато је потребно бити опрезан и према тврдњама да је Србија већ изабрана за некакав тајни експеримент у којем ће све одлуке доносити вјештачка интелигенција. За такву тврдњу засад нема јавно доступних доказа. А и да постоје нико их не би јавно потврдио. Али чињеница да се развијају системи свеобухватне дигиталне управе довољан је разлог да се о овим питањима озбиљно расправља.

Човјек пред алгоритмом
Овај проблем има и своју филозофску димензију. Мартин Хајдегер је упозоравао да модерна техника мијења начин на који човјек разумије свијет, сводећи га на нешто што се може израчунати, организовати и ставити у функцију. Хана Арент је указивала на опасност од губитка личне одговорности у системима у којима појединац престаје самостално да просуђује. Берђајев је, са друге стране, слободу сматрао неодвојивом од људског достојанства и личности.
Ове мисли постају посебно актуелне у времену вјештачке интелигенције. Алгоритам може да обради податке и предложи рјешење, али не може преузети моралну одговорност за посљедице својих одлука. Када човјек ту одговорност препусти машини, не губи само право на одлучивање него и један важан дио сопствене слободе. Зато суштинско питање будућности није колико ће вјештачка интелигенција постати моћна, јер она то већ јесте, него колико ће човјек бити спреман да сачува право на сопствено расуђивање.
Асанжово упозорење из 2014. године данас се може читати као позив на будност. Интернет и вјештачка интелигенција могу бити средства напретка и ослобађања, али и инфраструктура надзора и контроле. Граница између те двије могућности не зависи само од технологије, већ прије свега од друштва, институција и људи који одлучују о њеној примјени.
Највећа опасност, дакле, није да ће вјештачка интелигенција једног дана одлучивати умјесто човјека, него да ће човјек постепено изгубити потребу да сам одлучује.
Извори:
- Džulijan Asanž, Sloboda i budućnost interneta, Albion Books, Beograd, 2013.
- Џулијан Асанж, интервју за Б92, 7. април 2014: Assange: Serbia is country where future happens first.
- Џулијан Асанж, интервју за Блиц, 2014: Interview with Julian Assange.
- Џулијан Асанж, Интервју за Недељник, 2015: текст интервјуа.
- Влада Републике Србије, Стратегија развоја вештачке интелигенције 2025–2030: Стратегија развоја вештачке интелигенције.
