От удобство към контрол

Как бе създаден технологичният „Мордор“, в който живеем

В началото на XXI век технологиите бяха представяни като символ на свобода, прогрес и безкрайни възможности. Интернет трябваше да свърже хората, смартфоните – да улеснят живота ни, а изкуственият интелект – да ни освободи от тежкия труд. Всичко изглеждаше като стъпка към по-добро бъдеще. Днес обаче все повече хора започват да се питат дали не сме заменили свободата си срещу удобство. Светът, който създадохме чрез технологии, все повече прилича на дигитален „Мордор“ – място, в което всичко се наблюдава, записва и анализира, а грижата за всичко живо е само на хартия.

За читателите, които не са запознати с произведенията на Дж. Р. Р. Толкин, Мордор е мрачна митична страна от неговия фантастичен свят. Тя е описвана като сурова и безплодна земя, управлявана от зъл властелин – слуга на силите на злото. Въздухът там е горещ и тежък, земята е опустошена и почти нищо не расте. Над тази страна бди огромно огнено око – символ на непрекъснато наблюдение и пълен контрол, което следи всичко случващо се.

В началото удобството беше водещият аргумент. Социалните мрежи ни позволиха да общуваме с всеки по всяко време. Онлайн услугите направиха възможно да пазаруваме, да работим и да учим без да напускаме дома си. Смартфонът се превърна в универсален инструмент – карта, портфейл, фотоапарат, телевизор и средство за комуникация в едно. Но всяко удобство има цена. За да използваме тези услуги, ние доброволно предоставихме огромно количество лична информация – местоположение, навици, интереси, контакти, дори мисли и емоции.

Постепенно технологиите престанаха да бъдат само инструмент и започнаха да се превръщат в средство за контрол. Алгоритмите решават какво да виждаме, какво да четем и дори какво да мислим. Социалните мрежи не просто отразяват реалността – те я оформят. Това, което се показва на екрана, не е случайно, а внимателно подбрано според нашия профил. Така човек остава в информационен кръг, който затвърждава мнението му и го прави по-лесен за влияние.

Наблюдението също се превърна в нормална част от ежедневието. Камери има по улиците, в магазините, в транспорта, в телефоните и дори в домовете ни. Умните устройства слушат, записват и изпращат данни, често без да осъзнаваме това. Всичко, което правим онлайн, оставя следа. Тази информация се събира, съхранява и анализира от компании и институции, които знаят за нас повече, отколкото знаят нашите близки.

Изкуственият интелект ускорява този процес с изключителна скорост. Съвременните алгоритми вече могат да анализират огромни количества данни в реално време и да вземат решения без човешка намеса. Същите модели на изкуствен интелект, които се използват в автомобилите, за да следят пътната обстановка и да разпознават дали колата пред нас ще намали, ще спре или ще направи рязък завой, могат да бъдат използвани и за наблюдение на хората в градската среда. Камерите по улиците, по пътищата, в сградите и в обществения транспорт непрекъснато събират визуална информация, която може да бъде обработвана от системи за разпознаване на лица, поведение и движение.

Технологията, която позволява на един автомобил да „вижда“ чрез своите камери и сензори, е същата технология, която може да проследява придвижването на човек през хиляди улични, пътни и охранителни камери. С помощта на изкуствен интелект е възможно да се изгради пълна картина на това къде се намира даден човек, с кого се среща и какви са неговите навици. Това вече не е научна фантастика, а реална възможност, която се използва в различни части на света под предлог за сигурност, контрол на трафика или предотвратяване на престъпления.

Колкото повече се усъвършенстват тези системи, толкова по-малко остава пространството за анонимност. Населените места постепенно се превръщат в мрежа от сензори и камери, а човекът се превръща в обект на непрекъснат анализ. В такъв свят контролът не се осъществява чрез пряка принуда, а чрез постоянна възможност за наблюдение. Самото съзнание, че всяко действие може да бъде записано и анализирано, е достатъчно, за да промени поведението на хората.

Изкуственият интелект не само наблюдава, но и предвижда. Чрез анализ на данни той може да прогнозира къде ще отидем, какво ще купим и как ще реагираме в дадена ситуация. Това превръща технологиите от средство за удобство в инструмент за влияние и контрол. Колкото повече разчитаме на тях, толкова повече губим способността да действаме самостоятелно, а границата между помощ и зависимост става все по-трудна за разграничаване.

Големите технологични корпорации днес притежават огромна власт. Те управляват платформите, чрез които комуникираме, работим, пазаруваме и получаваме информация. Решенията им могат да влияят на милиони хора едновременно, без да са избирани от обществото и без да носят същата отговорност, каквато се очаква от държавните институции. В същото време именно държавите и техните закони си представяме че, са механизмът, който защитава гражданите от злоупотреба с власт – независимо дали тя идва от престъпни организации, от политически структури или от големи корпорации.

Тук обаче възниква един неудобен въпрос, който всеки читател може да си зададе сам. Колко са политиците, за които можем с увереност да кажем, че никога не са били свързвани с корупционен скандал, превишаване на правомощия или злоупотреба с власт? Достатъчно ли са, за да сме сигурни, че правилата, които се създават, изобщо са в интерес на обществото, а не в интерес на определени групи? Законите, които трябва да ни защитават от неконтролирана корпоративна сила, се пишат именно от хора, които също са част от системата на властта и влиянието.

Това не означава, че всяка институция е корумпирана или че всяка технология се използва с користна цел. Но съмненията се появяват, когато властта се концентрира в малък брой ръце, независимо дали става дума за политически елит или за технологични гиганти. Когато едни създават правилата, други притежават средствата за контрол, а обществото остава зависимо и от двете, границата между защита и управление става все по-неясна.

В такъв свят удобството, което технологиите ни дават, може лесно да се превърне в инструмент за влияние. Колкото повече разчитаме на системи, които не разбираме и не контролираме, толкова по-голяма става вероятността решенията за нашия живот да се вземат някъде другаде — в кабинети, сървърни центрове или алгоритми, до които обикновеният човек няма достъп. Именно тук се появява усещането, че светът постепенно се превръща в технологичен „Мордор“ — не защото някой открито го налага, а защото ние сами сме позволили властта да се отдалечи твърде много от обществото.

Най-голямата опасност на този „технологичен Мордор“ е, че той не изглежда страшен. Той е удобен, бърз и привлекателен. Хората сами носят устройствата, които ги наблюдават, и сами споделят информацията, която ги прави уязвими. Контролът не идва чрез забрана, а чрез желание. Именно това го прави толкова ефективен. Причината този модел да работи толкова добре се крие не само в технологиите, но и в самата природа на човешкия мозък. Нашата естествена „невронна мрежа“ е изключително сложна, но далеч не е съвършена. Тя използва опростени модели, навици и инстинкти, за да взема бързи решения, защото това е било необходимо за оцеляването ни. Тези съкращения в мисленето обаче ни правят уязвими към манипулация.

Още от древността фокусниците използват слабостите на човешкото внимание, за да ни накарат да видим нещо, което не се случва, или да пропуснем нещо, което е точно пред очите ни. Създателите на реклами използват същите механизми — ярки цветове, повтарящи се послания, емоционални образи — за да насочват избора ни, без да го осъзнаваме. Измамниците разчитат на доверие, страх или алчност, защото знаят, че в определени ситуации човек реагира импулсивно, а не рационално. Политическата пропаганда също използва тези особености на човешката психика, като повтаря прости послания, създава усещане за заплаха или обещава бързи решения на сложни проблеми.

Днес технологиите позволяват тези техники да бъдат прилагани в невиждан мащаб. Алгоритмите могат да анализират поведението на милиони хора и да откриват точно кои слабости работят най-добре. Социалните мрежи показват съдържание, което предизвиква силна емоция, защото именно то задържа вниманието най-дълго. Рекламите се насочват към конкретни хора според техните страхове, желания и навици. Така манипулацията вече не е обща, а персонализирана.

В резултат на това човек може да има усещането, че сам взема решенията си, докато всъщност изборът му е внимателно насочван. Когато удобството се съчетае със слабостите на човешката психика и с мощта на съвременните технологии, контролът става почти невидим. Именно това прави технологичния „Мордор“ толкова опасен — той не принуждава, а убеждава; не забранява, а изкушава; не налага, а предлага. И докато вярваме, че сме напълно свободни, системите около нас стават все по-способни да предвиждат и направляват нашето поведение.

Въпросът, който стои пред съвременното общество, вече не е дали технологиите са добри или лоши. Те са инструмент, създаден от човека, но инструмент, който постепенно се е превърнал в среда, от която не можем да излезем. Дълго време вярвахме, че можем да намерим баланс между удобството и свободата, но все по-често изглежда, че този момент вече е останал в миналото. Днес наблюдението не е хипотеза, а реалност. Светът е изграден от мрежи, услуги и устройства, които непрекъснато обменят информация. За да работят, тези системи изискват достъп, контрол и възможност за проследяване на трафика от данни, а това неизбежно означава, че някъде съществува механизъм, чрез който тази информация може да бъде наблюдавана, съхранявана или използвана.

Държави, международни организации и големи корпорации създават правила с цел сигурност, борба с престъпността и по-ефективно управление на обществото. Но същите механизми, които позволяват защита, дават и възможност за контрол. Колкото по-сложни стават технологичните системи, толкова по-малко хора разбират как работят и толкова по-трудно става да се поставят ясни граници. Така обществото постепенно приема наблюдението като нормална част от ежедневието — не защото го е избрало съзнателно, а защото без него съвременният свят вече не може да функционира.

Затова днес въпросът не е дали съществува контрол, а до каква степен сме готови да го приемем. Не дали се събират данни, а кой ги използва и с каква цел. Не дали системите могат да следят, а дали има достатъчно прозрачност и отговорност, за да не се превърнат те в средство за злоупотреба.

Ако някога сме се питали как би изглеждал един технологичен Мордор, днес вече живеем достатъчно близо до него, за да го усещаме, но все още достатъчно далеч, за да се съмняваме. Въпросът е колко дълго ще имаме тази възможност. Защото когато решенията се вземат от алгоритми, когато наблюдението се превърне в норма, а удобството – в необходимост, идва момент, в който човекът ще спре да пита дали е свободен.
И може би най-голямата опасност не е, че ще живеем в свят на пълен контрол, а че ще изгубим дори способността да се запитаме дали е трябвало да бъде така.

Федман Касад