Меко наблюдение и контрол
Изкуственият интелект като инструмент за постепенна и дълбока политическа репресия в услуга на съвременната капиталистическа хегемония
Представяме на читателите превод на анализ на ефектите от изкуствения интелект и неговото използване от капиталистическите правителства и корпорации, от Rezgar Akrawi.
Това са откъси от книгата „Капиталистическият изкуствен интелект: предизвикателства за левицата и възможни алтернативи – технология в услуга на капитала или инструмент за освобождение?“. Връзка към книгата
Цифрово наблюдение и контрол
Цифровите корпорации, в сътрудничество с големи държави, наблюдават движенията на физическите лица чрез „умни“ устройства и различни средства за комуникация. Всички цифрови дейности, включително и предполагаемо сигурното, криптирано общуване, са обект на постоянно наблюдение и анализ. На практика почти не съществува напълно защитено цифрово пространство; данните се събират систематично и след това се използват за оценка и класифициране на физически лица и групи според техните поведенчески модели и интелектуални и политически ориентации.
Освен това цифровото наблюдение се превърна в основен инструмент за следене на интелектуалните и политическите тенденции на потребителите, което позволява на корпорациите и правителствата да ги проследяват и да ги атакуват чрез организирани дезинформационни кампании или да налагат цифрови санкции, които ограничават и намаляват тяхното влияние върху общественото мнение. Тези стратегии се прилагат систематично и тайно срещу синдикални организации, леви групи и независими институции за правата на човека и медиите, които са изправени пред все по-големи ограничения, които възпрепятстват разпространението на техните идеи в публичното цифрово пространство чрез непреки, фини методи, които са трудни за откриване.
Капиталистическите корпорации и големите държави използват алгоритми в социалните мрежи и системите за изкуствен интелект с прецизност и систематичност, за да ограничат обхвата на левите и прогресивни политически публикации, понякога без да прибягват до директно изтриване. Тези практики правят цифровата репресия по-сложна, опасна и невидима, тъй като ниското ангажиране с прогресивно съдържание изглежда като естествена реакция на аудиторията, докато в действителност е резултат от предварително проектирани алгоритми, насочени към намаляване на неговата видимост. Много проучвания са документирали свързани явления, като „филтърния балон“, създаден от алгоритми, за да изолира потребителите от политическо съдържание, което противоречи на техните възгледи, и доклади за алгоритмична пристрастност, която фаворизира традиционния десен дискурс пред левицата. Изтекли вътрешни документи от компании като Facebook разкриват умишлени стратегии за намаляване на видимостта на определени политически или правозащитни движения чрез ограничаване на обхвата им или деактивиране на известията, като същевременно се поддържа фасада на неутралност. Тези политики създават фалшиво впечатление сред активистите, че техните идеи са неефективни или непопулярни, което подтиква някои от тях към самоцензура или промяна на дискурса им.
Цифрово обезсилване
Цифровото обезсилване е ново и усъвършенствано средство за класово господство, при което алгоритми и изкуствен интелект се използват систематично и незабележимо, в дългосрочен план и постепенно, за разпространяване на съдържание, което подхранва чувства на безпомощност и примирение, особено сред потребители с леви и прогресивни ориентации. Този механизъм усилва неуспехите и слабостите на социалистическите експерименти и левите организации, като същевременно представя капитализма като вечна, непобедима система, засилвайки по този начин идеята, че промяната е невъзможна. Насърчава се индивидуализмът, заедно с лични решения като консумация и саморазвитие, изолирайки индивидите от колективни, организирани политически действия. Освен това дебатите в рамките на левите организации се насочват към маргинални конфликти и се преувеличават, отвличайки усилията и отслабвайки способността за съпротива. Големите корпорации анализират цифровото поведение, за да насочват към потребителите и групите съдържание, което поражда чувство на неудовлетвореност, карайки ги да смятат, че социалистическата промяна е или невъзможна, или изключително трудна. Тези политики и методи не са случайни, а са преднамерени, научни инструменти, предназначени да прекъснат или отслабят духа на промяната и да гарантират оцеляването на капиталистическата система без реални и ефективни предизвикателства.
Цифрово арестуване и цифрово убийство
Цифровото арестуване представлява по-опасна фаза от наблюдението и контрола, тъй като отива отвъд ограничаването на достъпа до съдържание до налагането на произволни ограничения върху индивидуални и групови акаунти, временното им спиране за различни периоди от време или трайното им изтриване – което може да се счита за форма на цифрово убийство – без прозрачност, ясни стандарти или местни или международни закони, защитаващи правата на потребителите. Извинения като „нарушаване на стандартите на общността“ или „насърчаване на насилие“ често се използват, за да се заглушат тези гласове, въпреки че съдържанието на активистите често документира престъпленията на капиталистическите държави и корпорации или нарушенията на човешките права. Един пример е цифровата репресия, практикувана от социалните медийни платформи срещу палестинско съдържание, документиращо израелски престъпления срещу цивилни граждани. По време на най-скорошното нападение над Газа компании като Facebook, Instagram и Twitter изтриха и забраниха стотици акаунти и публикации, документиращи престъпленията на окупацията, под претекст за „нарушения на стандартите на общността“ или „насърчаване на тероризъм“, въпреки че много от тях бяха точна документация на военни престъпления, потвърдени от правозащитни организации.
През 2023 г. Human Rights Watch документира над 1050 случая на премахване или ограничаване на пропалестинско съдържание във Facebook и Instagram между октомври и ноември 2023 г., включително чисто мирни публикации. Аз лично бях забранен за цял месец, след като споделих публикация на Палестинската левица, а светската Facebook страница, която имаше над 200 000 последователи, беше закрита за публикуване на статии, разкриващи престъпленията на израелската окупация, включително статии, осъждащи престъпленията на Хамас.
Независими медийни агенции като Quds News Network също бяха подложени на репресии, като им беше ограничен обхватът или акаунтите им бяха изцяло изтрити, в явен опит да се заглушат гласовете, разобличаващи нарушенията срещу палестински цивилни граждани. Медийни и правозащитни доклади също подчертаха феномена „сенчесто забраняване“, при който пропалестински публикации се потискат, без да се изтриват, особено тези, съдържащи хаштагове като #FreePalestine или #IStandWithPalestine, което представлява недекларирано ограничаване на свободата на изразяване в цифровото пространство.
Доброволна автоцензура
Цифровото потискане и ограничаването на достъпа до публикации се съпътстват от феномена „доброволна автоцензура“, при който отделни лица и дори групи започват сами да си налагат ограничения, променяйки политическия си дискурс или дори съдържанието му, преминавайки към общи теоретични въпроси и избягвайки пряката конфронтация с капитализма и авторитарните режими от страх от ограничаване на достъпа, забрани по време на цифрово арестуване или цифрово убийство чрез закриване на акаунти от алгоритми на изкуствен интелект на цифрови платформи. Този страх подкопава свободата на изразяване, превръщайки се в решаващ фактор за преобразуване и контрол на публичния дискурс, дори преди да бъдат наложени реални ограничения. Това засилва капиталистическата идеологическа хегемония, свива пространството за цифрово съпротива и превръща интернет в саморегулиращо се пространство, съобразено с интересите на доминиращите сили.
Например, по време на периоди на масови протести в различни страни срещу капиталистическите и авторитарни политики – и по-общо, на различни нива – много потребители забелязаха, че техните публикации, съдържащи думи като „обща стачка“, „гражданско неподчинение“, „революция“ или текстове, разкриващи престъпления и нарушения на човешките права, не достигаха обичайната си видимост, докато общите аналитични публикации за икономика и политика бяха засегнати в много по-малка степен. Това беше очевидно по време на протестите на „Жълтите жилетки“ във Франция, където медийни репортажи документираха изтриването или ограничаването на публикации, призоваващи към масови стачки или пряка конфронтация с правителството. В Съединените щати активисти от движението „Black Lives Matter“ съобщиха за значителен спад в обхвата на публикациите, призоваващи към гражданско неподчинение или мирни протести срещу полицейското насилие, особено във Facebook и Instagram. Подобни оплаквания дойдоха от активисти в Индия по време на протестите на фермерите през 2021 г., където платформите премахнаха публикации или блокираха хаштагове, свързани с демонстрациите, като #FarmersProtest, под претекст, че „нарушават местните закони“. Това накара много активисти да избягват използването на термини, класифицирани от платформите като „подпалващи“, като пренасочиха публичния дискурс към по-малко радикално и революционно съдържание, с което се сви пространството за свободно изразяване и отслаби ролята на социалните медии като инструмент за политическа мобилизация и радикална промяна.
Ерозирането на демокрацията чрез изкуствен интелект
След като чрез дигитализацията се постига контрол над човешките умове и съзнание, въпросът вече не е само в максимизирането на капиталистическите печалби, а се превръща в основен инструмент за отслабване и дори подкопаване на относителната буржоазна демокрация, вместо да я подкрепя или разширява – дори и с ограничената ѝ достоверност в много страни, предвид подчинението ѝ на политическите пари, несправедливите избирателни закони, обслужващи конкретни интереси, и други фактори. Вместо да насърчават съзнателното участие на народа в политическия живот, дигитализацията и изкуственият интелект се използват за преобразуване и манипулиране на общественото мнение в съответствие с интересите на управляващата класа, за повлияване на изборите, за ограничаване на пространството за свободен дебат и за насочване на политическия и медийния дискурс в услуга на доминиращите капиталистически сили.
Класовият контрол върху ИИ означава, че тази технология – която би трябвало да бъде инструмент за повишаване на прозрачността и демокрацията – всъщност се използва за създаване и популяризиране на разкази, които запазват съществуващата капиталистическа система. Анализът на големи масиви от данни и интелигентните алгоритми се използват за насочване на политическата информация по начин, който служи на капиталистическите институции, десните и неофашистките движения и авторитарните сили, като по този начин отслабват способността на масите да вземат политически решения, основани на истинско критично съзнание.
В рамките на капиталистическата система изкуственият интелект не се използва за да даде власт на масите или да укрепи съзнателното и прозрачно вземане на решения, а по-скоро като инструмент за изкривяване на реалността, възпроизвеждане на пропаганда и позволяване на дезинформация в медиите, която подкопава същността на истинската демокрация – основана на прозрачност, достъп до информация и интелектуален и политически плурализъм. Това се прави чрез насочване на специфични групи с персонализирано съдържание въз основа на тяхното дигитално поведение, създавайки изкуствено обществено мнение, което затвърждава класовата хегемония и задълбочава политическата и социалната поляризация. Това не само заблуждава избирателите, но и преобразува средата на политическия дебат, лишавайки я от същност и насищайки я с пропаганда, служеща на капитализма и десните идеи.
Влиянието на изкуствения интелект надхвърля простото манипулиране на информация; той се превръща в основен инструмент за възпроизвеждане на капиталистическата политическа власт. Чрез използването на алгоритми в предизборните кампании, адаптирането на политическите послания към интересите на капитала и повлияването на избирателите чрез прецизно таргетиране, платформите работят за неутрализиране на опозиционните гласове и отслабване на левите и прогресивни демократични алтернативи. Ясен пример за това е намесата на милиардера и десен политик Илон Мъск в германските избори през 2025 г. чрез платформата му „X“ (по-рано Twitter), където той директно подкрепи крайната дясна партия „Алтернатива за Германия“, като промотираше съдържание, създадено с изкуствен интелект, формираше общественото мнение и засилваше политическата поляризация в полза на десните и неонацистките сили.
В тази среда изборите вече не отразяват волята на народа – дори в относителна форма – а се превърнаха в арена на борба между големите държави, монополните сили и финансовите олигархии, които използват интернет и изкуствения интелект като инструменти за политическо и идеологическо господство. Това нарушава политическия плурализъм и корумпира съществуващите относителни демократични механизми, тъй като управляващите сили или отслабват прогресивните гласове, или тласкат масите към фалшиви алтернативи, които възпроизвеждат самата капиталистическа система, с най-много повърхностни промени.
Алтернативи, предложени от левите, прогресивните и правозащитните сили за справяне с този проблем
Изкуственият интелект като инструмент за освобождаване на човешките права
Изкуственият интелект трябва да бъде насочен към създаване на инструменти за освобождаване и зачитане на човешките права, а не за тяхното ограничаване или нарушаване. За да се постигне това, са необходими прогресивни леви инициативи, които да гарантират прозрачност, надзор и използване на изкуствения интелект за насърчаване на справедливостта и равенството, вместо да се оставя той като инструмент в ръцете на авторитарни режими, големи държави и корпорации за наблюдение на лица и потискане на свободите. Трябва да бъдат създадени строги международни и местни правни рамки, които да криминализират използването на ИИ за нарушаване на правата на човека, било то чрез наблюдение, преследване на опоненти и активисти или налагане на цифрова цензура, която води до цифрово арестуване, убийства и ограничаване на свободата на изразяване. Приложенията на ИИ в областта на сигурността трябва да бъдат подложени на независим съдебен контрол, като организациите на гражданското общество участват в оценката на рисковете, които те представляват за свободите. Глобалните мрежи за солидарност трябва да наблюдават злоупотребите с ИИ, да бойкотират компаниите, които продават технологии за наблюдение на авторитарни режими, и да ги включват в черни списъци.
За да се гарантира това, системите за ИИ с отворен код трябва да бъдат подкрепяни и разработвани от независими органи, включително гражданското общество и институциите за правата на човека, подложени на демократичен надзор, който предотвратява злоупотреби от страна на правителства, монополистични корпорации и авторитарни режими. Такива системи могат да се използват за укрепване на правата на човека чрез разкриване на нарушения, наблюдение на работата на правителството и анализ на данни за разкриване на репресивни практики. От съществено значение е засилването на ролята на левите, прогресивните и правозащитните организации в наблюдението на използването на ИИ. Могат да се създадат международни коалиции, които да оказват натиск срещу експлоатацията на тази технология за консолидиране на господството и цифровата репресия. ИИ може да служи и като ефективно средство за противодействие на цифровата цензура чрез криптиране на данни, сигурни комуникации за защита на активисти и дисиденти и наблюдение на дейността на диктаторските правителства. В същото време трябва да се повиши общественото съзнание за опасностите от наблюдение и цифров контрол и начините за противодействие чрез приемане на местни и международни закони срещу нарушенията на правото на личен живот и предоставяне на технически инструменти, които помагат на хората да защитят своите данни и да гарантират свободата на изразяване в цифровото пространство.
Изкуственият интелект в подкрепа на демокрацията и участието на гражданите
От жизненоважно значение е изкуственият интелект да се превърне от инструмент, който допринася за ерозията на относителната демокрация, в инструмент, който я укрепва и развива. Технологията трябва да дава възможност на широките маси, да засилва политическото участие на основата на равенството и да гарантира прозрачност и справедливост в демократичните процеси. ИИ може да се използва за разработване на сигурни, прозрачни платформи за диалог и електронно гласуване, които дават възможност на гражданите да изразяват своите мнения и да участват пряко и ефективно в процеса на вземане на решения на всички нива, като по този начин се укрепва участието в демокрацията и се връща властта на хората.
ИИ инструменти могат да се разработват и за автоматично анализиране и разкриване на фалшиви новини и дезинформация, като по този начин се защитава обществеността от кампании, целящи да подкопаят способността ѝ да взема решения, основани на факти. Тези инструменти могат да се използват широко и свободно като част от по-широк проект за насърчаване на прозрачността на медиите и противодействие на монополната хегемония на медиите. Това изисква също така борба за ясни международни и местни закони, които да предотвратяват използването на ИИ за манипулиране на общественото мнение, като се гарантира, че предоставяната на обществеността информация е точна, обективна и отразява реалността без класови или идеологически пристрастия.
Източници
- Джонатан Наглър и др. – Как технологичните платформи подхранват политическата поляризация в САЩ и какво може да направи правителството по този въпрос
- PNAS – Алгоритмично усилване на политиката в Twitter
- Arxiv – Политическата усилвателна пристрастност на алгоритъма „Twitter For You“
- Изтичане на информация от Facebook през 2021 г. – Уикипедия
- Неизпълнените обещания на Meta: Системна цензура на съдържание, свързано с Палестина, в Instagram и Facebook
- Цензурират ли гигантите в социалните медии про-палестинските гласове на фона на войната в Израел?
- Meta „задушава“ про-палестинските гласове в социалните медии, твърди правозащитна организация
- Защо Twitter блокира акаунти, свързани с протестите на фермерите в Индия
- Граждански правозащитни групи призовават Facebook да поправи „расово пристрастната“ си система за модерация
- Индия: Twitter блокира акаунти във връзка с протестите на фермерите по искане на правителството – BBC
- Как X на Илон Мъск се превърна в супермощната първа страница на глобалната десница – The Guardian
- Facebook групата „Жълти жилетки” с 350 000 членове беше блокирана в деня на европейските избори
