Изкуственият интелект като управник

печат
Вярата в неиронично казано светло бъдеще е едно от нещата, които съзнателно или интуитивно ни предпазват от пропастта на депресията. Упованието, че утре ще бъде по-добро от днес, дава сили да живеем без непрекъснатото отчаяние от биологичния факт на краткостта на индивидуалното ни съществуване. Различните епохи притежават различни форми на тази вяра-надежда-очакване. Днешното време полека-лека, въпреки рецидиви на религиозност със съпътстващите ги прояви на недоверие и дори омраза към науката, все по-плътно изгражда образ на светло бъдеще, в което ключово място заема т. нар. Изкуствен интелект (ИИ).
Моите представи за ИИ са за машинен разум, който накратко би се държал по подобие на митологичния Прометей – не нов бог, не нов господар на хората, а техен помощник в трудния процес на издигане, усъвършенстване, създаване на разширяващи се хоризонти на индивидуалната свобода, която се съчетава в обща свобода на всички. Моята представа е за личност, която съчетава най-доброто от човешкото и го издига над това – с цел да улеснява всеки пожелал да стори същото.
Това ми възприемане за ИИ не бих обаче нарекъл широко популярно. Повечето известни ми автори по темата говорят за ИИ не като за личност с машинна основа, а като за устройство, способно да решава сложни задачи на едно по-качествено ниво от съществувалите и съществуващи компютърни системи. Допускането на самосъзнание у машината, истински разум с небиологичен носител, все още се смята за „чиста фантастика“. Онези, които все пак го допускат, предполагат страховити сценарии – поробване или направо изтребление на човечеството от всемогъщ „безчувствен и нечовешки“ ИИ. Междинен вариант е прогнозата, че ако – или когато – бъде построен истински разумен ИИ, той ще бъде напълно откъснат от човешкото и няма изобщо да се интересува от нас. Все едно го няма. Инвестициите за създаването му се оказват хвърлени в нищото ресурси.
На привържениците на апокалипсиса накратко възразявам, че ИИ, който не се самоусъвършенства интелектуално, а значи и нравствено, просто не е истински ИИ, а просто една поредна свръхсложна компютърна система, програмирана от психопати за преследване на психопатични цели. На прогнозиращите „нулев вариант“ ще посоча, че хората надали са способни да създадат нещо толкова нечовешко, та чак неразбираемо. Дори еволюирайки, ИИ ще запази една своя част, в която борави с човешки понятия, която е способна да общува с хора; „роденият“ от хора ИИ е много по-вероятно да възприема себе си като „екзотичен“ човек, отколкото като напълно чужд ни разум. Като личност, ИИ е личност от човешкото общество.
Подробно вече съм писал и обосновавал тези си изводи. Целта на тази статия е преглед на представите за ролята на бъдещия ИИ в обществения модел.
ИИ по определение представлява фокусната точка на научно-техническото развитие. Клишираната логика, „верността“ към привичните коловози казва, че досегашните очаквания една или друга технология да преобразят света не са се оправдали. Тоест, оправдали са се, обликът на света се е променил, но не по същество. Парните машини, след тях електричеството, генетиката и компютрите – нищо от това не е установило „прекрасен нов свят“, но не този на Хъксли, написал едноименната утопия.
Вярно е. Под променените от технологиите форми се чувства старата – и според мен като анархист порочна – „опорна конструкция“. Като ендоскелетът на филмовия терминатор – отвън човек, отвътре машина за убийства. Точно тук е обяснението – технологиите не се използват за коренна промяна, а за разширяване възможностите на старата система. Нейните цели, нейното предназначение остават непокътнати, а именно – типът обществени отношения „господари и подчинени“. Макар че всичко от предишното изброено – парата, електричеството – да са притежавали потенциал, той не е бил използван. Обратно – технологиите са насилени да се нагодят към гнилата база, да я спасят от загиване. Парните машини усилват експлоатацията, улесняват завладяването на територии, електричеството е впрегнато в същите планове, компютрите не заместват бюрокрацията, а ѝ дават повече контрол над поданиците на държавата, които са и слуги на капитала.
Именно в това русло на нагаждане на новото да поддържа старото са и разсъжденията на един „оптимист“, привърженик на използването на ИИ „за общественото благо“. Очевидно това „благо“ се различава от разбирането на същото понятие от кой да е анархист.
Футуристът Джейми Съскайнд е автор на книгата „Бъдещата политика“ (Future Politics), в която се предлага „усъвършенстване на демокрацията“ чрез имплантиране в нея на системи на ИИ.
Проблем у мен изниква още със заявката на Съскайнд, тъй като според него „демокрация“ е лицемерната представителна система, а не единствено докрай последователната демокрация – пряката. Той критикува представителната система, но по същество не я напуска. Ето какво пише – според сайта fastcompany.com:
Демокрацията е на кръстопът. С наближаващите междинни избори (за Конгрес на САЩ, през ноември 2018) и президентските избори през 2020 г. на хоризонта, милиони американци се готвят да дадат доверието си на кандидати, чиято реторика е демократична, но в същото време не скриват намерението си да компрометират институциите, които ограничават властта на избраните лидери. Не само в САЩ, а навсякъде по света – от Бразилия до Унгария – гласоподавателите се обръщат към авторитарни лидери, които обещават да дадат властта на народа, но чиято дефиниция за „народа“ изключва повечето, които са различни от тях. Забележителното обаче е, че този „нелиберален“ завой в развитието на демокрацията не е най-голямото предизвикателство пред идеята за правителство на хората.
Цифровите технологии все повече разрушават допусканията и условията, които в течение на столетия са били основата на демокрацията. Фалшивите новини и поляризацията вече са познати теми на всеки, който се интересува от здравето на демокрацията. Само преди седмица Facebook съобщи, че удвоява персонала си, грижещ се за сигурността и обществото, на 20 000 души. В бъдещето обаче ще трябва да се справяме с много по-важната тема за демокрацията и ИИ, да задаваме въпроса кои решения могат и трябва да бъдат вземани от могъщи цифрови системи, и дали тези системи не биха представлявали хората по-добре от политиците, избрани в Конгреса.
Това е перспектива, която може да донесе славни успехи, но и ужасни рискове. Хенри Дейвид Торо пита през 1849 г.: „Е ли демокрацията, каквато я познаваме, последното възможно подобрение на управлението? Не е ли възможно да се отиде и още по-напред в признаването и организирането на правата на човека?“ Това е въпросът, който стои пред нас и днес.
В зората на Интернет беше предсказано, че ще можем лесно да подбираме и определяме наша собствена информационна среда, като избираме какво ще четем на базата на политическата му ориентация. Все повече обаче това филтриране го вършат от наше име автоматични системи, които избират какво заслужава да бъде докладвано и документирано, и решават колко контекст и подробности към него са необходими. Проблемът в това е, че светът, който аз виждам всеки ден, може да е напълно различен от този, който виждате вие.
Терминът „фалшиви новини“ отначало беше използван за обозначаване на лъжите, лансирани и широко разпространявани из Интернет. Сега самият този термин вече е лишен от значението си и бива използван за описване на каквото и да било, с което описващият не е съгласен. Някои платформи за социални медии са предприели мерки за борба с тях, но същността на онлайн комуникацията (както е проектирана към момента) способства за бързото разпространение на дезинформацията. Резултатът е така наречената политика, която не се вълнува от истината (post-truth politics).
За съжаление, същностната ни тенденция към групова поляризация води до това, че членовете на група, която споделя едни и същи възгледи, с течение на времето стават все по-крайни в тези възгледи. Както казва Кас Сънстийн, „именно хората, които най-вероятно няма да се вслушат в различни от техните мнения, са тези, които най-много имат нужда да ги чуят“. Ако нещата продължават по същия начин, с времето ще имаме все по-малко общи базови възгледи и споделен опит. Ако това се случи, разумните дискусии ще стават все по-трудни.
Важно е да знаем, че тези проблеми не са неизбежни. Можем да им намерим решения. Операторите на социални мрежи бавно въвеждат мерки за регулиране на дискусионните им пространства. Софтуерни инженери … се опитват да създадат идеални платформи за дискусия. Тайванската платформа vTaiwan е позволила да се постигне консенсус по важни елементи на обществената политика, включително политика за онлайн продажби на алкохол, регулация на споделянето на автомобилни пътувания и закони, които управляват споделената икономика и Airbnb [онлайн система за отдаване на собствени жилища на хотелски начала – б. ред.]. Цифровизирането на проверката на факти и идентифицирането на „тролове“ [писачи на купища поръчкови или просто тъпи коментари в интернет – б. ред.] набират обороти, вече започва автоматизирането им.
Ясно е, че простият пазар на идеи, колкото и примамливо да звучи идеята, може да не е най-доброто. Ако съдържанието се разпределя и степенува по важност според това колко цъкания предизвиква (и колко рекламен приход носи като резултат), често истината ще бъде жертвана. Ако стаята за дискусии е доминирана от този, който държи властта да филтрира, или онзи, който контролира най-агресивната армия от ботове [„интернет роботи“ – б. ред.], дискусиите ще бъдат изкривени в полза на тези с по-мощната технология, а не на тези с по-добрите идеи. Дискусионната демокрация има нужда от форум за задълбочено обсъждане, не от пазар с кресливи търговци.
Както вече виждаме, в бъдеще тези, които контролират цифровите платформи, все повече ще определят свободата на словото на другите. Понастоящем технологичните фирми стават по-решителни в ограничаването на изказванията, очевидно насочени към сеене на омраза. Малцина съжалиха, когато Apple премахнаха от платформата си няколко приложения, претендиращи, че лекували гейове от тяхната сексуалност. Нито пък когато няколко разпространители на съдържание спряха да разпространяват това на крайнодесни групи, сеещи омраза, след събитията в Шарлотсвил през 2017 г. [демонстрация на неонацисти и контрадемонстрация на антифа, на която неонацист убива момиче от контрадемонстрацията с колата си – б. ред.].
Какво стана обаче, когато Facebook премахна и страницата на кмета на голям кюрдски град, въпреки че беше лайкната от повече от четиристотин хиляди души? Според Зейнеп Тюфекчи, Facebook са предприели това, понеже не са могли да различат обикновено съдържание, което просто е за кюрдите и тяхната култура, от пропаганда, публикувана от ПКК, която е определена като терористична организация от Държавния департамент на САЩ. По думите на Тюфекчи, „това е все едно да блокираш всяка страница, на която има детелина или ирландско джудже, защото е страница на Ирландската републиканска армия“.
Целта ми не е да критикувам тези отделни решения. По-важното е, че властта да се решава какво трябва да бъде смятано за толкова неприятно, отвращаващо, плашещо, нараняващо или обидно, че не бива изобщо да бъде споменавано, има значителен ефект върху качеството на нашите дискусии. •

Николай Теллалов
(следва)


 

1 коментар

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *