Изкуственият интелект като управник

печат
» » » продължава от миналия брой

Идеята за абсолютно неограничена свобода на словото в дигиталните платформи определено е неприемлива по начало. Още през деветнадесетото столетие философът Джон Стюърт Мил приема, че определени ограничения са необходими. Той дава примера, че е приемливо да напишеш във вестника, че „търговците на царевица докарват бедните до глад“, но не е приемливо да крещиш точно същото пред разгневена тълпа, събрала се пред къщата на търговец на царевица. …
Няма да бъде трудно да припишем вината за политиката, която не се вълнува от истината, само на цифровите технологии. Истината е, че хората имат дълга и богата история на използване на измамата за политически цели. Описанието на Ричард Хофщатер от 1963 г. за „параноидния стил“ в политическия живот – „настървено преувеличаване, подозрителност и фантазии за конспирации“ – все едно е казано за днешното време.
Погледнем ли напред в бъдещето, вече ще сме разбрали, че една от основните цели на демокрацията е да освободи информацията и познанието, съхранени в умовете на хората, и да ги приложи в политиката. Ако се замислим обаче, изборите и референдумите не създават кой знае каква съкровищница от информация… И това поставя въпроса: защо да управляваме на базата на една чавка в квадратче веднъж на четири години?
Когато съберем накуп и синтезираме големи количества от наличните данни – давайки еднаква тежест на интересите, предпочитанията и стойностите на всеки, – ще можем да създадем най-ясния и най-пълен портрет на общото благо. При този модел политиката ще може да се основава на несравнимо по-богата и точна картина на нашия живот: какво правим, от какво имаме нужда, какво мислим, какво казваме, как се чувстваме. Тези данни ще се актуализират непрекъснато, в реално време, вместо да бъдат събирани веднъж на четири или пет години. На теория те биха позволили по-добра политическа равнопоставеност, тъй като ще бъдат събирани от всички поравно, а не само от политически активните. И данните не лъжат, твърди този аргумент – те ни показват каквито сме, а не каквито мислим, че сме.
Системите за машинно самообучение са все по-способни да научават нашите възгледи от това, което казваме, и вече съществуват технологии за анализиране на общественото мнение чрез обработка на популярните позиции в социалните медии. Дигиталните системи вече предсказват индивидуалните ни възгледи с все по-голяма точност. Алгоритъмът на Facebook например на базата на само 10 лайка вече може да предсказва позициите ни по теми по-добре от колегите ни, на базата на 150 – по-добре от членовете на семейството ни, на базата на 300 – по-добре от съпругата/съпруга ни.
Логичният следващ въпрос е: каква роля ще играе за в бъдеще изкуственият интелект в управлението на делата човешки?
Ние все повече доверяваме на ИИ системи задачи с най-висока важност и към които сме най-чувствителни. От наше име те търгуват стоки и акции за милиарди долари, съобщават новините и диагностицират смъртоносни заболявания. В близко бъдеще те ще шофират нашите коли вместо нас и ние ще разчитаме да ни докарат безопасно където трябва. Вече нямаме проблеми да поверяваме живота и доходите си в (метафоричните) ръце на ИИ системи. И тъй като техните възможности ще растат лавинообразно, нашето спокойствие ще бъде все по-оправдано.
При това положение не е неразумно, да не говорим за налудничаво, да попитаме при какви условия бихме позволили на ИИ системи да участват в някои от функциите на правителството. Ако Deep Knowledge Ventures – инвеститорска фирма от Хонконг – може да повери избора на своя борд на директорите на алгоритъм, би ли било много странно в бъдещето да поверим на ИИ система управлението на местните водопроводни услуги или енергийни доставки? Време е специалистите по политическа теория да приемат сериозно идеята, че политиката – точно както търговията и много други професии – може да се окаже подходяща кариера за изкуствения интелект.
Най-първо бихме могли да използваме простички ИИ системи, за да ни помогнат да правим изборите, които демокрацията изисква от нас. Вече съществуват приложения, които ни съветват за кого да гласуваме на базата на нашите отговори на въпроси. Едно такова приложение се рекламира като „уреждане на политически авантюри“, което звучи малко като отиване на среща на сляпо с неприятно изглеждащ политик, който ви чака на бара. За в бъдеще подобни приложения ще стават все по-сложни, ще черпят информация не от въпросници, а от данните, които показват нашия реален живот и приоритети.
По-нататък може би дори бихме позволили на подобни системи да гласуват вместо нас в демократичния процес. Това би включвало делегиране на правомощия (за по-дребни или по-големи неща, според както решим) на специализирани системи, на които вярваме да определят нашите интереси по-точно, отколкото ние можем. Облагане с данъци, помощи за потребители, екологични политики, финансови регулации – всичко това са области, където сложността или необразоваността ни могат да ни окуражат да упълномощим ИИ система да вземе решението вместо нас, на базата на нейните познания за нашия опит и предпочитания. При интензивна пряка демокрация от типа, описан по-горе, делегирането на гласа ви на доверена ИИ система може да спести доста часове на ден.
Още по-напредничав модел може да включва централно правителство, което прави допитвания до населението хиляди пъти дневно, вместо по веднъж на четири години, без да се налага да му отделяме време. ИИ системи могат да отговарят на правителствени нано-гласувания от наше име с мигновена скорост и отговорите им няма да се налага да бъдат ограничавани до просто да или не. Те биха могли да съдържат условия (моят гражданин подкрепя този аспект на това предложение, но е против онзи аспект) или степени на отношение (моят гражданин е донякъде против това, но категорично подкрепя онова). Такъв модел ще може да твърди с много повече основание, че взема предвид интересите на обществото, отколкото моделът, който използваме днес.
С времето ИИ могат да вземат участие дори в законодателния процес, като помагат да се съставят предложения за закони или техни промени. Още по-нататък дори бихме могли да позволим на ИИ, легализирани като юридически лица, да биват избирани на административни и технически позиции в правителства.
ИИ системите могат да участват в демокрацията, като в същото време остават подчинени на традиционните демократични процеси като човешки обсъждания и гласувания. Също така, те могат да бъдат подчинени на етиката на човешките си господари. Не бива да е необходимо хората да предават на тях своите морални преценки, ако не желаят.
Въпреки всичко, към идеята за ИИ-базирана демокрация има и сериозни възражения. Най-първото сред тях е възражението за прозрачност: можем ли наистина да наричаме една система демократична, ако не можем да разберем основата на решенията, които се вземат от наше име? Въпреки че ИИ-базираната демокрация може да ни направи по-свободни и проспериращи в ежедневието ни, тя също така може да ни превърне в роби на системите, които вземат решения от наше име.
Колко далеч сме готови да стигнем – и какво сме готови да жертваме, – за да постигнем система за управление, която наистина представлява хората?

Последният въпрос на Съскайнд показва на мен като анархист, че авторът не е готов да стигне по-далеч от „подобряване“ на сегашната система, вместо да я прати по дяволите, защото поражданите от същността ѝ противоречия и проблеми нямат решения, а само имитация на решения. Роналд Рейгън навремето си е признал: „Правителството не решава проблеми, то ги финансира“. Замяната на живи адвокати и консултанти с ИИ системи не променя нищо, освен да прави „гражданина“ още повече оплетен в зависимости и с още по-непоклатими илюзии, че живее в „най-добрия от всички възможни светове“.
На Съскайнд дори не му хрумва, че развитието на ИИ предполага коренна промяна на начина на производство на материални блага. В променената ситуация запазването на системата на разпределение на тези блага е лишено от смисъл. Печално е, че претендиращ за ум човек е неспособен да се измъкне от орбитата на представите си, че е нужно обособено законодателство, правителство, частна собственост и съгласуване на несъгласуваеми по дефиниция търговски интереси. •

Николай Теллалов


 

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *