Роботите няма да се разбунтуват

печат
Вече не е новина, че работните места в света намаляват. Технологиите на Изкуствения интелект (ИИ) дават възможност много работници да бъдат заменени от роботи. Според някои изследвания до 20 години 80% от американските работници ще бъдат уволнени, с неясна надежда за преквалификация. Медийни звезди като Илън Мъск ни предупреждават, че „изкуственият интелект е основна заплаха, с която човечеството се сблъсква като цивилизация“. Опасенията се преплитат с надеждите за едно по-добро бъдеще, гарантирано от новите технологии. В тази статия обаче ще напуснем сферата на (не)научната фантастика и ще видим, че компютрите няма да ни помогнат, ако не си помогнем сами.

Изкуствен? Интелект?

Преди всичко, понятието „изкуствен интелект“ не е точно – засега няма реализирана машина, която специалистите в областта да определят като „интелигентна“.
Още в зората на компютърните програми се е обособила определени групи задачи, които лесно могат да бъдат решени от хора, но предварително не може да се състави ясен алгоритъм за тях. Може да се каже, че за решаването им е нужна „интелигентност“, подобна на човешката. Оттогава областта на въпросните задачи, методите за решаването им и реализациите на тези методи (същинските компютърни програми), са наричани „изкуствен интелект“. По-правилно обаче е да се каже, че това са „програми, чийто резултат наподобява резултата от човешката дейност“.
Нямаме общоприето определение за интелигентността и трудно можем да кажем кога „нещо е интелигентно“. През 1950 г. математикът Алън Тюринг, един от теоретиците на съвременната информатика, опитва да демонстрира безсмислеността на въпроса „Може ли машината да мисли?“.
За да отговорим на този въпрос, казва той, трябва да сме наясно какво е „машина“ и какво е „мислене“. Тези въпроси сами по себе си са достатъчно сложни. Затова да си представим прост тест – човек, който разговаря писмено с човек и машина. Ако не може да познае кой от двамата е машината, можем ли да кажем, че тя мисли? Според Тюринг това, че отговаря като човек, съвсем не значи, че може да мисли. Наложеното от практиката изискване – машините да наподобяват човека – обаче се оказва толкова силно, че и днес „тестът на Тюринг“ е познат като класически начин за определяне на компютърна интелигентност. Ежегодно се организират тестове с машини, които се опитват да преминат въпросния тест. Досега нито една не го е направила успешно.

Два подхода

Известни са два различни подхода за решаване на задачите от областта на ИИ – символен и изчислителен. Символният подход разчита на описание на формални правила, според които да действа машината. Правилата трябва да бъдат достатъчно сложни, за да бъде алгоритъмът достатъчно гъвкав и да се адаптира в различните ситуации. Докъм 80-те години се разработва повече този подход и съществуват комерсиални ИИ системи, които успешно го прилагат. Той изглежда по-близък до класическото програмиране, но пред него има сериозни пречки, които стигат до философски въпроси за познанието: може ли човешкото знание да бъде формализирано? Могат ли самите хора да го формализират? Може ли този формализъм да бъде моделиран в машината?
Какъвто и да е теоретичният потенциал на конвенционалния подход, някъде в края на 80-те настъпва „втората зима на ИИ“. Областта на решимите задачи спира да расте и фирмите нямат какво ново да предложат на пазара. В същото време производителността на компютрите продължава да расте главоломно, с навлизането на микрокомпютрите расте и достъпността им за обикновените хора. Постепенно изчислителният подход, който разчита на статистическо моделиране на човешкото поведение, става по-популярен. Вече един програмист може да си напише у дома малка невронна мрежа и да я пусне да се обучава върху някакви данни, без да има екип от експерти в предметната област.
Днешният бум в областта на ИИ настъпва в началото на този век, с комбинацията от огромна изчислителна мощ, огромните количества компютърно обработваеми данни и огромните корпорации, разполагащи с възможността да обединят всичко това. Оказва се, че при наличие на достатъчно мощност и данни, изчислителният подход дава по-добри резултати от символния, поне за определени задачи. Изглежда достатъчно мощен компютър, оборудван със съответните алгоритми, и получаващ достатъчно данни, може да се научи достатъчно добре да моделира човешкото поведение, когато то подлежи на количествен анализ и оценка. Понеже мощността и данните непрекъснато нарастват, нарастват и инвестициите и разработките в тази област. Тепърва ще видим дали разликите между човешкото и моделираното поведение са достатъчно малки за всички възможни области.
Преводачът на „Гугъл“ е добър пример за разликата между двата подхода. До началото на този век практически нямаше използваем машинен превод на естествен език. За да преведе нещо от английски на български, конвенционалният подход към задачата се нуждае от формален модел на английския език, формален модел на българския език и набор от правила, които да транслират единият модел в другия. Това изисква достатъчно добра теория на отделните езици и тежък експертен труд по написването на правилата. За сравнение, изчислителният подход не се нуждае от теория и експерти, а просто от голямо количество преведени текстове от двата езика, за да може по чисто статистически признак да замества английската фраза с българската, която се среща най-често в съответния контекст.
Към началото на XXI век няма експертни екипи, които да създадат система според конвенционалния подход. Има обаче налични преводи чрез документите на ЕС и ООН, а изчислителната мощ е достатъчно голяма, за да могат Google през 2006-а да пуснат своя автоматичен преводач, който работи чрез изчислителния подход. Оттогава се събират все-повече данни за преводи, а изчислителната мощ расте – съответно и преводачът се подобрява.

Ограниченията пред изкуствения интелект

Днес, когато говорим за прогреса в областта на ИИ, практически говорим за изчислителния подход. Той има своите недостатъци.
Ноам Чомски, който професионално работи в областта на опознаването на човешкото познание, дава пример с програмите, побеждаващи гросмайсторите на шах. Те играят шах много по-добре от обикновения човек, но не можем да кажем че „мислят“ или да ги наречем „интелигентни“. Програмата съдържа в себе си предварително заложен модел на шахматния свят. Тя не може да използва друг модел, да работи в друг свят, всъщност тя въобще няма смисъл извън контекста на шахмата. Човешкият мозък не се справя толкова добре с шахмата, но той може да създаде модел на шахматния свят, може да създаде програма, която да работи в този модел, може да създава други модели в други светове, може да създава правила за работа с тези светове. Подобно нещо не съществува в рамките на изчислителния метод за ИИ – той просто определя статистически кое е ефективно по отношение на крайната цел.
Теоретически можем да приложим този подход към задачата за управление на обществото. Бихме могли да си представим огромна невронна мрежа, която да контролира цялото общество така, че да увеличава максимално щастието, измерено чрез допитване до хората. Ако дотогава обаче държавата не ни е видиотила напълно, вероятно такава система би се самоунищожила, за да направи хората щастливи, като ги направи свободни.
Конвенционалният тип ИИ, който работи с явни правила, зададени от специалисти, също страда от ограничения. Ако специалистите задават добри (в смисъл на рационални и полезни за цялото общество) правила, например една ИИ система, насочена към подобряване на личното щастие на хората, би могла ефективно да работи за социална революция, дори това да не е първоначалното намерение на създателите ѝ. Самото множество от правила и ефектът от тях биха били полезни за изследването и съзнателната еволюция на обществото. Както вече видяхме обаче, подобни системи изглежда не са ефективни, поне на този етап на развитие на технологиите. Нещо повече, правилата ще бъдат толкова добри, колкото са добри специалистите, които ги пишат.
Чисто умозрително, при комбинация на двата подхода и подходящо моделиране на обществените отношения, ИИ би могъл да създаде явни правила, които да регулират по-добре отношенията между хората, един вид да напише нов морал, който да бъде научно изведен и полезен за обществото. Управниците обаче никога не биха подкрепили подобен проект.

Да обучиш интелект

Изчислителният ИИ би могъл също да бъде чудесен асистент в едно комунистическо общество, в което трябва да се оптимизира икономиката на базата на огромни количества данни. В капиталистическото общество обаче такъв „интелект“, който просто увеличава максимално очакванията на потребителя, не би могъл да бъде нищо повече от личен асистент на отделния индивид, подсказващ как да задоволи безумието си. Подобни системи и сега играят на борсата, увеличават максимално печалбата и помагат за цикличните кризи на капитализма. Други такива вероятно скоро ще помагат на хората да „оптимизират разходите си“ чрез умните телефони, но оптимизирането на разходите ще включва купуване на по-евтин салам, за да останат повече пари за търкане на билетчета.
През 2016 г. „Майкрософт“ неволно демонстрира колко податливи са ИИ системите на човешките слабости. Корпорацията задейства виртуалната личност Тай, която публикува кратки съобщения в платформата „Туитър“. Тай трябва да наподобява 19-годишно момиче и да се самообучава в процеса на общуване с истинските хора в интернет. За 16 часа неколцина „крайнодесни“ активисти го „обучават“ да хвали Холокоста и бялата раса, да не смята равините за хора и да обещава терористични атаки. От „Майкрософт“ са принудени да дезактивират робота и в новата му версия, Зо, залагат строги правила за „политическа коректност“ – роботът просто отказва да обсъжда неподходящи теми като религия и политика.

Няма място за свободна воля

В областта на компютърните науки машина, която може да изпълни всяка интелектуална дейност със способностите на човек, се нарича „цялостен изкуствен интелект“. Създаването на такава система, поне засега, среща сериозни технически трудности и няма пазарно приложение. Затова няма напреднали специални разработки в тази област.
Известните системи за ИИ са напълно контролирани от използващите ги и действат ефективно в техен интерес. И дума не може да става за „собствена воля“ или „неподчинение“. Няма как една система за ИИ да „развие“ съзнание.
Когато в системите за ИИ се залага някакъв вид еволюция или самообучение, те са подчинени на основната цел на системата – задоволяването на нуждите на клиента. Ако определена конфигурация не задоволява крайната цел достатъчно добре, тя се променя. Ако една конфигурация задоволява целта по-добре от друга, „подборът“ оставя нея и отхвърля останалите.

Няма кой да свърши работата вместо нас

Роботите могат да ни заместят успешно, що се отнася до робуване на господарите. Те не се уморяват, не грешат, не изненадват, нямат нужда от сън и нямат биологични потребности, подлежат на усъвършенстване и най-важното – нямат потребност от свобода. Никога няма да се вдигнат на стачка, бунт или да поискат да избират господарите си. Това ни поставя пред два избора.
Да опитаме да се конкурираме с роботите – да работим денонощно, да се обучаваме своевременно, и когато остареем, доброволно да легнем на бунището. Един ден, когато производството бъде изцяло приспособено да се изпълнява от роботи, тихо да измрем, както измряха воловете по селата, щом ги заместиха с машини.
Вторият избор е да се разбунтуваме. Да изземем собствеността, така че произведеното от роботите да служи на всички, а не само на онези, които днес ги притежават. Това е единственият начин за оцеляване на огромната част от човечеството. При това – оцеляване, което би му дало възможност свободно да се усъвършенства и еволюира, така че да стигне много по-далеч, отколкото бихме могли да си представим. Роботите могат да ни заместят в много неща, но няма да се разбунтуват вместо нас. Няма кой друг да свърши тази работа. •

Буревестник


 

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *