Сериозно за роботите-убийци

печат

В края на юли медиите разпространиха информация, че хора като Стивън Хокинг и Ноам Чомски призовават „да бъдат забранени роботите-убийци“. Верни на навика си да превръщат компотите в компютри, много журналисти нарисуваха картини на глобален апокалипсис, в който изкуственият интелект изправя срещу създателите си железни чудовища. На вратата ни обаче няма да почукат „терминатори“. Опасността е много по-прозаична и… по-реална.

Повечето известни личности, които медиите споменаха, са лаици в изкуствения интелект и роботиката. Сред 20-те хиляди подписали отвореното писмо има близо 3 хиляди специалисти в тази област. Всички те добре знаят на какво са способни съвременните оръжия, оборудвани с изкуствен интелект.

Преди всичко, роботите не са способни да се разбунтуват. Нямат съзнание, желания, интереси или други ментални качества, присъщи на човека. Думата „интелект“ описва по-скоро романтичната мечта на учените, които се опитват да решават задачи, съвсем неприсъщи за машините допреди ерата на компютрите. Компютрите нямат разум – те не могат да създават алгоритми. Просто се научиха да обработват достатъчно бързо сложните алгоритми и неимоверните количества данни, необходими за решаването на задачите от областта на „изкуствения интелект“. Вече могат да разпознават предмети, лица, дори настроения. Вече са сравнително малки, мобилни, дистанционно управляеми – все качества, изключително полезни за модерните армии, които водят предимно партизанска война с леко въоръжено местно население.

Учените говорят за „автономни оръжия, които избират и атакуват цели без човешка намеса“ и изтъкват два аргумента срещу тях. Щял да се снижи прагът пред започването на военни действия. Освен това, тъй като подобни оръжия са „твърде евтини за производство“, поради неминуемото си масово разпространение, лесно биха могли да попаднат в ръцете на „терористи, диктатори или военачалници“.

Ще побързаме да успокоим всички терористи, диктатори или вождове – не бойте се, драги, автономните оръжия няма да бъдат забранени. Всъщност някои правителства направиха грешката да обърнат внимание на писмото и побързаха да обявят, че забрана няма да има. Нещо друго обаче е добре да знаят драгите терористи, диктатори и вождове – тези оръжия просто не се разработват за тях.

За огромните армии, опериращи в световен мащаб, водещи предимно партизанска война срещу местно население, роботизираните оръжия са много по-удобни от хората – не изнасят неудобна информация, не се страхуват, не се колебаят, не изпускат нервите си, не страдат от гузна съвест, не сънуват кошмари, не получават пенсии. Именно тези армии скоро ще бъдат въоръжени с тях – много оперативни единици на терен и неколцина оператори, играещи като на електронна игра в командна зала. Дори „терорист“ или „диктатор“ да се сдобие с няколко робота, той би бил жалък аматьор в сравнение с онези, които финансират разработките и производството на автономни оръжия. Същите, които избиха 60 милиона души в последната световна война и които не спират да воюват в името на мира по целия свят.

Надеждата за ефективна забрана е нереална. Много от подписалите се учени работят по проекти за военната промишленост. От години подобни оръжия се тестват в полеви условия. В момента границата на Южна Корея се охранява от роботи Samsung, които засичат и поразяват цели ден и нощ, в дъжд и слънце, на няколко километра разстояние. Точно три цъквания с мишката делят набелязването на жертвата от застрелването ѝ. Всеки програмист ще ви каже, че тези цъквания могат да бъдат премахнати с „вдигането на един флаг в базата данни“ – т. е., ако е разработена по всички правила на изкуството, подобна система може за няколко минути да бъде настроена да стреля без човешка намеса.

Ето как биха работили технологиите, които вече са внедрени в армията и полицията:

Международната коалиция воюва с Ислямска Държава. Роботите TUGV убиват всичко живо с брада и пушка. Всичко с брада и пушка е обявено за джихадист.

Израелски антитерористичен отряд издирва предполагаем терорист от Хамас. Заедно с войниците пълзи робот на корпорация Foster-Miller, оглеждащ се едновременно на всички посоки. Няколко стрелящи терористи са обезвредени от робота.

Граничен патрул между Гърция и Турция. Нелегални бежанци. Засечени и електрошокирани от автоматичната охранителна система на PureTech, за да ги приберат патрулиращите граничари.

Бунтове в Меден Рудник, след разрушаването на незаконни цигански постройки. Бой между жандармеристи и незаконни жители. Провинилите се цигани са разпознати чрез технологията NeoFace и арестувани на улицата до края на седмицата.

Поредните протести срещу поредното подиграващо се с гражданите правителство. Стотици хиляди хора на улицата. Жандармерията използва системата Oasys, за да засече най-агресивните групички, разпръсква ги с конвенционални средства, след което арестува отделни протестиращи, определени като обществено опасни.

Когато някой е недоволен, когато се опитва да се защити срещу действията на държавата, срещу него вече ще се изправят роботите. А дали ще държат пушка, палка или спринцовка, ще зависи само от онези, които ги управляват. •

Наблюдател

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *