Как да опазим децата от ChatGPT

Ако четете този текст, вероятно сте се потрудили, за да стигнете до него. Наистина да узнаем нещо става все по-трудно. На върха на пръстите ни е цялата информация на света, но колкото и да движим пръст по екрана, пред очите ни се повтарят едни и същи неща. Истинското познание изисква да положим усилия.

Начинът за получаване на знание се променя много бързо. Четенето е достъпно за повечето хора едва от няколкостотин години. Едва от няколко десетки имаме Интернет и уебсайтове, в които да търсим. Едва от няколко години носим интернет в джоба си. И едва от две години имаме изкуствен интелект, който да търси вместо нас в Интернет, в лицето на ChatGPT.

На пръв поглед изглежда, че с този все по-лесен достъп до знания все-повече хора ще знаят все по-полезни неща и като цяло познанието на човечеството ще нараства. Практиката, обаче, показва различен ефект.

Все-повече хора знаят все по-малко неща

В английският език съществуват две понятия – „книжна мъдрост“ („book smart“) и „улична мъдрост“ („street smart“). В българската реалност няма съмнение, че книжната мъдрост все по-рядко се намира сред по-новите поколения. Медиите редовно раздухват алармите, идващи от Министерство на образованието, което пък прилага „европейските“ нормативи, че децата ставали все по-неграмотни. Но и без тези бюрократични аларми, всеки, който има наблюдение върху образователната система знае, че днешните деца са по-разсеяни, по-трудно задържат вниманието си, по-трудно придобиват интерес и по-трудно запомнят нови знания. Причината е добре известна – съвременната информационна среда е тренирала техните умове да обработват единствено забавна, кратка и проста информация – от това се печели най-добре.

Често ни утешават, че за сметка на това децата придобиват повече улична мъдрост, която е предимно в областта на отношения между хората. Но общуването, на което се научават децата, е строго ограничено в тесните рамки на социалните мрежи, които ползват. Нещо повече, те биват дресирани да остават в рамките, зададени от невидимите собственици на мрежите, без дори да си дават сметка за това. Ако в истинския свят те биха могли да проявят креативност и да създадат по-различни социални отношения или структури, във виртуалния свят не може да бъде създадено нищо извън контрола на неговите собственици.

Сдобихме се с огромна изчислителна мощ, свързана в световна информационна мрежа, но вместо да „поумнеем“ – „затъпяхме“. Едната причината е в начина, по който е организирано обществото ни – когато всичко се прави в името на печалбата, сигурно е само, че някой ще спечели. „Тъпите“ потребители са просто страничен продукт от процеса – от „тъпи“ хора се вземат повече пари.

Това може да звучи парадоксално, но съвсем не е прецедент. Може би най-известният информационен пробив в историята е печатната преса на Гутенберг от 1440 година, която позволява писаното слово да бъде разпространявано масово. Книги като „Чук за вещиците“ („Malleus Maleficarum“ от 1487) и „Разкриването на вещиците“ („The Discovery of Witches“ от 1647) стават много популярни поради добре познати и днес причини – предлагат „тайно познание“ и „разкриване на заговори“. Чрез тях суеверните селяни са имали възможност да „узнаят“ кой точно е виновен за градушката през лятото или неудачите във войната. Резултатът от този „пробив в познанието“ са десетки хиляди наказани „вещици“. Дълги години и страдания са били нужни, за да се научат селяните и техните тогавашни „будители“, че не всичко, написано на хартия, е истина свише.

Ефектите от ИИ

Изкуственият интелект и по-конкретно технологията на големите езикови модели като ChatGPT е може би последния значим пробив в техниките за събиране на информация, с които разполагаме. Излизането му през 2022 година изглеждаше толкова мощно, че даде надежда на богаташите да заменят с роботи доскоро запазени за хората професии като писатели, сценаристи, поети, програмисти и др. Много хора с не-толкова добре платени професии, например тези в областта на техническата поддържка, вече бяха заменени от големи езикови модели, дори в България. Но за по-творческите професии роботите засега са по-скоро асистенти, отколкото заместници.

Първите мързеливци, които се опитаха да излъжат компютъра да работи вместо тях, бяха, очаквано, адвокатите. В САЩ, където царува принципът на прецедентите, няколко адвокати бяха уличени посочване на несъществуващи съдебни дела, съчинени от ChatGPT. Това ги посрами, но показа и една от слабостите на големите езикови модели – те са податливи на т.нар. „халюцинации“, т.е. самият им механизъм на генериране на реч може да изфабрикува данни, които не отговорят на действителността.

Но модерните форми на „изкуствен интелект“, които по същество са статистически справочници, имат далеч по-сериозни проблеми от халюцинациите. Преди всичко те са твърде чувствителни към данните, върху които са обучавани. Тези „интелекти“ не могат да правят „умозаключения“ и да „вадят изводи“. Те просто запомнят и преформулират информацията, която е стигнала до тях.

Цензура и контрол

Печално известен е случаят с бота Tay на Microsoft от 2016 година, който се опитваше да се дообучава, като води разговори в Twitter. За 16 часа троловете в Интернет го научиха да пише всякакви щуротии, дори „Хитлер беше прав“, след което компанията се принуди да го спре.

Но урокът беше научен и при стартирането на ChatGPT компанията OpenAI приложи специална политика за подсигуряване на политкоректността. За подробности може да попитате самия ChatGPT. Тук ще кажем накратко, че политкоректността е заложена:

в дизайна на самата система
в данните, с които е обучавана
във фините детайли на реализацията ѝ

А за адаптирането и донастройването ѝ към темите на деня се грижат специални екипи от наблюдатели и разработчици.

Всичко това може да радва душиците, които много държат да получат потвърждение от „интелекта“ за реалността на измисления свят, в който живеят. Но истината е, че картината за света, която получаваме от ChatGPT, е брутално цензурирана и то най-вече по въпросите, които засяга промяната на света. Колкото по-радикална промяна търсим, толкова по-трудно ще преодолеем цензурата.

Какво се случва?

Няма ясна статистика за използването на новите ИИ инструменти и по-конкретно ChatGPT от хората, но са сигурни поне следните тенденции:

Използва се все-повече от все-повече хора
По-младите го използват повече
Новите поколения привикват много по-лесно към използването му
Ролята му в производството на интелектуално съдържание в образователната система и медийната среда расте
Той е поредната стъпка в процеса на унификация на Интернет, в който събирането и търсенето на информация се свежда до консултирането с един единствен източник – доскоро търсачката на Google, а вече ChatGPT на OpenAI

Предвид горните фактори е ясно, че идващите поколения все-повече ще разчитат на информацията, получена чрез ИИ и ще я приемат все по-безрезервно. В комбинация с контрола върху чувствителната информация, което би могла на навреди на статуквото, можем да предвидим все по-безоблачно бъдеще на „най-добрия от всички възможни светове“.

Няма да има сериозна опасност децата да поискат нещо повече за себе си, от онова, което им е представено като възможно. При това те няма да осъзнават, че представата им е съзнателно ограничена от собствеинците на ИИ, а ще вярват, че някакъв свърхразум е изчислил, че единствения възможен свят е политкоректния.

Какво да се прави?

Като хора, заели се да променят света, трябва да намерим начин да се борим с този ефект. Разбира се, тепърва ще правим експерименти и ще трупаме опит. Но дори отсега можем да забележим, че:

ИИ е сравнително нов феномен и тепърва ще трупаме опит с използването му и последствията от него. Вероятно с времето ще се научим да го използваме все по-добре, точно както суеверните селяните са се научили да опознават света, вместо да преследват „вещици“
ИИ ще става все по-мощен и все по-използваем. ChatGPT, със своите предимства и недостатъци, е само поредната стъпка в този процес
ИИ вероятно ще остане под контрола на малцина корпорации и правителства, поне в обозримо бъдеще, поне ако се запазят настоящите тенденции в развитието му.
ИИ може да бъде много ефективен дори в борбата срещу статуквото, стига да бъдат осъзнавани мощта и ограниченията му

Предвид това, като по-знаещи, важно е да обясняваме на онези, които вървят след нас, че:

Поне засега всеки ИИ, наподобяващ силно човешкия, е под контрола на огромните американски и китайски корпорации.
Както всеки инструмент, контролиран от корпорации и правителства, той е използван да научава за нас, докато ние научаваме неща от него.
Макар да разполага с огромна информационна база, той е целенасочено манипулиран в техен интерес.
Никой ИИ не е истински разум, а още по-малко, по-силен разум от нашия собствен.
При все това можем да се възползваме от огромното количество знания, до които той има достъп, за да разширяваме своите.
Нашите знания неминуемо трябва да включват и познания как да използваме ИИ, за да вършим работата си по-ефективно.

Стари, но златни

Не бива да подценяваме и традиционните средства за информиране. В разговор (с ChatGPT) може да се добие информация по определен начин и с определено качество, но с четене на книга и изследване на въпрос – по друг начин.

Преди да се научат да ползват книги, хората са помнели словото наизуст. И до днес наизустяването е полезно за много неща и се практикура дори в училище. По същият начин ние не бива да забравяме старите методи на сдобиване със знание като четенето на книги.

Има огромно количество анти-системни автори, чието творчество е останало встрани от обучаващите съвкупности на големите езикови модели. Това познание е достъпно само с четене. Например книгите от библиотеката на ФАКБ са практически непознати за ChatGPT.

Запазването на хартиените книги и създаването електронни безплатни библиотеки е важна част от борбата с вредните ефекти от езиковите модели. Обучаването на децата да ги използват е още по-важна част. Дори да ни е трудно, трябва самите ние да изградим умението да се фокусираме върху книга с часове, за да я прочетем. И да предадем това умение на новите поколения, които идват след нас.