Започнал ли е вече ловът на изкуствените хора?

Ловът започва

В скорошна статия, публикувана от CNN, четем следното:

На 6 октомври 2026 г. зимбабвийският писател Симбараше Кундизеза получава една от най-престижните награди за африканска литература – наградата „Кейн“, придружена от 10 000 британски лири. Отличен е неговият разказ „Синият боец“. Радостта от признанието обаче не трае дълго. По-малко от седмица по-късно американското списание The Atlantic публикува материал, според който разказвачът в произведението притежава „цялата индивидуалност на чатбот“. Нещо повече: специализирана програма, наречена Pangram, определя почти целия текст като създаден от изкуствен интелект.

Кундизеза отрича категорично. Написал е разказа сам, без помощта на генеративен изкуствен интелект. Но това, изглежда, вече не е достатъчно. Организаторите на наградата започват проверка, а от писателя се очаква да предостави предишните версии на произведението си, за да бъде установено как точно е възникнало то.

Нека се замислим над тази ситуация. Един човек е написал разказ, изпратил го е на литературен конкурс, журито го е прочело, оценило и наградило. След това някой подава същия текст на компютърна програма и изведнъж всичко се преобръща. Централният въпрос вече не е дали произведението е добро, а дали човекът, който твърди, че го е написал, действително е негов автор. И за да докаже това, той трябва да се защитава срещу заключението на машина.

Случаят съвсем не е изолиран. През последните месеци подобни обвинения разтърсват литературни конкурси и издателства. Организаторите на конкурса за разказ на Британската общност например провеждат разследване и заключават, че обвинените автори не са използвали изкуствен интелект за написването на произведенията си. Подозренията обаче продължават. Издателката на престижното литературно списание Granta дори се обръща към Claude, друг изкуствен интелект, за да прецени дали един от спорните разкази е написан от машина. Получава се забележителна ситуация: машина трябва да установи дали друга машина е писала вместо човек, докато човекът трябва да доказва, че е мислещото същество зад собствените си думи.

Трудно е да не си припомним един филм отпреди повече от четиридесет години. В Blade Runner (1982) на Ридли Скот светът е населен и от изкуствено създадени същества, наречени репликанти. Те приличат толкова убедително на хората, че разпознаването им изисква специални психологически тестове. С тази задача се занимават особени служители, известни като „ловци на андроиди“. Работата им е да откриват съществата, които изглеждат като хора, но според установения ред не са такива.

Разбира се, днешните литературни скандали са далеч от мрачния свят на филма. Никой не преследва писатели по улиците, за да ги „пенсионира“, както гласи зловещият евфемизъм за унищожаването на репликантите. Но логиката на разпознаването започва да изглежда обезпокоително позната. Имаме произведения, които изглеждат човешки, технологии, предназначени да установят дали зад тях не се крие машина, и хора, които с нарастващо усърдие издирват следите на тази машина, убедени, че защитават нещо съществено. Изглежда, ловът на новите репликанти вече е започнал.

Машината, която разпознава машините

Как всъщност се установява дали един текст е написан от човек или от изкуствен интелект? На пръв поглед задачата изглежда сравнително проста. След като машините могат да произвеждат текстове, би трябвало да могат и да разпознават собствената си продукция. Оказва се обаче, че нещата са далеч по-сложни.

Програмите за разпознаване на машинно генерирани текстове обикновено не откриват някакъв скрит електронен подпис. Те анализират особеностите на езика, сравняват ги със закономерностите в човешкото и машинното писане и изчисляват вероятността текстът да принадлежи към едната или другата категория. Резултатът е статистическа оценка, а не доказателство в обичайния смисъл на думата.

Да предположим, че разполагаме с изключително надеждна програма, която погрешно определя като машинно написан само един от всеки десет хиляди човешки текста. Звучи прекрасно, нали? Но ако през нея преминат един милион произведения, сто от тях ще бъдат неправилно обявени за създадени от изкуствен интелект. Сто души ще трябва да обясняват защо машината ги обвинява в нещо, което не са извършили. И това е при допускането за почти съвършена точност.

Разбира се, проблемът не е само в статистиката. Съществува и една друга, много по-човешка особеност: ние обичаме да разобличаваме. Около машинното писане вече се е създал цял фолклор от предполагаеми издайнически белези. Прекалено гладък стил, прекалено правилни изречения, предсказуеми метафори, определени пунктуационни знаци. Особено подозрителни са конструкции от рода на „не толкова това, колкото онова“, както и добре подредените изброявания от три елемента. Иронията е, че всички тези похвати съществуват в човешкото писане отдавна. Машините не са ги измислили, а са ги научили от нас. Получава се нещо почти комично: започваме да подозираме хората, че пишат като машини, защото машините са се научили да пишат като хората.

Но комичното бързо може да стане неприятно. Представете си, че утре български писател получи голяма международна награда. Някой решава да провери произведението му с подобна програма. Резултатът гласи: 98 процента вероятност за машинен произход. Следва публикация във Facebook, няколко възмутени коментара, препечатки в сайтове, които живеят от скандали, и съвсем скоро вече се обсъжда не литературният успех, а възможната измама. Колко хора ще се заинтересуват какво всъщност означават тези 98 процента? Дали програмата е надеждна? Дали е проверявана върху български текстове? Дали подобна оценка изобщо може да бъде превърната в твърдение за конкретен автор? Не знам. Но подозирам, че мнозина ще бъдат напълно удовлетворени от самото подозрение.

Защото технологията тук не създава непременно нов човешки порок. Тя предоставя нов инструмент на един много стар. И ако доскоро обвинението изискваше поне някакви усилия за събиране на доказателства, сега може да бъде произведено за секунди. Достатъчно е да натиснеш едно копче и да публикуваш резултата. Останалото трябва да свърши обвиненият.

Презумпцията за виновност

В правото съществува един принцип, който повечето от нас познават поне по име: презумпцията за невиновност. Обвинителят трябва да докаже вината, а не обвиненият – своята невинност. Литературните конкурси, разбира се, не са съдилища. Но зад този принцип стои нещо по-общо: разбирането, че подозрението само по себе си не може да бъде доказателство.

Новите технологии създават условия за една странна подмяна на тази логика. Някой подава произведението ви на програма, тя го обявява за вероятно машинно написано и от този момент нататък вие сте човекът, който трябва да обяснява. Да показва чернови, да представя бележки, да възстановява процеса на писане, да убеждава непознати хора, че действително сте извършили интелектуалната работа, която твърдите, че сте извършили. А какво става, ако не пазите черновите си? Ако сте изтрили старите версии? Ако сте използвали изкуствен интелект само за справки, превод или редакторски предложения? Къде минава границата между допустимата помощ и недопустимата подмяна?

Още по-неприятно е, че подозрението може да оцелее дори след като проверката не го е потвърдила. Както показва случаят с конкурса на Британската общност, човешкото разследване може да приключи в полза на авторите, без това непременно да прекрати съмненията. Тук българският читател вероятно ще разпознае нещо познато. Обществата с опит от авторитарни режими знаят колко лесно обвинението придобива собствен живот. Отказът да се оправдаваш може да бъде представен като признание, опитът да се защитиш – като признак на гузна съвест, а липсата на доказателства срещу теб – като доказателство, че добре прикриваш следите си. Не става дума да сравняваме литературните скандали с политическите репресии. Разликите са огромни. Но механизмът, по който подозрението започва да се самоподдържа, е достатъчно познат.

И тук възниква още една опасност, може би по-малко видима от публичните обвинения. Представете си писател, който никога не е използвал изкуствен интелект за създаването на произведенията си, но знае, че може да бъде заподозрян. Той започва да пази всяка чернова, да избягва определени изрази, да се колебае дали да изглади някое изречение. И неусетно в творческия му процес се появява още един участник: въображаемият обвинител, пред когото един ден може да се наложи да се оправдава.

Никой още не го е обвинил и никой не му е наредил да промени начина си на писане. И въпреки това подозрението вече влияе върху поведението му. Технологията, предназначена да установява произхода на произведенията, постепенно започва да влияе върху самото им създаване. А писането изисква и пространство, в което човек има право да греши, да противоречи на себе си, да изпробва идеи, от които по-късно ще се откаже, без непрекъснато да мисли как ще изглеждат те пред някой бъдещ проверяващ. Ако започнем да ограничаваме тази свобода в името на защитата на човешкото творчество, ще сме постигнали един доста странен резултат.

Какво прави една книга човешка?

Нека сега оставим настрана литературните конкурси и програмите за разпознаване на изкуствен интелект. И да си представим нещо съвсем просто. Попадате на разказ, който ви разтърсва. Може би ви припомня нещо от собствения ви живот, което отдавна сте смятали за забравено. Може би ви кара да разберете постъпката на човек, когото досега сте осъждали. Или просто ви довежда до сълзи, без да можете да обясните съвсем точно защо. А след това научавате, че разказът е написан от изкуствен интелект. Какво се променя?

Думите са същите. Историята е същата. Вълнението, което сте изпитали, е било истинско. И все пак е напълно възможно отношението ви към произведението да се промени. Може да изпитате разочарование, дори усещане, че сте били измамени. Вероятно защото, когато четем литература, търсим нещо повече от добре подредени думи. Търсим среща с друг човек. С неговия опит, въображение, страхове, желания, с начина, по който е успял да превърне собственото си съществуване в разказ за света.

Това не означава, че писателят непременно е преживял онова, за което пише. Толстой не е бил Анна Каренина, Достоевски не е извършил убийството на Расколников, а Кафка никога не се е събуждал превърнат в огромно насекомо. Но зад всички тези измислени светове стои човешко съзнание, което се опитва да достигне отвъд границите на собствения си опит. И може би точно това търсим в литературата: не просто истории, а свидетелства за съществуването на други съзнания.

Само че тук възниква едно доста неудобно възражение. Откъде всъщност знаем какво стои зад думите? Когато четем непознат автор, ние нямаме непосредствен достъп до неговото съзнание. Разполагаме с текста, с името върху корицата и с определени представи за това как възниква литературата. Образа на човека зад произведението до голяма степен изграждаме сами. Досега наличието на човешки автор се подразбираше. Днес обаче разполагаме с технология, която може да произвежда все по-убедителни литературни текстове, без зад всяко изречение да стои отделно човешко преживяване или намерение.

И тук стигаме до въпроса, който ми се струва най-интересен в цялата история. Ако една машина може да създаде у нас усещането, че общуваме с друго човешко съзнание, какво всъщност сме разпознавали в литературата през цялото време? Действителното присъствие на друг човек или определени особености на езика, чрез които сме свикнали да си представяме това присъствие? Разбира се, оттук не следва, че изкуственият интелект притежава съзнание, чувства или вътрешен живот. Следва само, че преживяването на човешко присъствие и действителното наличие на такова присъствие не са непременно едно и също.

Това разграничение е трудно, защото засяга една от най-старите ни представи за литературата: че чрез измислените истории можем да достигнем до друг човек по начин, който обикновеното общуване рядко ни позволява. Изкуственият интелект не обезсмисля подобно преживяване, но ни принуждава да се запитаме какво точно го прави възможно. И тук има още една ирония. Машините са усвоили от човешката култура не само най-добрите ѝ образци, но и огромни количества баналност, клишета и празнословие. Когато днес обвиняваме някого, че пише „като изкуствен интелект“, понякога всъщност разпознаваме в текста му недостатъци, които човешките писатели притежават от векове. Машината ни връща собствения ни език, а ние невинаги харесваме отражението.

Възможно е дори постепенно да започнем да променяме представите си за добър стил. Да подозираме прекалената гладкост, да ценим несъвършенствата като доказателство за индивидуалност, да търсим онези дребни особености, които машините все още не възпроизвеждат достатъчно убедително. Така може да се стигне до абсурдната ситуация хората съзнателно да пишат по-несръчно, за да не приличат на машини, а машините да пишат по-несръчно, за да приличат на хора.

Разбира се, произходът на произведението продължава да има значение. Ако някой представя машинно генериран текст за собствен, нарушавайки ясно установени правила, имаме основание да говорим за измама. Но художествената стойност и произходът са два различни въпроса. Една книга не става добра само защото е написана от човек. И един текст не престава непременно да ни вълнува, когато научим, че е създаден от машина. Вероятно ще продължим да ценим и литературното преживяване, и човешкото присъствие, което предполагаме зад него. Но вече няма да можем да приемаме тяхното съвпадение за даденост.

Кой всъщност е човекът?

Към края на Blade Runner има една сцена, която отдавна е придобила почти митологичен статут в историята на киното. Репликантът Рой Бати, преследван от полицая Рик Декард, внезапно се оказва в положение да реши съдбата на своя преследвач. Декард виси безпомощно над пропастта между два покрива. Достатъчно е Бати да не направи нищо и човекът, изпратен да го унищожи, ще загине. Но репликантът протяга ръка и го спасява. Малко по-късно, в последните мигове на собствения си живот, Бати произнася знаменития монолог за нещата, които е видял и които ще изчезнат заедно с него. Спомените му ще бъдат изгубени като сълзи в дъжда.

Това е един от най-необикновените моменти във филма. Изкуственото същество, което трябва да бъде разпознато и унищожено, проявява милост към човека, изпратен да го убие. Репликантът се оказва способен на постъпка, която бихме нарекли дълбоко човешка. А ловецът, чиято работа е да поддържа границата между хората и техните изкуствени подобия, остава жив благодарение на съществото, на което тази граница отказва човешко достойнство. Филмът не ни предлага лесен отговор на въпроса какво прави човека човек. Той показва колко несигурни могат да бъдат критериите, с които сме свикнали да отговаряме на този въпрос.

Днешните езикови модели, разбира се, не са репликантите на Ридли Скот. Нямаме основания да им приписваме преживяванията, страха от смъртта или моралното съзнание на Рой Бати. Приликата е другаде: в нашето затруднение да разберем какво означава човешкото, когато все повече от неговите външни проявления могат да бъдат възпроизведени по изкуствен път.

Няма нищо странно в желанието ни да установим правила, да предотвратим измамите, да запазим някаква представа за автентичност. Но има значение и начинът, по който се опитваме да го постигнем. Защото технологиите за разпознаване не действат сами. Някой избира кого да проверява, някой тълкува резултатите, някой решава дали подозрението е достатъчно, за да постави под въпрос нечия репутация. А човешките предразсъдъци, завистта и удоволствието от разобличението няма да изчезнат само защото сме ги снабдили с компютърна програма.

Може би това е най-важният въпрос, който Blade Runner ни оставя. Не дали репликантите могат достатъчно убедително да приличат на хора, а какво става с човечността на онези, които са превърнали разпознаването и преследването им в своя професия. Защото най-тревожното в днешната ситуация не е, че машините започват да произвеждат текстове, които не можем да различим от човешките. Много по-тревожно, мисля си, е, че в стремежа си да ги разобличим можем постепенно да престанем да разпознаваме човешкото дори там, където то несъмнено присъства.

И тогава може би ще се окаже, че новите ловци на андроиди са постигнали нещо, което техните предшественици от филма на Ридли Скот дори не са могли да си представят. Те не са открили машините, скрити сред хората, но в замяна на това прекрасно са обучили хората да гледат един на друг като възможни машини.

Това есе е създадено в тясно сътрудничество между Златко Енев и ChatGPT.
Всеки от двамата автори приписва на другия по-голямата част от интелектуалните заслуги за него.

Златко Енев е български писател и издател на „Либерален Преглед“. Досега в България е публикувал седем книги (трилогията за деца „Гората на призраците“ (2001–2005), романите за възрастни „Една седмица в рая“ (2004) и „Реквием за никого“ (2011),  есеистичния сборник „Жегата като въплъщение на българското“ (2010), както и автобиографичната повест „Възхвала на Ханс Аспергер“ (2020). Детските му книги са преведени на няколко езика, между които и китайски. Живее в Берлин от 1990 г.

Книгите му могат  да се намерят в безплатни електронни издания тук на сайта.