Ако „Юлий Цезар“ беше написан тази година, Уилям Шекспир сигурно щеше да бъде обвинен, че е използвал изкуствен интелект. В пиесата непрекъснато се появява един подозрителен реторичен похват. В първо действие, втора сцена: „Вината, драги Бруте, не е в звездите, а в самите нас.“ В трето действие, втора сцена: „Не защото обичах Цезар по-малко, а защото обичах Рим повече.“ И малко по-нататък в същата сцена: „Дойдох да погреба Цезар, не да го възхвалявам.“

Тези прочути реплики съдържат може би най-разпознаваемия стилистичен тик на изкуствения интелект – изречение, което ни казва едновременно какво дадено нещо не е и какво е: „Не е X, а Y“. Щом веднъж забележите тази конструкция, започвате да я виждате навсякъде. В един от вариантите ѝ Y надгражда X: уточнява, усилва или разширява значението му. В годишния си отчет финансовата група Citizens Financial Group съобщава, че растежът на подразделението ѝ за частно банкиране е „успех не само за частното банкиране, но и за цялата компания“. В друг вариант Y измества X като по-подходящо определение. „Мишената никога не е бил човек. Мишената беше истината“, написа през март в X Майкъл Флин, бивш съветник на Доналд Тръмп.

Съществуват и конструкции от типа „Няма А, няма Б, само В“, които особено често се срещат в художествени текстове, създадени с изкуствен интелект. Изречения като „Нито чанта, нито вещи, нито броня, само аз“ подхраниха подозренията, че романът на ужасите Shy Girl е написан с помощта на AI. Тази година издателството изтегли книгата от продажба. Авторката отрече да е използвала изкуствен интелект при писането ѝ. От Citizens Financial Group по-рано са заявявали, че комуникационният им отдел „използва технологията в редица области“. Флин не отговори на молбата за коментар.

Разпространението на този похват не е просто въпрос на субективни впечатления – то може да бъде измерено. Според Barron’s употребата му в корпоративните комуникации се е увеличила повече от четири пъти между 2023 и 2025 г. Изследователите от Pangram, компания, която разработва софтуер за разпознаване на текстове, създадени с AI, изчисляват, че изреченията от типа „Не само X, но и Y“ се срещат три пъти по-често в текстове на изкуствен интелект, отколкото в текстове, написани от хора. Елиас Масрур, един от инженерите основатели на Pangram, ми каза, че всички големи чатботове – включително ChatGPT, Claude, Gemini и различни модели с отворен код – прибягват до този похват, макар и в различна степен.

Много други добре познати признаци, по които можеше да се разпознае текст на чатбот – например прекомерната употреба на английския глагол delve („вниквам“, „задълбочавам се“) – се появяваха и изчезваха, докато компаниите усъвършенстваха моделите си и отстраняваха недостатъците им. Миналата есен ChatGPT разви истинска мания по гоблини и гремлини, което наложи нова намеса: OpenAI премахна „зубраческата“ личност на ChatGPT, чието увлечение по митични същества очевидно беше заразило и останалите модели на компанията. Но конструкцията „Не е X, а Y“ не показва никакви признаци, че ще изчезне.

Преди появата на ChatGPT тази конструкция беше достатъчно незабележима, за да няма дори общоприето название. Сега всички се надпреварват да ѝ измислят име. Академични термини като „антитеза“ и „металингвистично отрицание“ описват някои нейни разновидности, но не и останалите. В имейл до мен Лауренция Романюк, продуктов мениджър в OpenAI, която отговаря за поведението на моделите, я нарече „контрастно формулиране“. Въпреки тромавостта си най-разпространеното название, на което съм попадал, е „отрицателен паралелизъм“.

Когато се използва пестеливо, отрицателният паралелизъм може да има силно въздействие. Но ChatGPT прибягва до него прекалено често, признава Романюк, и резултатът нерядко звучи шаблонно. Затова компанията търси начини да разшири стилистичния репертоар на чатбота. Междувременно, добавя тя, потребителите могат да опитат да му зададат „персонализирани инструкции“. В един форум в Reddit, посветен на писането с изкуствен интелект, потребителите обменят съвети как да прочистват текстовете на чатботовете от отрицателен паралелизъм. Един от тях предлага текстът, създаден от Claude, да се постави в друг чатбот с инструкцията той да действа като редактор, който строго забранява „отрицателните двойки“ от типа „Не беше X, беше Y“.

Една от пречките пред по-цялостното решение на проблема е, че изглежда никой не знае със сигурност защо моделите на изкуствения интелект са толкова пристрастени към отрицателния паралелизъм. Може би дори компаниите, които са ги създали, не знаят. (Anthropic и Google не отговориха на молбите ми за интервю.)

Най-простото обяснение е, че хората са ги обучили да пишат така. Големите езикови модели се създават, като най-напред се откриват закономерности в невъобразими количества текстове, написани от хора: книги, научни статии, патентни документи и най-вече съдържание от интернет. Отрицателният паралелизъм, разбира се, е присъствал в първоначалните данни за обучение. И ако оставим Шекспир настрана, известни примери не липсват. През 60-те години легендарният треньор по американски футбол Винс Ломбарди популяризира сентенцията: „Победата не е всичко; тя е единственото нещо.“ През 90-те години рекламите на една марка замразена пица настояваха: „Това не е доставка. Това е DiGiorno.“

Но данните за обучение съдържат и огромни количества лошо писане, на което компаниите за изкуствен интелект не искат чатботовете им да подражават, обясни ми Тухин Чакрабарти, преподавател по компютърни науки в университета „Стоуни Брук“, който изследва текстовете, създадени с AI. Затова моделите преминават и през така нареченото „обучение с подсилване“ – процес, при който хора оценяват отговорите им. Чрез проби и грешки чатботовете се насочват встрани от неподходящите отговори – измисляне на факти, даване на незаконни съвети, обиди към потребителя – и към онези, които получават високи оценки за полезност. Според Чакрабарти е напълно възможно човешките оценители да са давали особено високи оценки на отговорите, които съдържат конструкции от типа „Не е X, а Y“. Причината може да е, че отрицателният паралелизъм създава впечатление за нюансираност и прозорливост: изглежда така, сякаш изкуственият интелект разсъждава и постепенно преминава от едно не особено точно определение към друго, по-сполучливо.

Но дори това може да се окаже недостатъчно обяснение за удивителната честота, с която конструкцията се появява във всички големи AI модели. Няколко експерти, с които разговарях, ме насочиха към друго, още по-странно обяснение.

Макар чатботовете да са постигнали огромен напредък в способността си да извършват изследвания и да разсъждават, в основата си те продължават да бъдат машини за предсказване на текст. Те генерират отговорите си по един „токен“ – единица или откъс от текст – наведнъж, въз основа на онова, което вече е написано. При всеки следващ избор на дума се вземат предвид както статистическата вероятност тя да се появи на съответното място според закономерностите в първоначалните данни за обучение, така и вероятността този избор да доведе до отговор, който като цяло ще получи висока оценка. С други думи, моделите непрекъснато търсят равновесие между находчивия и очевидния избор на дума.

Според тази теория, когато чатботът използва отрицателен паралелизъм, той всъщност се подсигурява, като избира и двете възможности. Щом веднъж е започнал изречение, чиято цел е да характеризира нещо, най-лесният път е първо да каже какво то не е (X), а едва след това какво е (Y). Казано иначе, ако изречението започва с „Това е“, продължението „не просто“ е едновременно по-вероятно и по-безопасно от множеството възможности за пряко характеризиране на предмета. А след „Това не е просто“ останалата част от изречението също става по-лесна. Следва X – скучното, очевидно определение, което ще бъде отречено. То на свой ред подготвя последния избор, Y – малко по-ефектното определение.

Дори изследователите да успеят да установят точно защо чатботовете толкова обичат отрицателния паралелизъм, съществува още един фактор, който може да направи отстраняването му изключително трудно. „Щом едно нещо веднъж попадне в тези модели, много трудно може да бъде извадено оттам“, казва Масрур от Pangram. Причината е, че един от основните начини, по които моделите на изкуствения интелект продължават да се развиват, е чрез обучение върху текстове, създадени от други ботове. А тези текстове вероятно са пълни с отрицателен паралелизъм, който така се вкоренява още по-дълбоко в следващите поколения модели. Към това трябва да добавим и факта, че все по-голяма част от съдържанието в интернет също се генерира от изкуствен интелект. То на свой ред се превръща в материал за обучението на бъдещите поколения AI.

Освен това, както обяснява Чакрабарти, някои лаборатории вече използват изкуствен интелект вместо човешки оценители или наред с тях в процеса на допълнително обучение на моделите. Ако не се предприемат мерки, съществува риск от така наречения „колапс на модела“, при който изкуственият интелект подсилва собствените си пристрастия до такава степен, че губи връзка с човешките данни, върху които първоначално е бил изграден. „Това е изключително порочен кръг“, казва Чакрабарти. „В текста вече има отрицателен паралелизъм, а след това изкуственият интелект започва да го предпочита още повече. Стига се до момент, в който той просто вече не може да пише без него.“ Езикът на изкуствения интелект започва да поглъща собствената си опашка.

Клишетата на чатботовете може да са дразнещи, но имат и едно предимство: благодарение на тях текстовете на изкуствения интелект се различават по-лесно от човешките. Масрур казва, че макар конкретните признаци на AI писането непрекъснато да се променят, софтуерът на Pangram всъщност не ичпитва все по-големи затруднения при разпознаването им. Упоритото присъствие на конструкции като отрицателния паралелизъм може да е една от причините за това.

За човешките автори обаче цената е, че един някога въздействащ реторичен похват се е превърнал в клише, което кара написаното от тях да звучи като текст на бот. Така някои хора изпадат в неудобното положение да настояват, че не използват изкуствен интелект – просто винаги са писали по този начин. Преди да им се подиграете, помислете, че скоро и самите вие може да започнете да говорите и пишете все повече като машини. Неотдавнашно изследване на учени от Германия показва, че характерните стилистични тикове на изкуствения интелект вече се появяват все по-често и в спонтанната човешка реч. Ако тази тенденция продължи, може би отрицателният паралелизъм в крайна сметка ще престане да бъде разпознаваем белег на AI писането.

Вината, драги читатели, няма да бъде в нашите чатботове, а в самите нас.

Източник

Уил Оремъс е американски журналист, който пише за технологиите, изкуствения интелект и влиянието на цифровите платформи върху обществото. Работил е за Slate, OneZero и The Washington Post, а негови текстове излизат и в The Atlantic. В журналистическата си работа се интересува особено от връзката между технологичните иновации, обществената власт и промените в човешкото поведение.