В това яростно, саркастично и изпълнено с апокалиптични образи есе Арундати Рой разглежда изкуствения интелект като поредния, може би последен етап от колониалната история на капитализма. За нея технологичните милиардери са новите завоеватели, които превръщат човешкото знание, творчество и самия живот в суровина за своите империи. Между черния хумор и истинския ужас Рой поставя въпроса какво остава от човека, когато дори езикът, мисленето и въображението му започнат да се превръщат в корпоративна собственост.

1.

Знаменията се сипят като градушка. Мисли или потъвай. Подчинявай се или умирай. Гледай напред или оставаш назад. И ето че под съпровода на тези не особено деликатни заплахи настъпи Епохата на ИИ – Истински Идиотизъм, Истински Суперидиотизъм, Идиотизъм, който се самовъзпроизвежда лавинообразно. По дяволите, още в първия абзац вече използвах две дълги тирета. А това, както се казва, е издайнически признак. Така че може би изобщо не съм написала това есе. Ще трябва да използвате някое приложение с изкуствен интелект, за да проверите дали текстът наистина е дело на ИИ и дали аз съм действително аз, дали изобщо съм аз, или само отчасти. Вече не можете да разчитате на инстинктите си. Трябва да се доверите на Приложението. След като ИИ си присвои дългото тире, какво ли ще си помислят бъдещите поколения за Емили Дикинсън и нейната любов към този препинателен знак? Дали и нея са натъпкали в машината? Ще я обичат ли по-малко? Дали постепенно ни отнемат достъпа до самия език? И има ли вече някакво значение?

По причини, които имат повече общо с писателското самолюбие, отколкото с вярата, винаги съм била запленена от първия стих на Евангелието от Йоан: „В начало беше Словото, и Словото беше у Бога, и Бог беше Словото.“ Вярвам, че това е истина. Вярвам, че ако бъде разрушена и покварена основополагащата връзка между човека и езика, ще рухне и последната привидност на обществена сплотеност.

Изкуственият интелект нахлу с трясък в света на литературата и писатели, издатели, литературни агенти, читатели, критици, преподаватели и студенти усетиха как земята се разтваря под краката им. Днес университетските преподаватели са принудени да гледат с подозрение на студентските работи. Издателите трябва да преценяват новите автори като детективи, които оглеждат предполагаемо местопрестъпление. Трудно е да се опише какво причинява всичко това на четенето и ученето. Радостта и предизвикателството на интелектуалното усилие са отстъпили място на нещо затворено, мрачно и механично. Шангри-Ла на препарирането, където всичко, което някога е било живо, е одрано, натъпкано със слама и сега ви гледа, без да мига, със загадъчен блясък в ярките си, фалшиви очи. Сякаш гледате някого и се питате дали наистина е човекът, за когото го мислите. Или се поглеждате в огледалото, виждате собствения си образ и знаете, че това всъщност не сте вие.

С времето може да изгубим и това знание. Тогава вече няма да знаем кои сме. Нито дори дали сме.

А когато това се случи с цяло общество, с цял биологичен вид, когато вече не можем да разчитаме на инстинктите, изграждани в продължение на векове и предавани от поколение на поколение, когато престанем да вярваме на сърцата, очите и ушите си, когато изгубим способността да различаваме истината от лъжата, виртуалното от действителното, когато времето се сгромоляса и миналото, настоящето и бъдещето се смесят, когато милиони езици и култури бъдат смлени на безформена каша, когато един древен обществен договор – с всичките му ограничения и недостатъци – бъде разбит до неузнаваемост, няма ли сами да сме подготвили почвата за масова психоза?

Подобни разсъждения могат да ми навлекат обвинението, че съм станала жертва на неизбежната морална паника, която настъпва винаги когато се сблъскаме с нещо ново и непонятно – същата паника, която е предшествала Индустриалната революция или появата на компютъра. Въпросът е дали става дума само за това. Дали просто преживяваме неудобен преходен момент в еволюцията на човешкия „прогрес“? Или пред нас действително зее катастрофален разлом?

Може би трябва да се вслушаме в хората, които създават тази великолепна нова технология. Миналия месец млад служител на Anthropic, Джейкъб Коксън, напусна работа с обяснението, че съвестта му не позволява да участва в проект, който потенциално би могъл да унищожи човешкия род. Описанието на работната му среда напомняше проекта „Манхатън“, само че напомпан със стероиди. Но както знаем, този път учените са движени до голяма степен от печалбата и от надпреварата кой ще „стигне пръв“. Това, което последва след оставката на Коксън, беше объркващо. Ръководителите на най-големите компании за изкуствен интелект едва не се изпопребиха в бързината да обсъждат, оспорват или подкрепят разобличителя, който ги беше извадил на светло. Екраните ни се изпълниха с видеозаписи на тези милиардери олигарси, които със сериозни, гробовни гласове ни съобщаваха, че има немалка вероятност Машинният бог, когото в момента въздигат в божество, да сложи край на човешката цивилизация.

След като вече бяха установили върховната си власт над нашия биологичен вид, те побързаха да ни уверят, че правят всичко възможно, за да ограничат риска. Призоваха държавата да ги регулира. В този зов за помощ имаше нещо патологично. Нещо леко перверзно – атмосферата на „Вържи ме! Развържи ме!“ Дали става дума за това, или просто такава е природата на капитализма? Безпомощност пред алчността, освободена от всякакви задръжки?

Олигарсите като че ли наистина вярват в собствения си разказ за изчезването на човечеството – поне дотолкова, че са си построили бункери в най-отдалечените краища на Земята, заредени с вода, храна и боеприпаси. Само че изчезването не е онова, което продават на всички останали. (Доналд Тръмп и технологичните либертарианци открито го наричат измама.) Прогресът, славата и благото на човечеството са същината на търговската им проповед. Един от тях, Питър Тийл от Palantir, стигна дотам да нарече критиците и привържениците на регулацията „Антихрист“, който се съюзява с дявола – и така, по подразбиране, да припише божествен статут на собствената си компания и нейните амбиции. (Да, същият човек, който, попитан дали смята, че човешкият род трябва да оцелее, прочуто отговори „Ъъъъм...“, след което започна да заеква и мънка.)

Пукотевицата постепенно утихна и спорът се подреди по разделителните линии, добре познати на хората от технологичния сектор – пророци на гибелта, акселерационисти, скептици. Но когато други гласове се опитват да говорят за действителните, катастрофални щети, които индустрията на изкуствения интелект нанася още сега, те биват съзнателно пренебрегвани и заглушавани.

Любопитното е, че олигарсите изглеждат много по-спокойни в присъствието на Джейкъб Коксън, отколкото на някои други разобличители. Те не се втурнаха да защитават Мередит Уитакър, днес президентка на фондацията Signal, която напусна Google през 2019 г., след като разкритикува договора на компанията за разработване на технология за машинно зрение, предназначена за американски военни дронове. Седем години по-късно сливането между индустрията на изкуствения интелект и оръжейната индустрия вече се разиграва пред очите на всички ни. (Вижте американската атака с два последователни удара срещу девическо училище в Минаб, Южен Иран, през февруари, при която загинаха 156 души, сред тях 120 ученички. Никой не поднесе извинения, защото никой не беше виновен. Убийствата, планирани от машини, идват без вина. Същото важи и за Lavender, Gospel и Where’s Daddy? – системите с изкуствен интелект, използвани в израелската кампания за ликвидиране на бойци на Хамас в Газа, при която, според доклади на правозащитни организации, основната единица за откриване и проследяване на целите е била семейната къща.)

Не последва и вълна от олигархична солидарност, когато Тимнит Гебру, една от съвсем малкото чернокожи жени на висша техническа длъжност в Силициевата долина, беше уволнена от Google през 2020 г., след като отказа да оттегли научна статия, на която беше съавторка. Изследването разкриваше екологичната цена на обучението на големи езикови модели – включително тези на Google – и показваше как те усилват и възпроизвеждат идеологиите на бялото превъзходство и женомразството, погълнати заедно с огромните масиви от данни. Гебру предупреждаваше, че с увеличаването на мащаба на моделите и затрудняването на независимия контрол тези патологични явления само ще се задълбочават. Изводите ѝ бяха подкрепени от друга изследователка, Абеба Бирхане, съавтор на статията „За законите на разрастването на омразата в блатата от данни“.

Защо Уитакър и Гебру, с техните съвсем конкретни обвинения, тревожат олигарсите повече от пророците на всеобщото изчезване като учения, превърнал се в критик на изкуствения интелект, Джефри Хинтън, или Джейкъб Коксън? Може би защото предупрежденията на Хинтън и Коксън действат като грандиозна заря – добавят тръпка и драматизъм към общата атмосфера. В крайна сметка те подсилват демонстрацията на мощ от страна на олигарсите, което ще им бъде от огромна полза, когато компаниите им излязат на борсата, както се очаква скоро да стане. Пазарната им оценка ще зависи от това колко усъвършенствани са техните модели – а при системите за оръжия с изкуствен интелект и от това колко смъртоносни са те.

⸻ ❦ ⸻

Кои са тези милиардери, които твърдят, че държат в ръцете си властта над живота и смъртта на човечеството? Създават впечатлението, че вече са се отрекли от принадлежността си към човешкия род, а и към планетата, която наричаме свой дом. Сатири ли са? Полухора, полумашини? Нека ги наречем Циклопи – в множествено число. Онези гигантски еднооки пастири, обитаващи пещери, от гръцката и римската митология. (През XXI век пещерите им са разкошни, а овцете им са хора.)

Представете си ги като едно-единствено същество. Мутация. Циклопът има една глава и едно бледо, немигащо око, разположено на челото му, далеч вдясно от центъра. С това око той хвърля жълтеникавия си, болнав поглед върху обикновените хора и вижда единствено онова, което виждат миньорите в гора, богата на полезни изкопаеми, или строителите на язовири в могъщите, пълноводни реки. Ресурс, който трябва да бъде извлечен, натрупан и пуснат на пазара. Майната ѝ на гората. Майната ѝ на реката. Майната му на човека.

Но за разлика от мълчаливия, непохватен циклоп, когото неотдавна гледахме на кино, този Циклоп се разклонява от шията надолу в няколко свадливи тела. Те създават впечатлението, че не могат да се понасят, но щом стане дума за Края на времената – или, по-точно, за Фашизма на последните времена, ако заимстваме заглавието на великолепната нова книга на Наоми Клайн и Астра Тейлър – очевидно се разбират прекрасно.

За мнозина наблюдатели на технологичната индустрия тази оргия на Циклопа около изчезването на човечеството изглеждаше като предварително режисирано представление, предназначено да убеди все по-разгневената и неспокойна общественост колко централни, важни, незаменими и необратимо вплетени в живота на страната са компаниите за изкуствен интелект – както за американската икономика, така и за сигурността и бъдещето на американците.

Искането за държавна регулация е опит индустрията да бъде присадена към държавата, така че между правителството и корпорациите да не остане дори тънка ивица дневна светлина. Олигарсите се надяват, че тази регулаторна прегръдка ще им осигури онзи бланко-чек, от който толкова отчаяно се нуждаят. Защото необходимите им количества пари, земя, вода и енергия могат да бъдат осигурени единствено от държавата. Казано направо, онова, което действително искат, е държавно разрешение да се регулират сами. Легитимност, без да отстъпват контрола.

Подобна деликатна маневра трябва да бъде изпълнена като представление от театъра кабуки. Нужен е злодей, някакво плашило, с което да бъде сплашена все по-неспокойната общественост, а също и всяко бъдещо правителство, което може да се окаже по-малко податливо от режима на Тръмп.

Отляво на сцената влиза Китай.

За да защити Съединените щати от заплахата на възходящия Китай, Циклопът предлага на американското правителство цял арсенал от смъртоносни автономни оръжейни системи, за каквито останалите държави не могат и да мечтаят, както и фантазията за лабораторно създадени вируси и биологични оръжия, непознати досега на науката. За да държи под контрол и да принуждава към покорство неспокойното население в собствената страна, той предлага на САЩ и на други приятелски правителства системи за наблюдение и лицево разпознаване, пред които израелският шпионски софтуер Pegasus ще изглежда като детска играчка. В замяна настоява за безпрепятствено движение на капитали и обещание, че ще получи толкова земя, вода и енергия, колкото са необходими за гигантските му центрове за данни и суперкомпютри.

Преведено на пряка реч, това звучи приблизително така: ще се представяме за върха на човешкото просвещение, за управители и разпределители на човешкото знание без граници. Но всъщност ще придобием очертанията на географска карта. Ще се слеем с нашата държава, с нейната икономика, разузнавателна мрежа и апарат за сигурност, докато тя самата вече не може да ни различи от себе си. С изключение на банковите ни сметки. В замяна можеш да се преструваш, че ни регулираш, докато изпълним мисията си да колонизираме Луната и Космоса. Никакви граници, никакви страхове. После ще ритнем стълбата, която така любезно ни подаде. Дори няма да се наложи да те заменяме. Ти просто ще престанеш да съществуваш. Ние ще управляваме хората ти, градовете ти, комуникациите ти, финансовите ти системи, съдилищата, армията и полицията ти. Ако не сме ние, ще бъде Китай.

Тези призиви за държавна регулация от страна на големите американски корпорации за изкуствен интелект имат и друга цел: да затворят пътя пред конкуренцията на по-малките компании. Така че когато бъдат подписани международни договори за изкуствения интелект – а такива договори непременно трябва да има – в играта ще останат само те, шепата „регулирани“ корпорации.

Сливането между корпорациите и държавите вече е напреднало значително. Науката за изкуствения интелект може и да е нова. Но начинът, по който ни я натрапват, е стар колкото самия колониализъм. Ние в Индия имаме исторически опит с колонизирането от търговска компания. И да, собствените ни управляващи класи някога са поканили колонизаторите, точно както днес го правят американските управници. В крайна сметка Британската корона е поела контрола над Източноиндийската компания. Сега, разбира се, процесът върви в обратната посока. Голяма част от инфраструктурата на Индия принадлежи на два корпоративни конгломерата – Adani Group и Reliance Group, – които също се готвят да се хвърлят в океана на изкуствения интелект.

Циклопът се подготвя да завземе американската държава. Ето какво казва Алекс Карп, главният изпълнителен директор на Palantir: „Мисля, че основният риск за Palantir, за Америка и за света е един регресивен начин на мислене, който покварява и разяжда нашите институции.“ Той бил раздразнен от анализаторите, според които Palantir е надценена на борсата. (Искам да кажа, как изобщо можете да си въобразите, че сте в състояние да „оцените“ един Бог?) След това прибавил още малко от онзи характерен, небрежно самоуверен хумор на богаташите: „Много ми харесва идеята да взема един дрон и да пръскам с него лека струя урина, примесена с фентанил, върху анализаторите, които се опитаха да ни прецакат.“

А ето го и прочутото изказване на Сам Алтман, днес начело на OpenAI, който признава, че изкуственият интелект може би води човечеството по пряк път към ада: „... но междувременно ще бъдат създадени страхотни компании, основани на сериозно машинно обучение“. Или пък това изказване на Марк Андрийсън – свръхакселерациониста, свръхблизък до Тръмп и, изглежда, притежаващ същия свръхкоефициент на интелигентност: „Технологията трябва да бъде насилствено нападение срещу силите на неизвестното, което да ги принуди да се преклонят пред човека... Ние не сме жертви; ние сме завоеватели.“

2.

Хората днес са принудени да се справят с няколко разновидности на Апокалипсиса и съпътстващите го бедствия. Едната е ужасяващият разказ за изчезването на човечеството. Друга предвижда подчиняването ни от вид, по-интелигентен от нашия. (За да разберете какви биха били последствията, помислете какво сме причинили на останалите видове, с които споделяме планетата. В сравнение с това изчезването започва да изглежда направо привлекателно.)

А после идват страховете на хората извън технологичния свят – природозащитниците, отчаяни от въглеродния отпечатък на индустрията на изкуствения интелект; студентите и работниците, пред които се очертават масова безработица и бъдеще без перспективи; художниците, музикантите и писателите като мен, които усещат как едно центробежно завихряне изтръгва туптящото сърце от телата ни, а стоманените нишки на обществения контрол се събират в един-единствен стиснат механичен юмрук.

Как трябва да реагираме? С призиви за регулация? Как се обуздава индустрия, в сравнение с която Апокалипсис сега на Франсис Форд Копола – включително расистките му клишета – изглежда като документален филм за актуални събития?

Циклопът е полковник Курц, застаряващ бивш морски пехотинец, подлуден от жестокостите на войната, който властва над своята обезумяла, окървавена и упоена империя и над местните ѝ поданици в Сърцето на мрака, пренесено от Африка на Конрад във Виетнам на Копола. Заповедта на висшето командване на американската армия към младия офицер, изпратен да сложи край на бунта на своя събрат морски пехотинец, е недвусмислена: „Ликвидирайте го с крайна решителност.“

Какъв тогава трябва да бъде нашият лозунг? „Регулирайте с крайна решителност“? Може би. Макар че, ако трябва да бъда откровена, нямам представа какво означава това и как би изглеждало на практика.

Усещането малко напомня онзи миг преди цунамито през 2004 година. Помните ли как в Тайланд и Индонезия океанът се отдръпна от брега? Хората се втурнаха да се любуват на километри девствен плаж, внезапно разкрил се пред очите им, без да подозират, че далеч навътре в морето се надига водна стена, която скоро ще се стовари върху тях. Сега се намираме точно в този миг. Готви се да ни залее гигантска стена от глупост.

Следата от апетитни трохи по блестящия пясък ни примамва все по-навътре в океана. Пред нас се разкриват вълшебни съкровища, обсипани със скъпоценности раковини и тайни замъци, които обещават безкраен меден месец – или паричен месец, ако предпочитате. Вдигнете някоя от тези раковини и се възхитете на чудесата, които може да направи за вас. Грозното им название е „потребителски приложения“. Те могат да бъдат вашата майка, любовник, психотерапевт, лекар. За една минута могат да напишат вместо вас роман, в какъвто стил пожелаете, и да го преведат на всеки език. Могат да монтират филмите ви, да композират музиката ви, да правят проучванията ви и да съставят юридическите ви документи. Онова, което могат да постигнат в медицината, граничи с чудото. (Което няма да попречи на бедните да продължат да умират от холера, малария и туберкулоза или просто от глад и нищета.) Обещават също да ви доставят незабавно правосъдие, образование и демокрация направо през телефона. Ако пък предпочитате другата посока, могат да усъвършенстват нацисткия ви поздрав и да ви въоръжат с мисловна моторна резачка. Как да не ги обикнеш? Как да им устоиш? И защо изобщо да го правиш?

При всички приказки за изкуствения интелект и авторитаризма, не е ли вярно, че някои от най-добрите ни и най-обичани антифашистки ютюбъри и неуморни активисти – със сигурност в Индия, където общо имат десетки милиони последователи – са пламенни привърженици на изкуствения интелект? Или че бунтът на поколението Z срещу правителството на Моди, известен като „Бунта на хлебарките“, който се изля върху нас като дъжд върху изсъхнала земя, набра сила благодарение на най-възхитителните, дръзки и непочтителни видеоклипове, създадени с изкуствен интелект?

Така е.

Но когато оценката на заплахата покаже истинска опасност, този прозорец може да бъде затръшнат за миг. Докато пиша тези редове, по време на онова, което наричат „Втори сезон“ на протестите на хлебарките в Делхи, интернетът в моя квартал е спрян. При други протести, в щати като Кашмир и Манипур, индийското правителство е нареждало прекъсвания на интернет, продължили с месеци.

⸻ ❦ ⸻

Циклопът държи в безкръвните си ръце Машинния бог, още невръстен младенец, издига го пред нас и ни приканва да се поклоним. Доверете Му се, отдайте Му всичко, което имате, и в замяна Той ще ви обсипе с ослепителните Си чудеса.

Колонизацията винаги пристига с лъскави подаръци. Но изкуственият интелект е колонизация от вид, който малцина от нас изобщо могат да си представят. Той е крайната точка на капитализма.

Циклопът никога не се притеснява да изрича на глас онова, което другите предпочитат да премълчат.

Ето отново Питър Тийл, председател на Palantir: „Първоначалната идея при основаването беше да използваме технологиите, за да променим целия свят, да преобърнем световната парична система... Никога не бихте могли да спечелите избори... защото сте толкова малко малцинство. Но може би действително бихте могли едностранно да промените света, без непрекъснато да се налага да убеждавате хората, да ги молите и умолявате, след като те така или иначе никога няма да се съгласят с вас.“

А ето и Шломо Крамер, главният изпълнителен директор на израелската технологична компания Cato Networks: „Време е да ограничим Първата поправка, за да я защитим... Трябва да контролираме платформите, всички социални платформи. Трябва да подредим по степен на достоверност всеки човек, който се изразява онлайн, и въз основа на тази класация да поемем контрола върху онова, което казва.“

Това самочувствие на всепозволеност, това богатство, тази власт, тази самонадеяност – никой Бог не им ги е дал. Те са ни ги отнели.

3.

За да обучи своя Машинен бог, Циклопът трябва да изкопае, изсмуче и складира всичко, което човешката цивилизация някога е създала. Иска да прехвърли в собственост на компаниите натрупаните постижения, плодовете на съвместния труд на милиони хора в продължение на хиляди години – литература, изкуство, музика, математика, шахмат, научни изследвания, абсолютно всичко. Ще прибере това знание в своите хранилища, ще намери начини да го контролира, прочиства и политизира, ще решава кой може да има достъп до него и кой не. И срещу каква цена? Нека наречем това приватизация и корпоратизация на историята на човешките усилия, на самата цивилизация. От вас се иска само да позволите душата ви да бъде дигитализирана и превърната в данни. Онова, което ще остане от вас, ще бъде човешка тиня и помия. Промишлен отпадък.

Ето отново Сам Алтман: „Представяме си бъдеще, в което интелектът е комунална услуга като електричеството или водата и хората го купуват от нас по показанията на електромера.“

Но наистина ли той им принадлежи, за да го продават?

Аз съм една от стотиците хиляди автори, чиито книги Anthropic е използвала без разрешение, за да обучава своя голям езиков модел. В резултат на колективен съдебен иск получих известие, с което ми предлагат да ми подхвърлят по няколко хиляди долара за всяко заглавие като извънсъдебно споразумение. Това са книги, за които ми е бил необходим цял един живот, за да натрупам преживяното, и по няколко години, за да ги напиша. В известието се посочва, че компанията е изтеглила книгите от два сайта, които разпространяват пиратски PDF файлове, но „Anthropic отрича да е извършила нещо нередно“. Предлагат ми номер на претенцията и ПИН код. Сякаш някой е извадил органите от тялото ми без мое знание. Сега, след като машината вече е обучена върху моите произведения, се страхувам, че съвсем скоро, когато пиша – като самата себе си, на езика, който десетилетия наред съм се трудила да превърна в нещо неповторимо мое, – ще ми кажат, че текстът не прилича на написаното от мен. Че всъщност е дело на изкуствен интелект. Какво да правя през остатъка от живота си? Да заобикалям собствения си начин на писане? Да си намеря нов език? Как да наречем това? Добив на сърца? Добив на мозъци? Добив на животи?

В своята проницателна, остра като кама книга Империята на изкуствения интелект Карън Хао описва продължаващото безогледно разграбване на земя и природни ресурси, както и насилственото въвличане на работници от бедни страни, които срещу мизерни надници се превръщат в „събирачи на данни“, за да поддържат мечтите на Циклопа живи. Тъй като едва ли ще има достатъчно вода и електричество, за да се задоволи чудовищният енергиен апетит на неговите компании и суперкомпютри за по сто милиарда долара, Циклопът упражнява агресивен натиск за изграждането на частни атомни електроцентрали и за премахването на протоколите за безопасност. За всеки случай се наливат и милиарди долари в разработването на практически неизчерпаеми източници на термоядрена енергия, така че центровете за данни да могат да бъдат преместени в Космоса или на Луната.

Междувременно, на милата ни, овехтяла стара Земя, индийското правителство се е втурнало да приветства изграждането на още енергоемки центрове за данни. Само във Вишакхапатнам са предвидени шест, сред които и комплекс на Google за 15 милиарда долара. Разрешенията се издават практически без никакъв екологичен контрол, сякаш става дума за обикновени сгради, за складове. Това е стара традиция в отношенията между Индия и Съединените щати – дайте ни боклуците си, отровните си производства, отровната си чаша. Ние ще ги пазим като съкровище. И както в САЩ, активисти в Индия рискуват собствените си тела, за да спрат отравянето на водата и въздуха, от които зависи животът на десетки хиляди хора, обитаващи районите около планираните „складове“.

В Съединените щати активистите, които се противопоставят на центровете за данни, биват настройвани срещу строителните работници, намерили препитание в изграждането на тези гигантски съоръжения. Защитниците на местните общности са заклеймявани като предатели, финансирани от чужбина, терористи или леви екстремисти, които крадат работните места на почтените, трудолюбиви американци, наети от патриотични американски компании. Това противопоставяне на едни хора срещу други е толкова стар номер, че вони като труп под обедното слънце. Когато наблюдавах как се разиграва в Керала, южния индийски щат, откъдето произхождам, разбрах, че невинаги е полезно да гледаме на всичко единствено през поляризиращата призма на „лявото“ и „дясното“.

Ето една малка история, далечна и по място, и по време, която въпреки това може да ни научи на нещо за настоящето.

Едно от първите неща, които първото демократично избрано комунистическо правителство на Керала направи в края на 50-те години, беше да покани голяма корпорация да построи фабрика за изкуствена коприна в северната част на щата, нагоре по течението на река Чалияр, недалеч от град Каликут. Индустриалецът обеща, че фабриката ще създаде 3000 работни места, а в замяна поиска държавни субсидии за суровини, електричество и вода. Получи право да добива бамбук от околните гори срещу една рупия за тон, докато работниците, които се препитаваха от бамбука – предимно представители на коренното население, – трябваше да плащат по една рупия само за едно стъбло.

Когато фабриката започна производство, тя изразходваше за един ден повече вода, отколкото целият град Каликут, след което изхвърляше отровните си отпадъчни води направо обратно в реката. Надолу по течението водата на града се замърси. Рибата измря. Хиляди рибари изгубиха препитанието си. Когато целият наличен бамбук беше изчерпан, фабриката премина към евкалипт. Огромни площи гъста вековна гора бяха изсечени до голо, за да отстъпят място на еднообразни евкалиптови насаждения. Хиляди горски обитатели, работници, които обработваха бамбук и плетяха изделия от върбови пръчки, останаха без препитание. Но трите хиляди фабрични работници се организираха в профсъюз и започнаха да благоденстват.

Докато с течение на времето отровните фабрични изпарения започнаха да причиняват сред тях ракови и респираторни заболявания. Работниците обявиха стачка с искане за обезщетения. Индустриалецът построи болница за онкологични заболявания. Частна, разбира се. Войнствено настроените фабрични работници организираха седящи стачки и блокади, настояваха за увеличение на заплатите и други придобивки. Извоюваха си малки, постепенни победи и се върнаха на работа.

След още няколко години изчезнаха и евкалиптовите насаждения. Фабриката затвори. Работниците, които дотогава се радваха на добре платени, защитени от профсъюза работни места, обявиха гладна стачка с искане производството да бъде възобновено. То никога не беше възобновено.

Същата дилема – почти екзистенциално изпитание – стои и пред армията от „събирачи на данни“ по целия свят.

С огромното си население Индия е истинско пиршество от данни за ненаситния апетит на Циклопа. Най-бедните сред бедните, които живеят в отдалечени села и малки градчета, биват мобилизирани да доставят всякакъв вид информация, от която може да се извлече нещо ценно. Работници на строителни площадки и във фабрични цехове са принудени да работят с камери, закрепени за главите им, така че изкуственият интелект да поглъща движенията им и да обучава роботите, които скоро ще ги заменят. Работниците знаят, че копаят собствените си гробове, но не могат да откажат, защото тълпи от хора чакат да заемат местата им. А когато работните им места изчезнат, какво ще прави светът с милионите „излишни хора“ – фашисткото определение за онези, които консумират ограничените ресурси на Земята, без да допринасят за обществото? Фашистите отдавна имат собствени геноцидни идеи по този въпрос.

Циклопът – или Райхът на зубрачите, както го нарича Гил Дуран в едноименната си книга – понякога флиртува и с друг път. От време на време се заиграва с идеята за универсален базов доход. С чужди пари, разбира се. Не със собствените си. Колко модерно и антикапиталистическо звучи това! Може би самият Циклоп трябва да опита да преживее няколко години с месечна сума от универсален базов доход. Може би това трябва да бъде първата стъпка в програмата „Регулирайте с крайна решителност“.

Нека го заявим ясно и недвусмислено: всеки човек по света би могъл да получава универсален базов доход още днес, точно сега, ако богатството беше разпределено по-равномерно. За това не е необходимо да унищожаваме планетата. И между другото, кой ще разпределя този базов доход? Кой ще решава кой има право да го получава и кой не? Просто питам. Може би, ако доразвием идеята на другаря Шломо Крамер, хората ще бъдат подреждани в класации според расата, кастата, религията, пола, политическите убеждения и коефициента си на послушание?

А може би индийското правителство ще се притече на помощ. При наскоро проведената специална мащабна ревизия на избирателните списъци в страната от тях бяха заличени 130 милиона души. Почти една десета от населението. Хубава, солидна бройка. Цивилизована форма на прочистване. Тези хора няма да имат право на универсален базов доход, нито на каквито и да било други права. В щати като Асам някои от тях са наети като строителни работници, за да изграждат огромните центрове за задържане, предназначени да приютят хора като самите тях. Правителството избира народа си. Циклопът контролира правителството. Чудесно.

Има и един добронамерен демократично-социалистически вариант. Бърни Сандърс иска обществото – поне северноамериканското – да придобие пряка собственост върху компаниите за изкуствен интелект. Той предлага еднократен данък от 50 процента върху акциите на най-големите компании в сектора, с който да се създаде суверенен инвестиционен фонд под независим надзор. Предполага се, че стойността на този фонд ще достигне близо седем трилиона долара, от които всяка година стотици милиарди ще бъдат изплащани пряко на американските граждани, както и за програми в здравеопазването, жилищното строителство и образованието. (Отново: трилионите вече съществуват. Политическата воля липсва. Какво би се променило?) Но дори при този демократично-социалистически вариант данните ще продължат да бъдат изсмуквани от Глобалния юг – Индия, Африка, Южна Америка, – докато печалбите ще остават в Севера.

Разбира се, компаниите трябва да плащат за данните. Но нима вече сме стигнали дотук? Нима единствената възможност, която ни остава, е да получим акции от Апокалипсиса?

⸻ ❦ ⸻

Докато се водят толкова много спорове за това какво изкуственият интелект може и не може да направи за хората, твърде малко се говори за онова, което той причинява на хората. Изследвания предупреждават за връзка между изкуствения интелект и отслабването на човешките познавателни способности. Изглежда, че човешката интелигентност е на път да се срине в същата степен, в която изкуствената се издига. Може би неизползваните ни мозъци ще атрофират, главите ни ще се смалят, а пръстите ни ще се превърнат в извиващи се пипала за писане на промптове.

Онези от нас, които вече са изживели живота си в един друг свят, знаят какво губим. Но какво ще стане с поколението, което тепърва навлиза в зрелостта? Ще има ли то собствен език, собствени мисли, собствена скръб? Ще има ли право да се стреми към нещо? Да пада? Да се проваля? Да бъде несъвършено? Ще изпита ли непоносимата болка и екстатичното удоволствие от решаването на математическа задача или от създаването на собствено произведение на изкуството, литературата или музиката – колкото и несъвършено да е то?

Триумфът на изкуствения интелект ще бъде престъпление срещу самата човешкост. Той ще затвори мозъците ни в буркани с формалдехид. Ще унищожи света, какъвто го познаваме. Мъжете, които го пропагандират и печелят от него, прекрасно съзнават това и вече са се погрижили да си осигурят бягство в някакво друго царство.

Олигарсите очертават бойните линии високо и гордо: ние срещу тях. Без да трепнат, те ни внушават, че за да процъфтява Циклопът, човечеството може би трябва да умре. Младото поколение, което се надига на борба срещу него, разбира това. Знам, че по-рано в това есе предложих да „регулираме с крайна решителност“. Но онова, което всъщност искам да кажа за тези компании за изкуствен интелект, е следното: ликвидирайте ги с крайна решителност.

Източник

Арундати Рой е известна индийска писателка и политическа активистка. Тя добива световна популярност още с дебютния си роман „Богът на дребните неща“, последван от „Министерството на върховното щастие“. Авторка е и на множество политически есета, посветени на неравенството, национализма, държавното насилие и обществените конфликти в съвременна Индия.