За изготвянето на тази статия Кристофър Бийм е участвал в събирания на рационалистката общност и е разговарял с десетки рационалисти в района на залива Сан Франциско, както и в Ню Йорк.

„Ако не получа достъп до веганска храна, може да умра.“

Това заявява Зиз ЛаСота на съдията през февруари по време на изслушване на петицията за освобождаването ѝ под гаранция, проведено чрез видеоконферентна връзка в окръжния съд на Алегейни, Мериленд.

Зиз, която е известна основно с малкото си име, говори слабо и плахо, но неколкократно прекъсва съдията. „Може да умра от глад, ако не се намесите“, казва тя. „Това е по-важно от всичко друго в това изслушване.“

На пръв поглед думите ѝ изглеждат като разумно искане. Но прокурорите го възприемат като манипулация. Те твърдят, че 34-годишната Зиз не е просто поредната задържана, а лидерка на екстремистка група, свързана с поредица от убийства в цялата страна. (Официалните обвинения срещу нея са за незаконно проникване, съпротива при арест и няколко дребни обвинения, свързани с огнестрелно оръжие.) Веднъж тя вече е избягала от задържане под гаранция, във връзка с убийство в Пенсилвания. Преди това е инсценирала собствената си смърт, за да „избяга от разследване“ в друг случай, според окръжния прокурор на Мериленд. Освен това, по думите на капитан Даниел Лашър от ареста в Алегейни, Зиз е получавала веганска храна „от самото начало“.

Съдията отхвърля искането ѝ за гаранция.

В продължение на известно време Зиз е била нещо като дребна знаменитост в една нишова част от технологичната сцена в залива [на Сан Франсиско] – така наречените рационалисти: изключително интелектуална и онлайн-активна група от технологични и философски маниаци, посветени на идеята за подобряване на света чрез логическо мислене и дълбоко загрижени от възможността изкуственият интелект да излезе извън контрол и да унищожи човечеството.

През годините движението на рационалистите е привличало хора като Питър Тийл и Сам Банкман-Фрийд, и е повлияло на други, като Илон Мъск, Сам Алтман, Стивън Пинкър и Нейт Силвър. А за мнозина от младите специалисти, които създават новите AI технологии, рационализмът се е превърнал в нещо като братство и споделен език.

Зиз, която е трансджендър, започва като типичен рационалист – идеалистичен гений с мисия да спаси света – но постепенно преминава към ултрарадикална форма на тази философия. Пише утвърдително за насилието, заявява, че е готова да пожертва всичко, за да постигне целите си, и определя заплахата от AI като „най-важния проблем на света“. Сега шестима души са мъртви, а тя и няколко нейни приятели и последователи – наричани „зизианци“ – са в ареста, в очакване на съдебните си процедури. Мнозина рационалисти се тревожат, че тяхната общност ще бъде омърсена чрез асоцииране с група, която, въпреки че още не е осъдена, вече е сравнявана в медиите с фамилията Менсън^[1].

Зиз не е обвинена директно в извършването на убийствата – които включват нейния хазяин в залива, родителите на един от зизианците в Пенсилвания и агент на граничната служба в щата Върмонт – но прокурорите твърдят, че тя е основният подстрекател. Освен обвиненията в Мериленд, през юни федерално жури я обвинява и за притежание на огнестрелни оръжия и боеприпаси по време на бягство от правосъдието.

Чрез своите адвокати, Зиз отказва интервю. Нейният адвокат в Пенсилвания заявява, че Зиз е „напълно и недвусмислено невинна“ по всички повдигнати обвинения. Полицията отказва коментар относно текущото разследване.

Въпреки че сред рационалистите Зиз е маргинализирана фигура – ексцентричка сред ексцентриците, с идеи, които повечето рационалисти отхвърлят – нейната история привлича вниманието към самото движение, както от страна на външни наблюдатели, така и от самите му членове. За мнозина тя символизира тенденцията на движението да привлича амбициозни млади хора в залива, които често не могат да си изкарват прехраната, затъват в абстрактни дебати и се изолират от обществото в среда, където се толерират наркотици и полиамория.

Независимо от ролята на Зиз, както самите рационалисти, така и критиците им правят връзка между нейните вярвания и трагичния развой на събитията.

Някои твърдят, че апокалиптичната реторика около AI е по-дълбок проблем в самото движение.

„Съществува този дуализъм: или AI ще донесе утопия, като реши всички проблеми, ако бъде контролиран успешно, или ще убие всички ни“, казва Анна Саламон, директорка на Центъра за приложен рационализъм, неправителствена организация, която играе важна роля в движението. „От моя гледна точка това вече е половин крачка към динамика, типична за култовете, посветени на всевъзможни идеи за настъпващия край на света.“

Елайзър Юдковски – писател, чиито предупреждения за AI са заложени в основата на движението – определя историята на зизианците като „тъжна“.

„Много от ранните рационалисти смятаха, че е важно да се толерират ‚странни хора‘, а множество странни хора почувстваха тази толерантност и решиха, че са намерили своя нов дом“, пише той в съобщение до мен. „В края на краищата някои от тези странни хора се оказаха истински луди – и заразно луди, при по-уязвимите.“

Нейната религия е Сит

Зиз, която израства в Аляска като най-голямото от три деца, е образована вкъщи през част от детството си. Като момче в предпубертетна възраст изпада в депресия. Пубертетът ѝ се струва „зъл“, пише тя по-късно в блога си Sinceriously, и е ужасена от идеята, че ще бъде „убита – презаписана“ от новото си „аз“.

Започва да се чувства така, сякаш „светът е само хипотеза“, пише тя. Един ключов момент на прозрение за нея е осъзнаването, че дори и да не може да реши собствените си проблеми, може да направи нещо добро за другите. „Една от най-щастливите мисли, които някога съм имала“, споделя тя.

В началото на 2010-те години, докато учи компютърни науки в Университета на Аляска – Феърбанкс, където баща ѝ преподава образователен дизайн, Зиз започва да се интересува от проблема с екзистенциалния риск, или „x-risk“, свързан с изкуствения интелект. В това отношение тя е типичен за онова време млад рационалист – следи онлайн дебатите за етика и AI във форума LessWrong и поглъща фен-фикшъна на Юдковски Harry Potter and the Methods of Rationality. След като напуска магистърската програма, през 2016 г. се премества в района на залива, надявайки се да „допринесе за спасяването на света“, като работи в технологичен стартъп и дарява част от доходите си за благотворителност. Но ѝ е трудно да се задържи на постоянна работа.

За известно време намира сходни души сред рационалистите. Ходи по домашни партита, събирания и уъркшопи, организирани от Центъра за приложен рационализъм. Пише в LessWrong, коментирайки теми като логически парадокси и оптимизиране на решения.

Скоро започва хормонална терапия и започва да публикува под името Зиз – името на злодейска фигура от известна онлайн фентъзи история. Висока над 180 см, с дълги руси къдрици, често облечена в черен плащ и с постоянна употреба на фрази като „мастър джедай“, Зиз твърди, че нейната религия е Сит – тъмната страна от „Междузвездни войни“. Трудно е да остане незабелязана.

Анна Саламон, директорка на Центъра за приложен рационализъм, я среща по време на уъркшоп за AI безопасност през 2016 г. Спомня си как двете дълго се разхождали, докато Зиз се измъчвала от мисли дали усилията ѝ да предотврати появата на злонамерен AI биха помогнали – или обратно, биха довели до обратния ефект. (Реално Зиз никога не е работила в областта на изследванията на евентуални AI рискове, но е водила онлайн дебати по темата; блогът ѝ си има собствена малка, нишова публика.)

Рационалистите често обсъждат един мисловен експеримент, наречен базилискът на Роко. В него е представен един бъдещ свръхинтелект, който ще измъчва всеки, който не е помогнал при създаването му. Според тази логика инженерите трябва да се заемат веднага с това създаване, за да избегнат по-късно страдание.

Зиз не можела да спре да мисли за базилиска. „В крайна сметка започнах да вярвам,“ пише тя в блога си, „че ако продължа да се опитвам да спася света, ще бъда измъчвана до края на вселената от коалиция от всички злонамерени AI.“

Саламон ми каза, че е добила впечатление, че Зиз е искала да се чувства специална, но се е сблъскала с конкуренцията на множество други млади таланти в технологичната и AI сцена. „Зиз и нейната група дойдоха с надеждата да станат главни герои в историята – и когато разбраха, че няма да бъдат такива, си казаха: ‘Майната им – ние ще сме главните герои, така или иначе.’“

Завой към оформянето на култ

Кръгът около Зиз започва да проявява култови черти: апокалиптичен език, мислене от типа „ние срещу тях“, както и насъскване на собствените членове едни срещу други. Самата тя започва да популяризира техника на лишаване от сън, уж за да се установи колко „доброта“ има у даден човек. В един момент се отдава на радикален веганизъм. Обсебена е от една малко известна рационалистка теория, която тя тълкува така, че никога не бива да отстъпваш в който и да било конфликт.

През 2017 г. започва да набира участници в т.нар. „рационалистки флот“ – група, живееща на лодки в океана, включително и ръждясал влекач, който сами прекарват от Аляска до залива, южно от Сан Франциско. Това трябва да реши няколко проблема наведнъж: да си спестят наемите в скъпия жилищен пазар на залива, и да съберат около себе си съмишленици в мисията да спасят света. (Междувременно родителите на Зиз спират финансовата подкрепа, а тя кандидатства за помощи за безработица.)

Групата на Зиз е съставена основно от трансджендър и небинарни хора, някои от които работят или стажуват в компании като Google, Oracle и NASA. Един е напуснал Rice University, за да се посвети на безопасността на AI. Влизат в онлайн спорове с други рационалисти в платформата Discord, но аргументите им често са трудни за разбиране.

„Наричахме ги ‘неразбираемият клъстер’“, казва рационалистът и писател Ози Бренън. В едно от разискванията в Discord, членовете на групата настояват да използват псевдоними, съставени от символи, а не от букви или цифри. Когато модераторите възразяват, групата ги обвинява в трансфобия.

„Те казваха: ‚Принуждавате ни да станем четими, а транс хората са нечетими – това е важно за изразяването на моята идентичност‘“, разказва Ози Бренън, който също е транс и небинарен. Според него тази позиция съвпада с убеждението на групата, че транс жените разполагат със специфичен невротип, който ги прави особено добри в изследванията по безопасност на изкуствения интелект.

През ноември 2019 г. Зиз и няколко нейни последователи организират протест в гориста местност северозападно от Сан Франциско. Маскирани като Гай Фокс и облечени в мантии, те се появяват, за да прекъснат събитие, организирано от Центъра за приложен рационализъм. Протестиращите раздават листовки, в които се твърди, че центърът и свързаната с него организация „са ни предали“. По това време центърът се опитва да се справи с обвинения в сексуално посегателство, а сред самата общност расте усещането, че вместо да предотвратят появата на неконтролиран AI, те всъщност са ускорили идването му, като са вдъхновили прекалено много талантливи хора да работят по създаването на AI.

Някой подава сигнал до полицията, че протестиращите имат оръжие – което се оказва невярно – и на място се появяват специални части и хеликоптер. Зиз и нейната група са арестувани и обвинени, между другото, в незаконно проникване и съпротива при арест.

Според лейтенант Брандън Кътинг от шерифската служба на окръг Сонома, при разпита протестиращите са издавали странни звуци – нещо като мучене. „Нищо не разбрахме“, казва той, „и подозирам, че и самите те не го разбираха.“

Инцидентът с хазяина

Групата на Зиз постепенно се изолира от по-широката рационалистка общност. Зиз е блокирана от LessWrong, а някои организатори на събития наемат охрана, за да не допускат нея и последователите ѝ. Анонимен рационалист създава уебсайт, Zizians.info, който въвежда термина „зизианци“ и служи като предупреждение за потенциални нови членове. „Зиз е майстор манипулатор“, пише авторът, „изключително добра в това да убеждава хората в абсурдни идеи.“

В собствения си блог Зиз започва все по-често и благосклонно да пише за насилие. Изрежда категории хора, които според нея трябва да бъдат „изхвърлени през шлюза“ – термин от видеоигрите за убийства.

В началото на 2020 г. Зиз и няколко други се преместват на частен парцел във Валехо, Калифорния, където живеят в малки кемпери и се договарят да плащат на 80-годишния собственик, Къртис Линд, по 2000 долара на месец. Когато губернатор Гавин Нюсъм обявява мораториум върху изгонванията заради Ковид-19, групата престава да плаща наема.

Под натиска на съдебното дело, свързано с протеста, зизианците започват да предприемат странни действия. През август 2022 г. сестрата на Зиз съобщава, че Зиз е паднала зад борда на лодка и е изчезнала. Бреговата охрана не намира тяло. Вестник в Аляска публикува кратък некролог.

След края на пандемията групата продължава да отказва да плаща наем, затова Линд насрочва дата за изгонване с помощта на шерифската служба. Един ден през ноември, един от зизианците моли Линд да дойде и погледне течащ външен кран. Когато Линд се навежда да го огледа, припада – по негови думи, по-късно дадени в интервю.

Когато се събужда, Линд казва, че е целият в прободни рани, със самурайски меч, стърчащ от гърдите му, докато трима членове на групата се навеждат над него с ножове. Той вади пистолет и застрелва двама от зизианците, според прокурорите, след което се отдалечава, за да потърси помощ. Един от простреляните умира.

Когато полицията претърсва имота, намира Зиз, която изглежда болна. Тя е откарана в болница – и после изчезва.

– От моя гледна точка, това беше моментът, в който те „напълно превъртяха“ – казва Джесика Тейлър, рационалистка, която е била в добри отношения с някои от зизианците. Трудно било да се види как намушкването на хазяина ще помогне на човечеството да изгради безопасен изкуствен интелект – или да постигне каквато и да е смислена цел. „Сега просто изглеждат като насилствена, убийствена банда.“

В Бягство

Оттам нататък броят на жертвите започва да расте. На 2 януари 2023 г. родителите на Мишел Зайко – биоинформатичка, близка до Зиз – са открити мъртви в спалнята на дома си в Пенсилвания, застреляни в главата. Полицията установява, че Зайко притежава пистолет със същия тип и марка муниции, каквито са открити до телата, и я проследява до хотел в Честър, щата Пенсилвания.

Там намират още двама души: Зиз и Даниел Бланк – завършил инженерство в Калифорнийския университет, Бъркли, когото приятели описват като „мил, но наивен“.

Тримата са арестувани, но Бланк и Зайко са освободени, тъй като няма достатъчно доказателства, за да бъдат задържани. Зиз, за която има активна заповед за арест в Калифорния, е обвинена във възпрепятстване на правосъдието и непристойно поведение, но в крайна сметка излиза под гаранция и отново изчезва. Въпреки наличието на оръжие и възможни мотиви – в блог публикация Зайко споменава за „насилие“ от страна на родителите ѝ, а съдебните документи сочат, че може да наследи имуществото им – полицията не успява да свърже никой от групата пряко с убийствата.

Ако протестът с маските на Гай Фокс е направил рационалистите подозрителни към зизианците, то атаките във Валехо и Пенсилвания ги изпълват със страх. Някой публикува „общностно предупреждение“ срещу Зиз, призовавайки хората да се обаждат на 911, ако я видят. В LessWrong се разгаря дебат за възможните мотивации зад нападенията, включително и за начина, по който Зиз интерпретира рационалистките идеи.

Настъпва кратко затишие. Но през януари тази година насилието се възобновява: хазяинът Линд е намушкан до смърт. Прокурорите обвиняват Максимилиан Снайдър – тогава 22-годишен програмист и бивш студент в Оксфорд, свързан с групата – че е извършил престъплението, за да попречи на Линд да свидетелства срещу зизианците, които са го нападнали преди.

Три дни по-късно други двама зизианци – Офелия Баукхолт и Тереза Йънгблут – пътуват с Toyota Prius във Върмонт, когато са спрени от гранични агенти на САЩ. Служителите са ги следили няколко дни, след като хотелски служител ги е видял в черни тактически дрехи, а Йънгблут носела пистолет. На пътя, Йънгблут слиза от колата и започва да стреля по един от агентите, докато Баукхолт посяга към друго оръжие. Агентите отвръщат на стрелбата, според показания пред ФБР. Баукхолт е простреляна и умира на място; агентът от граничната служба, Дейвид Маланд, умира в болница.

Вината на рационализма?

Общността на рационалистите започва да се пита как да реагира. Убийствата изглеждат мотивирани по-скоро от желание за отмъщение и психически проблеми, отколкото някаква идеология. Но Зиз е черпила вдъхновение от рационализма и дълго време е била тясно свързана с движението – на неотдавнашна среща в Сан Франциско няколко души казват, че лично са познавали зизианци – което повдига неприятни въпроси.

„Какво можем да направим, за да предотвратим нови убийства?“, пише администратор на LessWrong в тема от януари. Някои потребители смятат, че Зиз е трябвало да бъде изключена от общността много по-рано.

На 16 февруари Зиз е арестувана отново – заедно с Бланк и Зайко – във Фростбърг, щата Мериленд, след като един собственик на имот забелязва кемперите им. Освен обвиненията за незаконно проникване, възпрепятстване и притежание на оръжие, през юни срещу Зиз са добавени и обвинения за тежки наркопрестъпления, както и стари обвинения от Пенсилвания. На съдебно заседание този месец тримата искат съвместен процес.

Много рационалисти настояват, че действията на зизианците не трябва да се използват като оценка на рационализма като цяло. Блогърът Зви Мошовиц казва в интервю, че Зиз е просто опасна личност, която се е вкопчила в рационализма. „Ако не беше открила това учение, дали нямаше да води просто друг култ?“ – пита той. – „Според това, което знам, шансът е около 55 процента.“

Но за рационалистите, загрижени за AI, зизианците са най-малкото неудобство, а в най-лошия случай – заплаха за целите на движението, защото създават асоциации между AI безопасността и екстремизма. Мнозина от рационалистите все още вярват, че AI може да унищожи човечеството. Наистина, Юдковски е съавтор на предстояща книга със заглавие: Ако някой го построи, всички ще умрем: Защо свръхинтелигентният AI ще ни убие.

Рационалистите, с които разговарях, казват, че не виждат смисъл в целенасочено насилие – като бомбардировки на центрове за данни, например – като решение на проблема. Напротив – те смятат подобни действия за контрапродуктивни, да не говорим за почти произволното насилие, вършено от зизианците.

За Бренън, писател и рационалист, здравословният отговор срещу страха от AI-апокалипсис е т.нар. „стратегическо лицемерие“: спестявай за пенсия, имай деца, ако искаш. „Не можеш да живееш така, сякаш светът ще свърши след пет години, дори и да е така“, казва той. „Инак ще полудееш.“

^[1] Семейството Менсън — култова група около Чарлз Менсън, отговорна за серия от жестоки убийства в края на 60-те години в САЩ. Използва хипи-риторика, но зад нея се крият манипулация, насилие и фанатизъм. Днес името е синоним на култово насилие, маскирано като идеологическа мисия.

Източник

Кристофър Бийм е американски журналист на свободна практика.