Книга: Далекое будущее Вселенной Эсхатология в космической перспективе
Назад: 11. Глубокое время Имеет ли оно значение?
Дальше: 13. Искусственный интеллект и далекое будущее

12. Конец игры — В громе или в шепоте?

Стивен Дж. Брамс и Д. Марк Килгур

12.1. Введение

Предмет нашей статьи — конец игр, в которые играют реальные люди. Поскольку эти игры могут влиять на жизнь человечества в этом и, возможно, будущих мирах, они обладают эсхатологической значимостью.
Игры могут быть ограниченными и неограниченными. Ограниченные игры оканчиваются по прошествии определенного времени или по совершении определенного числа ходов. В неограниченных играх таких ограничений не существует.
Является ли жизнь ограниченной игрой? Хотя твердо доказанные случаи долголетия свыше 125 лет нам неизвестны (доказанный максимум — 122 года; этого возраста достигла француженка, умершая в 1997 году), не существует никаких логических причин или научных барьеров, мешающих человеку, прожившему 125 лет, дожить и до 126. Следовательно, несправедливо говорить, что жизнь ограничена определенным сроком (например, в 125 лет). Но возможно ли растянуть этот срок до двухсот пятидесяти, тысячи или даже миллиона лет? Кажется абсурдным, что кто-то из нас может достичь такого возраста. Однако не стоит так легко отвергать возможность сохранения или обновления нашего генетического материала. Напротив, если расширить понятие жизни, включив в него жизнь наших потомков, оказывается, что в подобных сроках долголетия ничего невозможного нет.
Однако возможность того, что индивидуальное существование кого-то из нас продлится дольше 125 лет, на сегодня выглядит ничтожной. Говоря практически, разумно предположить, что наша жизнь ограничена сроком около 125 лет. Однако если мы основываем свои действия на этом ограничении, то это может повлечь за собой ходы мысли, очень сильно отличающиеся от тех, которые отражают взгляд на жизнь как на неограниченную игру.
Чтобы пояснить этот тезис, рассмотрим несколько игр, как ограниченных, так и неограниченных. Доступные для игроков варианты действий в этих играх одинаковы, однако рациональные стратегии игры очень сильно зависят от того, как игрок воспринимает игру — как ограниченную или неограниченную.
Пожалуй, наиболее реалистична игра с бесконечным горизонтом: горизонт бесконечен — никакого заранее предписанного предела не существует, однако до достижения этого бесконечного горизонта наступает конец, гарантируя, что любая часть игры конечна. Довольно интересно, что, если игроки воспринимают игру как неограниченную, это побуждает их к сотрудничеству и помогает окончить игру «шепотом»; если же они считают игру ограниченной, то не сотрудничают друг с другом и игра оканчивается «громом» (во вполне буквальном смысле, как мы покажем далее).
Не существует ни неопровержимых аргументов, ни известных нам свидетельств, доказывающих верность того или другого взгляда. Люди могут вести себя вполне рационально, предполагая, что игра с бесконечным горизонтом может внезапно оборваться, что, безусловно, означает ее конечность. Но, поскольку та же самая игра может длиться и бесконечно, невозможно точно предсказать, когда наступит этот конец.
Эсхатология постулирует, что конец неизбежен, но часто весьма туманно высказывается о том, когда он наступит. Мы полагаем, что эту неясность можно прояснить с помощью теории игр:

 

Если люди «думают вперед» (считают игру неограниченной), пытаясь понять, как следует себя вести, они будут смотреть вперед и основывать свое поведение на том, чего ждут от будущего.
Если люди «думают назад» (считают игру ограниченной), они будут смотреть назад от предполагаемого конца, определяя наилучший выбор в последнем раунде игры, затем в предпоследнем, и так далее, пока наконец не сделают первый по времени выбор.

 

Глядя вперед, человек подсчитывает ожидаемый выигрыш, основываясь на событиях, которые могут произойти, и связанных с этим вероятностях (если они известны). Глядя назад, человек рассчитывает, что, поскольку в какой-то момент игра окончится, ему необходимо сделать рациональный выбор до этого момента, проследив последствия своих действий и реакций вплоть до конца игры путем процесса, называемого обратной индукцией. Теодор Соренсен, рассказывая о действиях Исполнительного Комитета (Excom) во время Карибского кризиса в октябре 1962 года, описывает это так:

 

Мы обсуждали, какова может быть советская реакция на любое возможное действие США, какой реакцией нам придется ответить на советскую реакцию, и так далее, стремясь проследить каждый из этих путей до их финальной точки (цит. по: [8], с. 188).

 

Во время Карибского кризиса многие ожидали, что между двумя сверхдержавами разразится ядерная война, что приведет их жизнь и существование всего нашего мира к скорому и неизбежному концу. Однако тринадцать дней спустя кризис утих — и жизнь для многих людей восстановила свой неограниченный характер.
Разумеется, подобные события в мире людей едва ли способны повлиять на существование вселенной. Вселенная представляется вполне безличным единством, хотя в ней и обитают люди, способные к рациональным размышлениям и действиям.
Лучше понимая, как люди воспринимают свои игры и играют в них, мы, возможно, сумеем понять, как вселенная (возможно, обладающая некоей рациональностью, даже если ее поведением не управляет никакое конкретное существо) движется к своему конечному состоянию [10]. Говоря на более личном уровне, эсхатологическая точка зрения, предполагающая, что игры ограниченны, может оказать большое влияние на наше поведение в этих играх. Говоря о различии между ограниченными и неограниченными играми, начнем с простой гипотетической игры, а затем будем постепенно изменять ее правила, пока в конце концов, не получим игру с бесконечным горизонтом.

12.2. Последовательная триэль

Вообразим себе троих игроков, А, Б и В, расположенных в углах равностороннего треугольника. У каждого из них револьвер, заряженный одной пулей. Они участвуют в триэли, то есть дуэли на троих.
Предположим, что каждый из игроков — идеальный стрелок и в любой момент может застрелить любого другого игрока. Порядок ходов не установлен, но ходы делаются последовательно: игроки не могут стрелять одновременно. Следовательно, если пуля выпущена, результат хода становится известен всем игрокам до следующего выстрела. Наконец, предположим, что каждый игрок мысленно сортирует возможные исходы игры от лучшего к худшему таким образом: (1) выжить одному; (2) выжить вместе с одним противником; (3) выжить вместе с двумя противниками; (4) не выжить, но уничтожить всех противников; (5) не выжить, но уничтожить одного противника; (6) не выжить и не уничтожить никого. Таким образом, наилучший исход — единственному выжить, наихудший — единственному умереть.
Кто же кого убьет (и убьет ли вообще)? Нетрудно заметить, что рациональный исход — исход № 3, в котором никто из игроков не стреляет и все остаются живы. Но предположим, что А стреляет в Б, надеясь для себя на исход № 2, в котором выживут он и В. Лучший исход для А — выжить в одиночку — теперь невозможен: В не станет стрелять в себя. Напротив, предпочитая для себя исход № 1 исходу № 2, он выстрелит в безоружного А — и останется единственным выжившим.
Таким образом, А попадает в финал №5, в котором он сам и один из его противников (Б) убиты, а второй противник (В) выжил. Чтобы избежать такого исхода, А не должен стрелять первым; по той же причине не должен стрелять и никто из его противников. Следовательно, стрелять не будет никто: это приведет к исходу № 3, в котором все останутся живы. Более того, двум игрокам, например А и Б, нет смысла даже сговариваться друг с другом и обоим стрелять в В. Если даже они об этом договорятся, кому-то из них все равно придется стрелять первым — и, поскольку каждый из партнеров предпочитает исход № 1, тот, кто не стрелял, затем предаст и выпустит свою сбереженную пулю в легковерного партнера.
Следовательно, предвидя неблагоприятный результат стрельбы или сговора, никто из игроков ни стрелять, ни сговариваться не станет. Таким образом, если ходы делаются последовательно, выживают все игроки и мы получаем исход № 3.
Такой образ действий разумен и в триэли с бесконечным горизонтом, которую мы обсудим в конце следующего раздела. Однако в такой триэли возможна и иная, столь же рациональная стратегия. И она предвещает зловещий исход, демонстрируя, каким образом конфликты между людьми, группами людей, государствами, а возможно, и более крупными формами во вселенной могут приводить к смерти и разрушению.

12.3. Одновременные триэли

12.3.1. Один раунд

Теперь правила не позволяют игрокам делать свой выбор последовательно, одному за другим, так, что последующие могут корректировать свой выбор на основании действий первых. Вместо этого все трое должны одновременно принять решение: стрелять или не стрелять, и если стрелять, то в кого, не зная, что собираются делать другие (то есть возможности общаться друг с другом или координировать свои действия у них нет). В жизни это обычная ситуация: очень часто нам приходится действовать, не зная, что в этот момент делают другие.
В такой ситуации рациональный выбор каждого игрока — стрелять в противника. Повлиять на собственную судьбу игрок не может; но может хотя бы вывести из строя одного из противников и тем улучшить свое положение независимо от того, выживет ли он сам.
Если каждый игрок стреляет в случайную мишень, легко понять, что у каждого из них есть 25–процентный шанс выжить. Возьмем игрока А: его может застрелить Б, или В, или они оба одновременно (три возможности), или же Б и В могут выстрелить друг в друга (одна возможность). В целом имеется 75–процентная вероятность выживания одного из игроков (А, Б или В) и 25–процентная вероятность, что не выживет никто (не будет двух игроков, выстреливших в одного противника).
Исход: стрельба неизбежна, выживших — один или ни одного.

12.3.2. n раундов (n2 и известно)

Предположим, что в первых n - 2 раундах никто не стрелял. Далее мы покажем, что в раунде (n - 1) по меньшей мере у двух игроков появляются рациональные основания для выстрела.
Для начала рассмотрим ситуацию, в которой противник убивает А. Разумеется, А выгоднее всего стрелять: он ведь так или иначе будет убит. Более того, ему выгоднее стрелять в того противника, в которого не стреляют ни Б, ни В (а такой обязательно будет хотя бы один).
Теперь предположим, что А никто не убивает. Если Б и В убивают друг друга, у А нет причин стрелять (хотя выстрел ему не повредит). Если один из противников, например Б, воздерживается от выстрела и В его убивает, самое разумное для А — тоже не стрелять, поскольку теперь он может уничтожить В в следующем раунде. (Обратите внимание, что В не угрожает А — свою единственную пулю он уже истратил.) Предположим, что от выстрелов воздерживаются и Б, и В. Если А стреляет в своего противника, например в Б, то в n–ном раунде В убивает А. Но, если А тоже воздерживается от выстрела, игра переходит в n–ный раунд и, как мы обсуждали ранее, у А остается 25–процентный шанс выжить. Таким образом, если не стреляет никто, для А разумнее всего тоже не стрелять.
Воздерживается ли игрок от стрельбы на протяжении (n-1) раундов или нет (та или иная стратегия может быть лучшей, в зависимости от того, что делают другие игроки) — в n–ном раунде, при условии, что имеется больше одного выжившего и, как минимум, у одного игрока остается пуля, разумнее всего стрелять. Однако предвидение неизбежной стрельбы в n–ном раунде может заставить игроков «развернуть» свои стратегии уже в первом и втором раундах.
Исход: стрельба неизбежна, выживших — один или ни одного.

12.3.3. п раундов (п неограничено)

Новый поворот сюжета: в такой игре рациональным выбором является отказ от стрельбы всех игроков во всех раундах, в результате чего выживают все трое. Как это может произойти? Здесь применим уже известный аргумент: «Если в тебя выстрелили — постарайся хотя бы сам кого-нибудь застрелить». Но даже если вы, предположим, А, а Б стреляет в В, наилучший выбор для вас — убить Б, оставшись единственным выжившим (исход № 1). Как и в предыдущих играх, независимо от того, стреляют в вас или нет, лучший выбор для вас — в первом же раунде застрелить того, кто не стал мишенью другого вашего противника.
Но теперь предположим, что Б и В воздерживаются от выстрелов в первом раунде, и рассмотрим ситуацию А. Стрелять в противника в первом раунде для А неразумно, поскольку в следующем раунде его застрелит оставшийся противник (а если n неограничено, следующий раунд будет всегда). Однако, если все трое не будут стрелять и продолжат поступать так же в последующих раундах, все они останутся живы. Хотя это и не «лучшая» стратегия для всех ситуаций, возможности выживания при неограниченном п повышаются.
Исход: выживших может быть нуль, один (А, Б или В) или трое, но не двое.

12.3.4. Бесконечный горизонт

Эта триэль — вариант предыдущей ситуации (раздел 12.3.3), однако включающий в себя более реалистическое условие. А именно: по окончании раунда i и всех последующих раундов происходит случайное событие, определяющее, продлится ли триэль еще, как минимум, на один раунд (с вероятностью pi в конце раунда i) или окончится немедленно (с вероятностью 1 — рi). Таким образом, вероятность, что триэль окончится после к раундов равна р1, р2… рk-1 (1 — рk) Триэль ограничена в том и только том случае, если рi для какого-то раунда i равно нулю.
Если триэль не ограничена (то есть имеет бесконечный горизонт), она моделирует игры, которые, как и сама жизнь, — не длятся вечно. Мы не можем сказать, в какой точке остановится эта игра, однако знаем, что продолжаться бесконечно она не будет. В таких обстоятельствах, если рi в каждом раунде i достаточно высоко, может быть рациональным выбором не стрелять вообще (Brams и Kilgour [6] показывают, что то же верно для последовательной триэли с установленным порядком ходов). Однако структура таких игр предполагает ожидание, что через несколько раундов триэль будет иметь какой-либо определенный исход. Например, если для всех i рi = 0,51, существует вероятность 1 — (0,51)20 = 0,9999986, что после двадцати раундов игра окончится. Поэтому эффективная стратегия — думать о ней как об игре с n раундами (с известным n), как в ситуации, описанной в 12.3.2, поскольку имеется лишь немногим более одного шанса на миллион (то есть вероятность 0,0000014), что игра не закончится к двадцатому раунду.
Рассматривая окончание игры как неизбежность и применив рассуждение, описанное в разделе 12.3.2, игроки начнут стрелять друг в друга в первых двух раундах, в результате чего останется, самое большее, один выживший.
Исход: количество выживших зависит от того, рассматривается ли триэль как ограниченная (выживает, самое большее, один игрок) или как неограниченная (при достаточно высоком pi могут выжить все трое).

12.4. Повесть о двух будущих

Наш анализ триэли с бесконечным горизонтом показывает, что возможен конфликт между двумя возможными будущими:

 

1. Каждый процесс должен окончиться в какой-то определенной точке (например, продолжительность человеческой жизни имеет верхний предел, предположим, 125 лет).
2. Точное время конца непредсказуемо (то, что 125–летний человек доживет до 126, быть может, крайне маловероятно, но не невозможно).

 

Будущее № 1, в котором игра ограничена, всегда ведет к перестрелке в одновременной триэли; но будущее № 2, в котором игра не ограничена, может обойтись без стрельбы.
В сущности, нечто подобное будущему № 2 считается необходимым для достижения сотрудничества в играх, подобных многоходовой «дилемме заключенных» (ДЗ). Если число раундов п известно, то, согласно теории, в многоходовой ДЗ игроки будут играть друг против друга, так же как в одноходовой и п–ходовой (с известным п) одновременных триэлях. Однако как экспериментальные результаты, так и реальные примеры многоходовой ДЗ демонстрируют довольно частое сотрудничество, что, согласно теории, может происходить, когда «тень будущего» достаточно длинна. Кроме того, сотрудничество может быть рациональным даже в одноходовой ДЗ и других играх, например «цыпленок», если правила игры позволяют предсказывать ее ход согласно «теории движений» (Brams, [5]) или другим вариантам стандартной теории игр.
В более общем случае поддержание сотрудничества возможно лишь при достаточно высоком уровне надежды — разумного ожидания, что сотрудничество продолжится и в будущем. Если эта надежда угасает или стремится к угасанию, от рациональных игроков разумно ожидать отказа от сотрудничества. В играх типа ДЗ или «цыпленка» такая игра часто оканчивается конфликтом, хотя в других играх это не обязательно.
В описанном нами примере исход № 3 в триэли с бесконечным горизонтом сочетается с будущим № 2, а исходы №№ 4 и 5 — как с будущим № 1, так и с будущим № 2. Многие игроки в реальном мире, как видно, предпочитают будущее № 2. К таким игрокам относятся США, Россия и Китай: на протяжении уже более чем поколения все эти страны обладают ядерным оружием, однако не начинают «триэли», применяя его друг против друга.
То же самоограничение проявилось в неиспользовании отравляющего газа во время Второй мировой войны: отказ от этого оружия был связан как с ужасными воспоминаниями о Первой мировой войне, так и со страхом возмездия. Напротив, боснийские сербы, босняки–мусульмане и хорваты в бывшей Югославии в начале и середине 1990–х годов вовлеклись в весьма разрушительную триэль, отражающую ограниченность будущего № 1.
Сербы нанесли эффективный первый удар, очевидно, полагая, что сумеют быстро захватить территорию и тем обеспечить себе большое преимущество. Однако после первых побед дела у них пошли не так гладко из-за реакций других игроков — не только участников изначального конфликта, но и вновь вступивших в игру, например НАТО, особенно после эскалации Косовского конфликта в 1998 году.
На наш взгляд, исход был бы не столь драматичен, если бы игроки не воображали себя способными продумать все ходы по уничтожению друг друга, отсчитывая назад от некоей конечной точки. В самом деле, наши результаты позволяют предположить, что игроки проявляют меньше агрессии, когда будущее представляется им туманным — как в триэли с бесконечным горизонтом; и это делает предсказания о количестве раундов игры и даже о верхнем пределе этого количества довольно-таки опасными. Как ни странно, чтобы мы могли надеяться на будущее, оно должно быть от нас скрыто.
С другой стороны, к сотрудничеству побуждает и последовательная триэль с предопределенной очередностью выбора. Как мы уже показали, если кто-то из игроков — А, Б или В — решит выстрелить первым, этим он подпишет себе смертный приговор: его убьет тот, кто останется в живых. В этом случае к сотрудничеству побуждает не туманность будущего, а его ясность — неотвратимость возмездия.

12.5. Заключение

Ограниченная и неограниченная игра воплощают в себе два различных эсхатологических подхода. Предполагая, что будущее бесконечно, люди, возможно, начинают вести себя по отношению друг к другу более ответственно, ибо знают, что завтра их может постичь возмездие за сегодняшние недобрые деяния. Чтобы поддержать себя, они могут стараться выработать себе репутацию, например, придерживаясь определенных моральных принципов. Напротив, те, чье видение будущего краткосрочно и ограниченно, более склонны к безответственному и даже аморальному поведению.
Важная интеллектуальная задача — разработать установления, делающие разрушительное поведение невыгодным. Но как представить будущее бесконечным и внушить людям уверенность, что социальная машина не может внезапно рухнуть, пока не ясно.
Мы полагаем, что наилучшим механизмом для этого является мировоззрение, предполагающее (или даже твердо обещающее) день воздаяния для тех, чье поведение вопиюще отклоняется от норм честной игры. Возвращаясь к примеру Югославии: едва ли участники конфликта, совершившие самые отвратительные преступления, ожидали вмешательства Международного трибунала и возможного уголовного суда. А если бы понимали, что такое возможно, подумали бы дважды.
Так же и многие террористы, по–видимому, надеются на безопасные убежища, откуда их не выдадут. Насколько международные нормы правосудия не только допускают, но и твердо устанавливают неотвратимость наказания за серьезные преступления без срока давности, независимо от государственных границ, настолько проблематичным становится для участников конфликта первый выстрел.
При отсутствии уверенности в будущем наказании помочь предотвратить нежелательное поведение могут и те установки, которые затемняют будущее и затрудняют предсказания. Эти установки весьма разнообразны: от демократии, с неизвестным исходом выборов и другими ее превратностями, до системы взаимного ядерного сдерживания, предполагающей благой, хоть и неопределенный исход для союзников в случае нападения агрессора.
Вполне возможно, что эти же установки или нормы способны ввести в действие силы, вознаграждающие за ненасильственное поведение: в этом случае их роль будет аналогична предотвращающей роли третьего игрока в триэли. Триэль, представляющая собой чрезвычайно упрощенную социальную модель, верно схватывает, однако, важнейшую черту социального поведения — способность третьей стороны играть важную роль в смягчении конфликтов. Присутствие третьего, по–видимому, смягчает взаимное напряжение, возникающее между двумя игроками и часто находящее себе исход в войне на истощение. По сути, третий игрок обеспечивает механизм равновесия, помогающий поддерживать надежду независимо от того, туманно или ясно будущее.

Литература

1. Axelrod, R., The Evolution of Cooperation (Basic Books, New York, 1984).
2. Bossert, W., Brams, S. J., and Kilgour, D. M., «Cooperative vs. Non-cooperative Truels: Little Agreement, but Does That Matter?» in Games and Economic Behaviour (forthcoming).
3. Brams, S. J., Biblical Games: Game Theory and Hebrew Bible (MIT Press, Cambridge, Mass., 1980; rev.ed., 2002).
4. Brams, S. J., Superior Beings: If They Exist, How Would We Know? Game-Theoretic Implications of Omniscience, Omnipotence, Immortality, and Incomprehensibility (Springer-Ferlag, New-York, 1983).
5. Brams, S. J., Theory of Moves (Cambridge University Press, Cambridge, 1994).
6. Brams, S. J., and Kilgour, D. M., «Backward Induction Is Not Robust: The Parity Problem and the Uncertainty Problem», Theory and Decision, 45, 263–89 (December 1998).
7. Carse, J. P., Finite and Infinite Games (Ballantine, New York, 1986).
8. Holsti, O. R., Brody, R. A., and North, R. C., «Measuring Affect and Action in International Relations Models: Empirical Materials from the 1962 Cuban Missile Crisis» J. Peace Res., 1, 170–89 (1964).
9. Kilgour, D. M., and S. J. Brams, «The Truel», Math. Mag., 70, 315–26 (December 1997).
10. Smolin, L., The Life of the Cosmos (Oxford University Press, New York, 1997).
Назад: 11. Глубокое время Имеет ли оно значение?
Дальше: 13. Искусственный интеллект и далекое будущее