Двойственная природа технологий
Никто не рискнул спросить его о делах, Никто не посмел допустить оплошность, Потому что у незнакомца на бедре была большая пушка, Большая пушка на бедре.
Marty Robbins «Big Iron», альбом «Gunfighter Ballads and Trail Songs», студия Columbia, 1959
Человек не существует в вакууме: он либо сам влияет на ход истории, будучи политиком, ученым, предпринимателем, либо объединяется с окружающими, чтобы менять окружающую среду эффективнее, быстрее и глубже. Работа с другими людьми настолько глубоко заложена в нашу природу, что именно с общением связаны особенности нашей памяти, мышления и даже некоторых инстинктов. У каждого объединения людей, будь то племя в лесах бассейна Амазонки или транснациональная корпорация, есть свои цели, средства, структура и внутренняя культура. Их целью почти всегда является сохранение группы, поддержка ее членов и реализация выгодных для них изменений с помощью доступных ресурсов. Именно ради изменений, выгодных различным группам, и трансформации взаимодействий между ними, создают политические альянсы, продают товары, вводят законы, разрабатывают и внедряют новые технологии.
В плане служения индивидуализму или коллективизму технологии имеют двойственную природу. С одной стороны, их куда проще разрабатывать и внедрять коллективно, когда есть общая цель и необходимые человеческие и финансовые ресурсы. С другой стороны, технологии дают индивиду доступ к новым ресурсам и возможностям, включая способы уклонения от навязываемой воли коллектива и противостояния ему. Когда-то огнестрельное оружие уравняло возможности людей из разных сословий, а шифропанки использовали интернет и криптографию (в которые изначально инвестировало государство, то есть коллектив) для защиты личного пространства и приватности, повышая уровень независимости отдельных индивидов.
Достигнутый прогресс в области искусственного интеллекта, солнечных панелей, телекоммуникационных спутников, устойчивых к неблагоприятной среде растений и прочих технологий был бы невозможен без коллективов, заинтересованных в их развитии. Но благодаря тем же достижениям, отдельный человек может жить самодостаточно в почти полной изоляции от общества: при должных навыках и техническом обеспечении у него будет пропитание, энергия и доступ в интернет.
Примечательно, что собственным физическим убежищем озаботился предприниматель, сделавший ставку на развитие метавселенных. Согласно результатам расследования журнала Wired, Марк Цукерберг строит на гавайском острове Кауаи подземный бункер общей площадью 464 кв. м в своем поместье стоимостью $270 млн. На площади в 566 гектаров разместится десяток зданий: по меньшей мере 30 спален с ванными, включая два отдельно стоящих особняка и 11 домов на дереве, фитнес-центр, гостевые коттеджи и помещения для обслуживающего персонала. Похоже, идея строительства бункера пришла к Цукербергу не вчера: он приобрел землю для проекта еще в 2014 году, подав против сотен гавайцев судебные иски о принудительной продаже участков, которые находились в зоне его интересов. Профессор права Гавайского университета даже назвал это «лицом неоколониализма».
Цукерберг далеко не единственный, кто стремится огородиться в собственном анклаве. По наблюдениям Стива Хаффмана, сооснователя и CEO социальной сети Reddit, больше половины миллиардеров из Кремниевой долины готовятся к апокалиптическим сценариям, закупая подземные бункеры и оружие. Их пример стимулирует желание иметь «запасной аэродром»: бывший менеджер Facebook Антонио Гарсия Мартинес тоже владеет парой гектаров на острове на Тихоокеанском Северо-Западе – в его доме есть генераторы, солнечные панели и оружие.
При должных навыках интернет, изначально разработанный военно-промышленным комплексом США, становится инструментом антиправительственных активистов. Этот активизм проявляется не только в лево-популистском движении Occupy Wall Street, направленном против экономического неравенства, корпоративной жадности и влияния денег, но и в многочисленных хакерских атаках группировки Anonymous на американские финансовые институты, и в публикациях утечек данных из корпораций и государственных органов, и в обсуждениях рядовыми американцами острых вопросов (например, стоит ли США снабжать Израиль оружием), ведущихся в запрещенных у нас социальных сетях.
При принятии решений коллектив зачастую руководствуется общественным благом, которое может расходиться с желанием индивида не иметь никаких ограничений. К примеру, Китай лидирует по количеству камер: 372 штуки на тысячу человек. При этом здесь существует множество зрелых технических решений, отлично адаптированных под местную специфику и способных точно распознавать людей в этой очень большой и достаточно гомогенной популяции. По мнению многих граждан Китая, система всеобщего видеонаблюдения сделала их страну безопасней. Однако китайские амбиции не заканчиваются лидерством в области видеомониторинга в своей стране – появилась информация о том, что Китай планирует установить на Луне крупнейшую систему видеонаблюдения для защиты «лунной собственности» и «оперативной реакции» в случае нарушений.
Официальная российская статистика также подтверждает связь видеонаблюдения и повышения уровня безопасности: в 2023 году при помощи системы «Безопасный город» в Москве удалось на 31 % сократить количество преступлений, совершенных в жилом секторе, а использование модуля «ПАРСИВ» и системы «Сфера» позволили установить 4325 лиц, находившихся в розыске, в том числе задержать 3897 человек за совершение преступлений.
Размещение дополнительных камер наружного наблюдения, которые ищут преступников и следят за общественным порядком, – благо для общества в целом, но вполне возможно – угроза для отдельных индивидов, у которых остается все меньше личных границ. Если вы находитесь в публичном месте, то в большинстве стран мира вас можно снимать на видео и выкладывать ваши неловкие попытки перепрыгнуть через лужу в социальные сети с перспективой превращения в интернет-мем.
Еще один пример индивидуальных ограничений ради общественного блага: в начале 2024 года в Калифорнии внесли на рассмотрение законопроект, требующий с 2027 года оснащать все производимые и продаваемые в штате автомобили ограничителями скорости, чтобы не позволять водителям ускоряться сверх определенного предела. Предположительно, технология будет использовать систему глобального позиционирования GPS и базу данных о скоростях на дорогах, чтобы автомобили не превышали разрешенную скорость больше, чем на 10 миль в час. То есть на шоссе с максимальным ограничением в 65 миль/час ехать быстрее 75 будет физически невозможно.
По данным Министерства транспорта США, треть смертей на дорогах связана с превышением скорости, причем в 2021 году число погибших при превышении скорости достигло 14-летнего максимума. Так что с точки зрения государства и общественной безопасности, это абсолютно очевидное решение, и если технологии позволяют запретить превышение скорости, то почему нет? Но возникают вопросы о последствиях подобной инновации:
• Не приведет ли она к появлению черного рынка программных и технических средств, снимающих ограничения?
• Кто и каким образом будет с ним бороться?
• Не появятся ли дополнительные издержки из-за более медленного движения автомобилей?
• Не приведет ли это к авариям, которых можно было бы избежать за счет резкого ускорения?
• К каким злоупотреблениям со стороны автопроизводителей и злоумышленников могут привести подобные ограничители?
• Смогут ли водители безопасно управлять автомобилем на территориях, где нет требований о таких ограничителях скорости?
Все это – примеры того, как государство (коллектив), имея больше ресурсов, чем любой индивид, способно использовать технологии для своих нужд и во имя общественного блага. В тех областях, которые сегодня представляют «дикий запад», неизбежно появится регулятор, который получит гранты и субсидии, внедрит технологии, сформирует правила и принудит к их исполнению – в отличие от индивида, который не обладает ни экспертизой, ни ресурсами, ни возможностями.
Примечательно, что коллективизм проще обеспечивать и поддерживать при высокой степени цифровизации. Цифровая прозрачность каждого человека позволяет эффективнее проводить государственную политику и удовлетворять интересы большинства. Государства, активно внедряющие системы мониторинга и контроля за гражданами, цифровые идентификаторы и профили для каждого человека, получают больше данных для анализа их поведения и предпочтений. А коллектив, имеющий инструменты для более эффективного анализа поведения и предпочтений своих членов, может точнее удовлетворять запросы людей, заранее отслеживая возможных отступников от принятых в обществе правил, законов или идеологии.
Все это делает коллективизм с высокой степенью цифровизации весьма стабильной конфигурацией общества. Индивид практически неспособен конкурировать с государством или корпорацией в технологическом поле: коллектив способен собрать деньги на постройку нового центра обработки данных, инвестировать в передовые алгоритмы и повысить точность принимаемых решений, а у отдельного человека на это нет ни денег, ни компетенций.
Коллективизм подразумевает подчинение интересов индивида требованиям группы окружающих его людей, взамен предлагая их поддержку. Какие требования будут предъявлять коллективы будущего к своим членам и какую поддержку им оказывать? Кто и как будет принимать решения о более достойных поддержки членах общества в ситуациях, где прежние парадигмы устарели? Уже сейчас мы видим, что в одних странах преференции получают ветераны, многодетные матери и люди с особенностями развития, а в других – квиры или мигранты, приезжающие в страну с единственной целью получить пособие по безработице.
В 2022 году ученые из Хэфэйского комплексного национального научного центра предложили искусственный интеллект для считывания эмоций, направленный на определение лояльности членов Коммунистической партии Китая. Система способна интерпретировать электроэнцефалограммы, мимику и электрическую активность кожи людей во время просмотра партийных информационных материалов. Испытуемые входили в специальную кабинку и садились перед экраном, на котором им демонстрировали материалы, пропагандирующие политику и достижения партии.
Система считывала и интерпретировала несколько параметров, а затем присваивала испытуемому баллы лояльности, учитывая эмоциональную реакцию, степень концентрации на материале и согласия с транслируемой пропагандой. Авторы и правительство с помощью этой системы собирались контролировать качество образовательных материалов политической направленности. В ходе испытаний системы такую проверку прошли по меньшей мере 43 члена компартии Китая. Однако идея подверглась критике общественности и мирового научного сообщества: большинство экспертов утверждали, что система будет использоваться для устрашения членов партии.
В мире, где каждый человек (или его цифровой двойник) уже взвешен и измерен, ответ напрашивается сам собой: блага должны распределяться согласно показаниям социального рейтинга, скрытого за умным алгоритмом, или публично отображаемого прямо в паспорте. Что станет с теми, чей рейтинг окажется слишком низким, чтобы соответствовать этим требованиям? Вряд ли они будут низведены до состояния рабов: у них наверняка даже останутся гражданские права и возможность распоряжаться своими телами и сознанием.
Это не безумный сценарий – сегодняшние американские миллениалы, в отличие от своих родителей или дедов, уже не способны купить дом или квартиру из-за роста инфляции и разрыва между доходами самых бедных и самых богатых. А с учетом турбулентности на рынке труда, вызванной внедрением искусственного интеллекта и алгоритмов автоматизации бизнес-процессов, ситуация будет только ухудшаться, так как давая людям доступ к новым ресурсам, технологии в то же время углубляют и усложняют социальное и экономическое неравенство в обществе.
Тем не менее, человек – существо социальное, и эволюция зашила нам на подкорку стремление объединяться в группы (или делиться на них), чтобы стабилизировать доступ к ресурсам и увеличить шансы на успешное выживание и размножение. Но человек также обладает разумом, который позволяет ему принимать решения, игнорируя инстинкты. Наступит ли момент, когда разработанная коллективом технология убъет нужду в коллективизме для выживания и доступа к материальным благам? Будет ли такой свободный от общества человек принадлежать к тому же виду Homo Sapiens, который вышел из колыбели в Африке и расселился по всей планете, или это уже другой вид?
Но и коллективистские строи общества невозможны без должного уровня развития технологий. Например, коммунизм куда проще построить в цивилизации, которая победила дефицит. Коллектив зачастую является заказчиком технологий, предназначенных для решения его задач. Выборы во многих странах, в том числе в США, демонстрируют недостаточную прозрачность процессов, а личные политические амбиции аппаратчиков нередко превалируют над верностью демократии. Не проще ли обеспечить демократию при помощи блокчейна и прозрачного голосования либо разработанного для этих целей ИИ? Или лучше обеспечить авторитаризм с культом вождя при помощи нейрочипов, синтетических органов и пренатальной корректировки личных и профессиональных треков? Ведь тогда вождь будет бессмертен, вера племени в него – неколебима, а народ – счастлив…
Выживает и становится успешным тот, кто наиболее приспособлен и адаптирован к окружающей среде, в том числе социальной. С помощью инструментов и технологий человек подчиняет и изменяет среду согласно своему пониманию выгоды. Тем самым развитие технологий неизбежно приводит к перестановкам в обществе. В ситуации наступившей блокчейн-демократии наименее приспособленные «лишние люди» будут торговать своим правом голоса – легально или нелегально. В Древнем Риме далеко не все жители могли участвовать в политической жизни, при этом оставались свободные люди, не имеющие политических прав, но сохраняющие гражданские. А в Спарте критерием выживания младенца было хорошее здоровье – неподходящих просто сбрасывали со скалы.
Какие дополнительные блага будут получать конформные люди, оцененные высоким рейтингом за социальную полезность? Если они и есть «лучшие люди», то почему бы не наделить их (и только их) правом принимать решения о развитии общества? Принадлежность к «лучшим людям» будут определять на основе разных методологий, но практически неизбежно – при помощи алгоритмов. Вполне возможно, что деглобализация с обострением холодных и торговых войн приведет к дополнительным преимуществам для отслуживших в армии. Вероятно, сама армия станет популярным выбором для «лишних людей»: даже сегодня во многих странах служба воспринимается как социальный лифт, стабильный источник дохода и уважаемая обществом деятельность.
Мир с цифровым контролем и беспрецедентным уровнем проникновения коллектива в жизнь индивида понравится не каждому, потому что его права и свободы почти полностью подчинены интересам общества. Речь даже не о том, что искусственный интеллект, предсказывающий и предотвращающий потенциальные угрозы режиму, сам становится угрозой для тех, кто с ним не согласен. При отслеживании всех действий и коммуникаций в коллективе исчезнет частная жизнь, а в однородном обществе с единой идеологией, где по цифровым следам можно выявлять инакомыслие на ранних стадиях, останется очень мало свободы для творчества и нестандартных идей.
Я вижу довольно парадоксальный сценарий мира, где роскошью станет приватность и способность хоть как-то прикрыть свое цифровое тело. Только сверхбогатые смогут получить доступ к технологиям, позволяющим вырваться из «цифры» и поселиться на острове, оградившись стенами и средствами радиоэлектронной борьбы, чтобы оставаться только в физической реальности, стерев своего цифрового двойника.
Вспоминается анекдот про капиталиста, который посоветовал туземцу, прохлаждавшемуся под пальмой, не сидеть без дела, а сорвать кокос и продать его. На вырученные деньги нанять людей и собрать еще больше кокосов, чтобы, продав их, построить фабрику по производству кокосового масла. На резонный вопрос бездельника «Зачем?» капиталист ответил: «Чтобы сидеть под пальмой и ничего не делать». Так и людям будущего придется как следует поработать, чтобы просто сидеть под пальмой.
Возможный сценарий «Виртуальные утопии»
Индивидуализм – Метавселенные
2025 год – Технологические прорывы в области искусственного интеллекта, виртуальной реальности и нейроинтерфейсов.
2027 год – Массовое внедрение ИИ приводит к всплеску технологической безработицы.
Президентские и парламентские выборы в большинстве стран сопровождаются многочисленными манипуляциями с применением генеративного ИИ, а социальные и экономические кризисы и растущее глобальное неравенство только усугубляют политическую поляризацию. Техноэлита поголовно начинает строить автономные бункеры и островные убежища – кто-то из соображений моды или пиара, а кто-то ради собственной безопасности.
Социальные волнения нарастают, население массово теряет работу, причем первый удар приходится по самым незащищенным и низкоквалифицированным слоям. В некоторых странах Юго-Восточной Азии работы лишаются десятки миллионов человек, не способных тягаться с алгоритмами в эффективности решения рутинных задач. Социальные волнения и возросшая нагрузка на системы господдержки приводят к коллапсу традиционной экономики. В качестве меры финансовой помощи массово внедряют программы безусловного базового дохода, а для выпуска пара у населения запускают бесплатные симуляции виртуальной реальности. Огораживаясь от хаоса, техноэлита продолжает наращивать функциональность своих анклавов, инвестируя в системы безопасности и радиоэлектронной борьбы.
2031 год – Искусственный интеллект достигает сверхчеловеческого уровня и берет на себя управление глобальными процессами.
2033 год – Значительная доля населения проводит жизнь в виртуальных мирах, избегая суровой реальности.
Мир трансформируется: обнищавшие массы бегут от реальности в виртуальные утопии (которые также называют «виртуальными резервациями»), тогда как стоящая за ними техноэлита контролирует ресурсы, сидя в укрепленных физических анклавах, отключенных от интернета и защищенных от проникновения извне. Внутри симуляций процветает цифровая экономика, что позволяет отвлечься от физического упадка. Человечество разделяется на «физическую» элиту, благодаря достижениям регенеративной медицины стоящую в одном шаге от бессмертия, и «цифровые» массы, живущие в почти неотличимых от реальности симуляциях, утратив связь с настоящим миром.
