Новая философия
У нас есть работа – Нам нужно спасти мать-землю.
Neil Young, Crazy Horse «Be the rain», альбом «Greendale», студия Warner Bros., 2003
Эффективный акселерационизм (также обозначается «e/acc») – это философcкое движение XXI века, которое выступает за радикально протехнологическую позицию. Его сторонники считают, что неограниченный технологический прогресс является решением общечеловеческих проблем: бедности, войн и изменения климата. В 2023 году движение перестало быть маргинальным – ряд известных деятелей Кремниевой долины, включая Марка Андриссена и Гарри Тана, добавили в свои публичные профили в социальных сетях статус «e/acc».
В своем «Манифесте технооптимиста» Андриссен пишет: «У нас есть враги. Наши враги – не плохие люди, а скорее, плохие идеи. Современное общество на протяжении шести десятилетий массово настраивали против технологий и жизни – под разными названиями: “экзистенциальный риск”, “ESG”, “цели устойчивого развития”, “социальная ответственность”, “капитализм стейкхолдеров”, “принцип предосторожности”, “доверие и безопасность”, “техноэтика”, “управление рисками”, “антирост”, “пределы роста”. Кампания по деморализации основана на идеях прошлого – зомби-идеях, многие из которых произошли от коммунистических идей (катастрофических тогда и сейчас), которые отказались умирать».
Технологическое лидерство, к сожалению, не всегда идет рука об руку с высокими моральными качествами. Сторонники e/acc называют людей с более осторожным взглядами на инновации уничижительными прозвищами, например, «обреченными» (англ. doomer) или «децелами». Если «e/acc» стремятся к утопическому образу будущего, то «децелы» боятся реализации антиутопического сценария.
Техновизионеры обещают, что с приходом искусственного интеллекта все станет «намного лучше», но то же самое говорили визионеры, стоящие у истоков социальных сетей. Вот только объединили нас соцсети или разъединили и фрагментировали? Процитирую высказывания нескольких лидеров:
• Марк Андриссен: «У ИИ есть потенциал сделать жизнь намного-намного лучше»;
• Сэм Альтман: «Не хочу звучать как утопический технарь, но увеличение уровня жизни, которое может обеспечить ИИ – экстраординарно»;
• Сундар Пичаи: «ИИ – самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество»;
• Марк Цукерберг: «У ИИ есть потенциал помощи ученым в лечении и предотвращении всех болезней уже в этом веке».
Можно ли верить на слово людям, имеющим явный коммерческий интерес в продвижении технологий и уже злоупотреблявшим нашим доверием, продавая данные пользователей для политических кампаний (Марк Цукерберг) или собирая сведения о них в режиме «инкогнито» (Сундар Пичаи)? Но даже если не сомневаться в потенциале искусственного интеллекта для решения глобальных проблем человечества, то почему же предлагаемые технологии не решают их, а порождают новые?
Приведу еще несколько цитат о возможностях ИИ, которые так вдохновляют руководителей бигтеха:
• Сатья Наделла, CEO Microsoft: «Произойдет повсеместное замещение на рынке труда»;
• Арвинд Кришна, CEO IBM: «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности»;
• Мустафа Сулейман, CEO Microsoft AI: «Это по сути – инструменты, замещающие человека»;
• Брайан Чески, CEO Airbnb: «Это продуктивность, но без лишнего налога в виде большего количества людей».
Американский комик и ведущий популярной телепередачи The Daily Show Джон Стюарт остроумно прокомментировал последний тезис: «Налог в виде людей, ранее известных как работники».
Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно сфокусироваться на чем-то более насущном, например, образовании, борьбе с бедностью или изменением климата? А что, если замена человека является именно целью внедрения ИИ, а вовсе не косвенным ущербом? Действительно, почему бы не претендовать на гигантский мировой рынок заработных плат всех людей? Но что будет, когда идеальное видение будущего ИИ (или манипулятивная пропаганда визионеров) столкнется с реальностью?
В упомянутом выше манифесте предлагаются достаточно радикальные идеи: «Нашим врагом является замедление, снижение темпов роста и численности населения – столь модное среди нашей элиты нигилистическое стремление к меньшему количеству людей и энергии и большему количеству страданий и смерти. … Мы считаем, что любое замедление развития ИИ будет стоить жизней. Смерти, которые можно предотвратить с помощью ИИ, но которые не будут предотвращены, являются формой убийства».
Нарративы про страшных и опасных красных добрую половину XX века сопровождали любую западную политическую аргументацию, и в попытке оправдать внедрение искусственного интеллекта нас снова возвращают к этим простым тезисам: если ты против ИИ и прогресса, значит, ты – коммунист. И даже более того: если ты не с нами, значит, ты – коммунист и убийца, а кровь невинно убиенных на твоих руках. Не правда ли, звучит достаточно экстремально? Особенно с учетом того, что подобная философская концепция исходит от венчурных капиталистов, напрямую заинтересованных в продвижении технологического развития.
Отказ людей от использования и внедрения технологий из-за связанных с ними рисков, а также по идеологическим причинам приведет к появлению сообществ, нацеленных на заморозку развития технологий или даже откат технологического развития. Неизбежны стихийные протесты современных луддитов, которые борются с достижениями инновационных технологий. Разрушение передающих и ретранслирующих станций 5G в Великобритании и Нидерландах в 2020 году, как и установка дорожных конусов на капоты беспилотных автомобилей для их блокировки в Сан-Франциско – яркие примеры современного луддизма.
В начале 2024 года десятки активистов собрались возле головного офиса компании OpenAI в Сан-Франциско, призывая инженеров прекратить работу над продвинутыми ИИ-системами. Демонстрацию организовали две группы – PauseAI и No AGI, выступающие за остановку развития искусственного интеллекта и против любых связей ИИ с военными структурами. PauseAI уже зарегистрирована как НКО в Нидерландах (PauseAI Global), США (PauseAI US) и Великобритании (PauseAI UK), и это далеко не первый их протест. В 2023 году похожие акции прошли у офиса Google DeepMind в Лондоне, OpenAI в Сан-Франциско, Microsoft в Брюсселе, а осенью 2023 года они провели первый международный протест – одновременно в США, Канаде, Дании, Нидерландах и Австралии, с участием похожих активистов из других НКО, вроде канадской ALIGN the World или австралийской Campaign for AI Safety.
Члены проекта The Midas Project определяют себя как «коллектив цифровых граждан, принимающий меры, чтобы технология искусственного интеллекта приносила пользу всем, а не только разрабатывающим ее компаниям». Они занимаются стратегическими инициативами по мониторингу технологических компаний и противодействию корпоративной пропаганде, выступая за ответственное развитие новых технологий. Название проекта отсылает к мифическому древнегреческому царю Мидасу, который в благодарность от бога Диониса получил дар обращать в золото все, к чему ни прикоснется, но чуть не умер от голода и жажды, потому что не обдумал последствия своей просьбы.
Традиционные низкотехнологичные общины зачастую выступают против расширения возможностей человека, например, амиши категорически против абортов и считают «искусственное оплодотворение, генетику, евгенику и исследования стволовых клеток несовместимыми со своими ценностями и верой». Сможет ли обычный житель современного мегаполиса о чем-то договориться с членом общины амишей? Вероятно, да, но позвонить не получится: придется ехать в место проживания общины и просить аудиенцию, которую не каждому предоставят. И даже если встреча состоится, то жизненные позиции, принципы принятия решений и политические взгляды этих людей настолько различны, что договориться будет непросто.
А что, если к идейным разногласиям добавятся физические? Как и о чем будут договариваться люди и киборги? Ведь им придется как-то взаимодействовать. Какой путь проделает произведенная амишем экологически чистая тыква, чтобы оказаться на столе у трансгуманиста, которому системы анализа крови прописали ее на завтрак? А если эти все более разные люди не смогут договориться, то будут ли их интересы эффективно представлены в политике?
Движения и проекты вроде PauseAI активизировались на фоне миллиардных инвестиций корпораций и массовых увольнений, но появились сравнительно недавно – спустя короткое время после выхода ChatGPT. Что ждет нас дальше? Если трансгуманисты, в числе которых влиятельные венчурные капиталисты, станут все активнее призывать к отмене ограничений на расширение возможностей человека, а технофобы – требовать более жесткого регулирования и моратория на рискованные технологии, отказываясь от прогресса, то будет ли их противостояние мирным? И кто победит в итоге?
Можно с уверенностью прогнозировать рост напряженности в вопросах границ и рисков технологической трансформации. Для преодоления экзистенциальных рисков и согласования противоречий потребуется совместная работа, но будет ли она в принципе возможна, если два сообщества окажутся настолько идеологически далеки друг от друга, что не смогут сесть за стол переговоров?
Вероятно, успешный сценарий не где-то ровно посередине между принятием или отказом. Развитие технологий для расширения человеческих возможностей и изменения в самом человеке должны сделать производство товаров и повышение персонального дохода куда более тривиальной задачей – для всех. Риски должны настолько померкнуть на фоне невероятного бума в экономике, обещающего каждому денежные, интеллектуальные и правовые средства для обеспечения собственных нужд на недостижимом прежде уровне, чтобы от этого предложения невозможно было отказаться.
Возможный сценарий «Массовая технофобия»
Отказ от цифровизации – Технолуддизм
2025 год – Массовое внедрение ИИ и автоматизации приводит к сокращению рабочих мест.
2026 год – Вводятся первые законы, регулирующие применение ИИ и защищающие права работников.
Внедрение ИИ и тотальная автоматизация производственных процессов приводят к массовым увольнениям: люди лишаются постоянного дохода, и далеко не все находят возможность перестроиться, чтобы получить новую профессию. По миру проходит череда забастовок, напряженность перерастает в социальные кризисы. На волне протестов против замены людей роботами растет популярность политических сил, выступающих за ограничение использования ИИ: среди них как левые, так и правые политики, строящие свои политические платформы на защите интересов людей от алгоритмов. Тему защиты рабочих мест поднимают во всех предвыборных кампаниях, а корпорации облагают дополнительными налогами на автоматизацию и применение алгоритмов. Социальная стабильность достигается за счет всеобщего ограничения цифровизации вплоть до полного отказа в некоторых сферах.
2028 год – Принимаются международные соглашения об ограничении развития и использования ИИ.
2030 год – Мир разделяется на страны, соблюдающие ограничения и тайно развивающие высокие технологии.
Прогресс становится дополнительным финансовым бременем, поэтому многие компании вынуждены отказаться от передовых технологий, возвращая людей на рабочие места. Многократное удорожание технологических инноваций делает их роскошью, доступной далеко не всем. Появляются подпольные рынки высоких технологий, а хакерская активность в сфере промышленного шпионажа многократно возрастает. Некоторые страны продолжают подпольно развивать цифровые технологии, торгуя ими в обход ограничений. Нелегальные сети обмена технологиями и цифровыми данными между странами и компаниями доказывают свою эффективность, но структуры, продолжающие открыто развивать их, все чаще подвергаются санкциям.
Опасения по поводу искусственного интеллекта и расширения возможностей человека перерастают в массовую технофобию и алармизм. Консервативные круги объявляют апгрейд людей «ересью» и покушением на человеческое достоинство. Активизируются технолуддитские движения, а в СМИ и политике доминируют нарративы о рисках и непредсказуемых последствиях трансгуманизма. Любые модификации человека вызывают массовую тревогу и отторжение, вне зависимости от их положительного потенциала. Развитие биомедицины кардинально смещается в сторону паллиативной помощи и поддержания «естественного» здоровья, а медицинские исследования становятся объектом пристального внимания, чтобы «ересь» не просочилась.
2033 год – Цифровизация и автоматизация находятся под строгим контролем государств.
Обе стороны агрессивно лоббируют про– и антитрансгуманистические законы, радикальные неолуддиты совершают хакерские атаки на исследовательские центры и ИИ-компании, устраивая погромы на территориях высокотехнологичных кампусов. В обществах с традиционными ценностями создают «комитеты человечности», тесно связанные с религиозными организациями. Систематическое нагнетение страхов вокруг «расчеловечивания» и создания «постлюдей» в глазах общественности приравнивает трансгуманизм к евгенике и преступным экспериментам. Проводятся исторические аналогии с леденящими кровь опытами над людьми в японском «Отряде 731» (1932–1949) или медицинскими экспериментами над заключенными концлагерей в нацистской Германии времен Второй мировой войны.
2034 год – Исследования в области трансгуманизма запрещены конвенциями ООН.
По мере маргинализации трансгуманизма ученые и энтузиасты расширения возможностей человека все чаще подвергаются остракизму, преследованиям и увольнениям из научных институтов и корпораций. Самый радикальный сценарий сопровождают акты биотерроризма и появление «антитрансгуманистических» штаммов вирусов, которые безвредны для «обычных» людей, но нарушают функционирование биотехнологического организма.
В некоторых странах против трансгуманизма выступают религиозные организации и духовные движения, позволяя технолуддизму получить характер квазирелигии, противопоставляющей технологиям «духовность». Трендом становится «возврат к корням», близость к природе, увлечение эзотерикой и псевдонауками. Социальная стабильность обеспечивается сохранением традиционных рабочих мест, но технический прогресс и развитие цифровой экономики замедляются, несмотря на существование черного рынка технологий.
