Войти в систему
Войти с помощью соц. сетей:
Давайте остановимся на секунду и поговорим о человечности.
Когнитивные возможности человека во многом зависят от нашего генетического кода и от активности нейронов в нашем мозге.
Если усовершенствовать эти структуры и наладить более крепкие межнейронные связи, вскоре мы сможем отметить более высокую производительность и другие отклонения от нормы в лучшую сторону. Это позволило бы увеличить средний показатель IQ (от 70 до 130) до 100023.
Сложно себе представить, какие возможности откроет подобный уровень интеллекта, но они точно превзойдут все наши ожидания. Путем редактирования ДНК у эмбрионов когнитивная инженерия сможет сформировать индивидуумов, чьи возможности будут выше, чем у всех вместе взятых гениев за всю историю человечества. Этот процесс, скорее всего, начнется уже к 2050 году. Обновить операционную систему машины – это одно дело, но перепрограммировать разумное существо, обладающее памятью и свободной волей, – что это будет значить? Конечно, это вопрос имеет смысл задавать, только если данные свойства все еще будут что-то значить в 2050-м.
Давайте для начала попробуем определить, что это значит – быть человеком. Бесчисленное количество философов билось над этой проблемой, но именно сейчас этот вопрос важен как никогда: новые технологии уже скоро сделают возможным усовершенствование, изменение, перепрограммирование и перепроектирование человека. Многие сторонники сингулярности и трансгуманизма считают, что мы движемся к слиянию человека и машины, биологии и технологии. Как бы фантастически это ни звучало, тем важнее нам определить, что же значит «человечность» в цифровую эру.
Сложность заключается в том, что в то время как технологии не знают этики, норм и веры, жизнь человека и общества целиком определяется ими. Машины когда-нибудь научатся считывать и понимать наши моральные соображения и этические проблемы, но смогут ли они проявлять сочувствие или эмпатию, обладать, как и мы, идентичностью? Ведь мы, грубо говоря, живем, ориентируясь на ценности, убеждения и менталитет, а не на алгоритмы и данные. Даже если машины это поймут и научатся воспроизводить, им все равно будет сложно перейти на наш способ существования.
Как я уже говорил, мы находимся в отправной точке экспоненциальной кривой, следующий шаг от которой будет резким переходом от четырех к восьми и затем к шестнадцати. Поэтому мы сталкиваемся с противоречием между тем, что технологии могут делать (ответ очевиден: практически все), и тем, что они должны сделать, чтобы послужить всеобщему счастью человечества. Ведь действительно непонятно, что же есть счастье само по себе, если не противопоставлять его таким очевидным проявлениям несчастья, как ограничение свободы, неравенство, бедность и болезнь (см. главу 9).
Очевидно, что технологии не знают и не хотят знать о счастье, самореализации, эмоциях, ценностях и убеждениях, несмотря на то что у них все лучше получается симулировать человеческие взаимоотношения. Они понимают только логику, рациональные действия, завершенность, эффективность, да и нет, ведь чтобы «обнаружить / идентифицировать счастье», нужно сначала стать счастливым, а это, в моем понимании, подразумевает телесность.
Технологии полностью отрицают все то, что дорого людям. Я считаю, что они не могут и не должны двигаться вверх по пирамиде Маслоу от основных потребностей до любви, самооценки и самореализации24. Безусловно, с помощью нейронных сетей и глубокого обучения компьютеры уже смогли научиться таким сложным вещам, как игра в го – и даже способны выигрывать25. Теоретически они смогут научиться вести себя как люди. Тем не менее симуляция – не то же самое, что дублирование, опосредованная реальность – не сама реальность.
Технологии не знают этики – так и должно быть! В наш экспоненциальный век уже даже к мозгу и телу относятся как к механизированным объектам, как к модному wetware (программному обеспечению во плоти и крови). И мы можем только содрогнуться от страха, представив, как в компьютеры внедряют этику и убеждения, или как они сами их развивают. По мнению автора, нам не стоит вступать на этот путь. Сама идея о том, чтобы позволить машинам иметь бытие может рассматриваться как преступление против человечества.
В качестве довольно жуткого примера рассмотрим противоречивую и широко обсуждаемую идею эктогенезиса – вынашивания ребенка в искусственной матке вне тела26, которое станет возможным уже в ближайшие 15–20 лет.
Это представляет собой отличную иллюстрацию того, как технологическое «yes we can» (да, мы сможем) способно отодвинуть на задний план самое основное из человеческих проявлений. Этот футуристический тип воспроизводства населения, конечно, будет менее обременительным и затратным для женщин, но, на мой взгляд, это пагубно и бесчеловечно по отношению к ребенку. Не знаю, как вы, но я с трудом понимаю, на чем основываются люди, которые продвигают такие идеи.
Перед лицом экспоненциальных изменений и тех сложных решений, которые нам придется принимать, я предлагаю составить список вопросов, с помощью которых мы сможем судить о новых прорывах в области науки и технологий, к примеру:
• Нарушает ли эта идея права человека?
• Стремится ли эта идея заменить человеческие отношения механическими взаимодействиями?
• Ставит ли эта идея эффективность выше человечности, стремится ли она автоматизировать то, что не должно быть автоматизировано, например основные способы взаимодействия между людьми?
• Ставит ли эта идея традиционный, основанный на прибыли и росте ВВП способ мышления превыше базовой человеческой морали?
• Сводит ли эта идея человеческое стремление к счастью к простому потреблению?
• Осуществляет ли эта идея автоматизацию основных видов человеческой деятельности, которые не должны быть автоматизированы, как, например, автоматизированный священнослужитель или психоаналитик, работающий на основе ИИ?
Один из моих любимых писателей-фантастов, Уильям Гибсон, однажды заметил: «Технологии морально нейтральны, пока мы их не применяем»27. Его острое и часто цитируемое изречение очень точно описывает то, что мы сейчас переживаем, когда само определение человека все более изменяется под влиянием экспоненциальных технологических достижений.
Пока мы еще находимся у поворота экспоненциальной кривой, у нас есть уникальный шанс повлиять на наше будущее. Будет ли оно на 90 % благоприятным и только на 10 % состоять из проблем и рисков из-за всех этих новых технологий? Или ему суждено выбиться из-под контроля, и соотношение перевернется и станет 10/90, как в мире антиутопии?
Большинство технологических достижений все еще носят положительный характер. Новые технологии в области изготовления аккумуляторов и солнечной энергии представляют собой огромный шаг вперед к устойчивому развитию и возобновляемым источникам энергии. Интернет вещей позволяет осуществить подлинно кардинальные изменения: возникают умные порты, умные города, умные фермы.
В наших технологиях все еще 90 % положительного, но тем не менее быстро множатся и некоторые негативные последствия, так как изобретатели, ученые, предприниматели и другие участники рынка в большинстве своем о них не думают.
Интернет вещей (см. главу 5), без соблюдения должных предосторожностей, может превратиться в самую огромную сеть наблюдения и глобальный паноптикум, 28. За нами смогут наблюдать в любое время, в любом месте и без нашего ведома, по умолчанию.
Экспоненциальные технологии действительно открывают удивительные возможности для человечества, но мы можем их упустить, если не будем мыслить широко и забудем о том, что технологии и вообще любой бизнес должны стремиться к процветанию человека.
Власть влечет за собой последствия – но сейчас мы наслаждаемся растущей властью технологий и часто забываем об ответственности, когда речь заходит о нежелательных последствиях, ведущих к коренным изменениям в структуре общества.
Нам нравится общаться друг с другом на Facebook, и многие приходят в восторг от очередного уведомления о том, что кто-то поставил им лайк. Но эта сделка, похожая на сделку Фауста – продажа своих личных данных в обмен на бесплатное пользование глобальной социальной сетью, – не предусматривает, что Facebook должен по-настоящему нести ответственность за те обрывки цифровых данных, которые он о нас собрал. Естественно, Facebook мастерски уклоняется от этого вопроса, ведь разрешение пользователям контролировать то, как используются личные данные, привело бы к краху основной его бизнес-стратегии – продать нас тому, кто больше предложит.
Facebook хочет, чтобы мы чувствовали ответственность за свои действия, пока мы, как в ловушке, наслаждаемся его сервисами. И точно так же, как Национальная стрелковая ассоциация (NRA), они продолжают утверждать, что это люди используют технологии для плохих целей, и технологические компании не виноваты. Позиция, которую занимает по этому поводу NRA – «Людей убивает не оружие, людей убивают люди», – по-моему, просто легкий способ снять с себя ответственность за то, чему они потакают.
Таким же образом мы используем карты Google, GoogleNow и Google Дом (динамик, с которым можно разговаривать как с роботом-помощником), чтобы избежать пробок или обновить наш список встреч. Однако мы пока что не можем придумать, как нам привлечь Google к ответственности за сбор и продажу наших метаданных (хотя и анонимных) маркетинговым компаниям или их передачу правительственным организациям, прикрывающимся исполнением Акта о негласном наблюдении в целях внешней разведки. Уже скоро большинство из нас будут использовать умных цифровых помощников(IDAs) на мобильных устройствах, и, похоже, никому не придется нести ответственность за то, что будет происходить за кулисами. Эти устройства будут слышать все то, что мы говорим, и мы никак не сможем это контролировать. Мы действительно занимаемся тем, что создаем разумные машины без систем контроля и средств защиты.
Мы попадаем в мир, где автоматизированные облачные программные агенты (боты) смогут выполнять огромный спектр задач вместо самих пользователей: назначить встречу, забронировать столик. Мы даже не успеем понять, как боты к этому пришли, а они тем временем все больше будут распоряжаться нашей жизнью.
Мы можем видеть, как люди проявляют крайнюю недальновидность и неосторожность в обращении с новыми технологиями. Это происходит в основном потому, что производители и продавцы технологий рассматривают ответственность за последствия их использования как внешний фактор – таким образом демонстрируя абсолютно неустойчивое отношение к будущему. Это напоминает мне, как нефтяным компаниям очень долгое время сходило с рук их отношение к загрязнению окружающей среды и глобальному потеплению – ведь они тоже считали эти проявления внешними факторами, т. е. тем, за что они не несут ответственности. Само собой разумеется, в подобном отношении к будущему ничего хорошего нет, т. к. оно разрушительно.
Я глубоко убежден в том, что мы должны выходить за рамки прибыли и роста, когда речь идет о технологиях, способных кардинально изменить жизнь человечества. Этот моральный императив по важности превосходит даже призывы ядерного века.
Приведу знаменитую цитату Роберта Оппенгеймера, одного из создателей ядерной бомбы, произнесенную им после бомбежки Хиросимы и Нагасаки: «Я – смерть, разрушитель миров»29. Процитировав древнеиндийский священный текст Бхагавадгиту, Оппенгеймер объявил начало нового этапа в развитии человечества.
Сейчас мы с вами бессознательно ощущаем, что стоим на пороге еще больших перемен.
Я считаю и попытаюсь доказать, что ИИ, как и деление ядер, – технология двойного назначения. Деление ядер может и освещать города, и сжигать их дотла. До 1945 года большинство людей не могло даже представить себе потенциальную мощь атома. Сегодня по отношению к искусственному интеллекту мы находимся в 1930-х и вряд ли переживем появление ИИ, особенно если оно будет столь же внезапным, как явление миру ядерных технологий.
– Джеймс Баррат. «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens»30
Технологии – неважно, насколько чудесные, – всегда остаются инструментом, который мы используем для достижения чего-либо: технологии – это не то, что мы ищем, а то, как мы ищем! Само слово «технологии» происходит от греческого корня techne, который означает «выявление истинного в прекрасном» и относится к совершенствованию навыков ремесленников и художников с помощью соответствующих инструментов31. Греческие философы также рассматривали технологии как нечто присущее любой человеческой деятельности: мы постоянно изобретаем новые инструменты и улучшаем существующие, это заключено в человеческой природе.
Сегодня можно наблюдать обратную тенденцию: интеллектуал и философ Герберт Маклюэн однажды сказал, что инструменты, которые мы создаем, начинают формировать или даже изобретать нас32. В экспоненциальных масштабах этот тренд будет означать переворачивание изначальной концепции techne – и нам совсем недолго после этого останется играть в Бога!
Конечно, можно ответить, что технологии всегда влияли на человечество и влекли за собой перемены, так что же нового в нашей ситуации, чего нам бояться? Разве это не очередной пример того же потока techne?
Давайте рассмотрим технологии в их оригинальном значении techne – как инструмент для увеличения наших способностей и показателей, продуктивности, возможностей. Это можно наблюдать в таких изобретениях, как паровой двигатель, телефон, автомобиль, интернет. Эти технологии усилили нас не внутренне, а только в наших действиях и во внешних возможностях. Ни одно из перечисленных изобретений не изменило нас физически, в неврологическом, биологическом, психологическом или духовном смыслах. Использование этих технологий не сделало нас экспоненциально мощными, с ними мы еще не оказались в точке разворота на экспоненте.
Изобретение парового двигателя сыграло большую роль в индустриальную эпоху, но для экспоненциальной кривой эти изменения были еще слишком ранними. Появление высокоразвитых роботов и последующая автоматизация производства, напротив, уже происходят в точке перегиба – в этом и заключается разница. Различие заключается в масштабности и в виде (не в стиле) изменений.
Быть человеком означает обладать качествами, которые (в ближайшем будущем) мы не сможем посчитать, измерить, алгоритмически определить, сымитировать и полностью понять. То, что делает нас людьми, не имеет математического основания и не сводится к чистой химической и биологической природе. Человеческая сущность включает в себя часто незаметные, невысказанные, подсознательные, эфемерные и не сопоставимые ни с чем элементы. Эти человеческие проявления, которые я называю андроритмами, мы должны сохранять, несмотря на то что они могут показаться медленными, неловкими, сложными, рискованными или неэффективными по сравнению с небиологическими системами, компьютерами и роботами.
Мы не должны пытаться исправлять, обновлять или уничтожать то человеческое, что в нас есть. Вместо этого нам следует создавать технологии, которые будут знать о наших особенностях, уважать их и защищать. К сожалению, медленное, но систематическое сокращение андроритмов – этих неуловимых человеческих черт – уже началось. Социальные сети, к примеру, позволяют нам создавать профили по своему усмотрению и наслаждаться нашими сфабрикованными индивидуальностями, вместо того чтобы иметь дело с теми, кем мы на самом деле являемся в реальной жизни.
Это может показаться благом, но может также обернуться негативными последствиями, если дело зайдет слишком далеко. Наши реальные и придуманные для социальных сетей «я» иногда пересекаются, но коварные алгоритмы (через сбор и анализ данных из, например, приложений для знакомств) все чаще приходят на смену андроритмам живой социализации. На просторах соц. сетей мы можем создавать себя заново, используя мощные и практически бесплатные технологии, и скоро становимся тем, что философ д-р Дж. Бейли называет «технологическими продуктами нашего собственного рационально высчитанного контроля»33. Неудивительно, что все больше людей чувствуют себя одинокими в соцсетях и даже впадают в депрессию34.
Выдающийся, хотя и политически неоднозначный немецкий философ Мартин Хайдеггер написал в своей книге «Бытие и время», что «человек – единственное существо, которое задается вопросом о бытии»35. Это можно описать немецким словом dasein (бытие-в-мире).
Dasein указывает на основное различие между человеком и машиной, которое является важной темой этой книги. То, что отличает нас от машин, – это наличие разумного основания человеческих стремлений, будь то сознание, душа или дух, неуловимая составляющая, которую мы не можем определить и даже найти, но которая тем временем управляет нами.
Основная суть заключается в том, что это множество загадочных человеческих таинств – взаимосвязь тела и разума, биологии и духа, которые нельзя сосчитать, рационализировать, перекопировать и спроектировать, – все еще затмевают сферу применения науки, технологии, инженерии и математики (STEM). Поэтому нам не следует слишком очеловечивать технологии и путать приоритеты, когда речь заходит о принятии важных общественных решений. Также необходимо помнить об ответственности, пока мы рискуем и создаем технологии, которые смогут в конечном итоге превзойти нас.
Несмотря на то что я восхищаюсь открытиями STEM, я считаю, что нам срочно необходимо создать им противовес, который бы утверждал важность истинно человеческих факторов. По аналогии с акронимом STEM я обозначил их как CORE: креативность / сочувствие, оригинальность, взаимность / ответственность, эмпатия.
Главный повод для беспокойства сейчас – не столько уничтожение человечества машинами, сколько заманивание нас в волшебные ловушки технологий, виртуальные миры и симуляции, которые постепенно уничтожают в нас человеческое.
Станут ли для нас технологии важнее человека?
Сейчас, как и в ближайшем будущем, даже самые продвинутые технологии смогут лишь имитировать бытие человека (dasein) тем или иным способом, но не стать человеком. Поэтому пока нам стоит беспокоиться не о том, что технологии заменят человечество или уничтожат его, а о том, что мы можем предпочесть высококачественные симуляции, предоставляемые машинами, нашей настоящей реальности. Иными словами, предпочтем ли мы в итоге отношения с машинами, а не с людьми?36 Понравится ли нам разговаривать с цифровыми помощниками, есть еду, распечатанную на 3D-принтере, мгновенно перемещаться между виртуальными мирами, заказывать услуги с доставкой в наши умные дома с помощью дронов или облачных сервисов и чтобы нам прислуживали роботы?37
Смогут ли удобство, низкие цены, простота в использовании и человеческая склонность к лени перевесить нашу потребность в реальной жизни, живых взаимодействиях и впечатлениях? Сейчас это еще сложно представить, но в ближайшие десять лет это станет вполне вероятным. Может быть, вопрос «А что, если?» уже превратился в «И что дальше?».
Благодаря таким технологиям, как дополненная реальность (ДР), виртуальная реальность (ВР), голограммы, интерфейс «мозг – компьютер» (ИММ), стало уже гораздо проще моделировать реалии, которые раньше относились исключительно к области человеческих ощущений, сначала постепенно, а потом сразу увеличивая вероятность того, что мы начнем их путать.
Я считаю, что буквально через несколько лет использование ДР и ВР станет такой же общепринятой практикой, как отправка сообщений и общение с помощью приложений. Только представьте, что случится с нашим восприятием мира, если сотни миллионов людей начнут использовать эти устройства. Насколько сохранит свою человеческую сущность тот, кто постоянно дополняет свою реальность? Кто будет отвечать за принципы возбуждения человеческих ощущений – будет ли законно или этично видеть искусственно смоделированное сексуальное изображение человека вместо него самого во время разговора? Можно ли будет уволить сотрудника за то, что он отказывается работать в мире виртуальной реальности? Или еще хуже: захотим ли мы возвращаться в мир без ДР и ВР, когда они станут настолько всеобъемлющими и легкодоступными?
И последнее: кто будет нашими проводниками в мир преумноженных чувственных ощущений ДР и ВР? Технологии виртуальных путешествий, такие как OculusRift от Facebook, SamsungVR, HoloLens от Microsoft, уже могут дать нам ощутить, каково это – сплавляться на рафте по реке Амазонка или взобраться на гору Фиджи. Это интересный новый опыт, который значительно изменит наши способы коммуникации, работы, учебы и переживания реальности. Но сможем ли мы, да и нужно ли нам воспрепятствовать тому, чтобы провайдеры этого опыта будущего всегда показывали нам «фальсифицированную» реальность – например, скрывая трущобы в Мумбаи, когда мы проезжаем мимо на такси?
Останемся ли мы человечными, если предпочтем этот новый мир? Можно ли что-то сделать, чтобы предотвратить повсеместное использование ДР/ВР в качестве привычных средств, таких как мобильные устройства и социальные сети? Можно ли будет предложить использовать их ограниченно, как какой-нибудь навороченный телевизор, или в таком случае жизнь в обычном недополненном мире покажется нам скучной? Подумайте, как много детей сегодня не хотят идти на пляж, если там нет wi-fi. Это действительно дилеммы, и для них не будет однозначного решения. Здесь необходим сбалансированный, ситуативный, антропоцентричный подход.
Давайте согласимся с тем, что все еще существует огромная разница между восприятием альтернативных реальностей и реальной жизни. Представьте себе, буквально на две минуты, что вы находитесь в Индии, в центре людного базара в Мумбаи. Затем сравните эти впечатления с теми, которые вы могли бы приобрести за более долгий период времени, находясь в том же месте, но в альтернативной реальности, используя самые высокоразвитые технологии ВР на сегодняшний день. Запахи, звуки и виды, телесные реакции, общее воздействие на органы чувств… все это в тысячи раз более интенсивно, чем могли бы смоделировать самые продвинутые гаджеты, пользуясь экспоненциальными завоеваниями технологий.
В этом и заключается разница между полноценным, телесным, контекстуальным человеческим опытом и машинной симуляцией. Тем не менее хорошо смоделированная реальность не наносит вреда, пока мы отдаем себе отчет в том, что она собой представляет, и не подменяем понятия. В этом случае мы даже сможем использовать ее во благо.
Технологии визуализации уже в ближайшем будущем станут намного совершеннее, выйдут на новый уровень и продолжат стирать границы между человеком и машиной. В момент, когда мы сможем попасть внутрь фильма с помощью ВР, способности нашего воображения будут навсегда побеждены технологиями38. И это одновременно восхищает и беспокоит меня. Можно ли нам это делать? Подготовлены ли мы к такой виртуальности? Изменятся ли в результате наши «настройки», и что мы будем с этим делать? Нужны ли нам новые небиологические надстройки, чтобы уверенно существовать в новой реальности?
Неважно, как мы ответим на эти вопросы: если экспоненциальный технологический прогресс означает, что наши тела перестанут быть центром нашей идентичности, то мы неизбежно перешагнем тот порог, который отделяет нас от машин. Уменьшит ли нашу человечность тот факт, что наши биологические особенности придется регулярно обновлять, чтобы они нормально функционировали? К этому моменту мы откажемся от 95 % нашего потенциала в пользу того, чтобы «стать теми инструментами, которые мы создали»39.
Принимая во внимание масштаб возможного влияния ИИ, мы должны также рассмотреть его вклад в стирание границ между человеком и машиной. Возьмем, к примеру, компанию DeepMind, ведущую фирму ИИ в Лондоне, приобретенную Google в 2015 году. В феврале 2016 года в интервью для The Guardian гендиректор DeepMind Демис Хассабис следующим образом отозвался о потенциале ИИ:
В мире сейчас такой переизбыток информации, что даже умнейшим людям становится сложно овладеть ею в течение жизни. Как же нам не утонуть во всех этих данных и прийти к правильным выводам? ИИ можно рассматривать как процесс по переработке неструктурированной информации в практическое знание. То, над чем мы работаем, станет ключом к решению любой проблемы40.
Как будет реализовано это громкое заявление на практике? Представьте себе общество, где технологии, в особенности ИИ, могут решить любую серьезную проблему человечества, начиная от болезней, старения и смерти и заканчивая изменением климата, глобальным потеплением, производством энергии и продуктов питания и даже терроризмом. Представьте машинный интеллект, который сможет обработать большее количество информации, чем мы когда-либо сможем воспринять, и считывать всю информацию в мире в режиме реального времени, где угодно и когда угодно. Это устройство (и его владельцы и разработчики) станет чем-то наподобие глобального мозга, невероятно мощного, за гранью человеческого понимания. К этому ли хотят нас подвести компании типа DeepMind и Google? И как нам удастся сохранить наши человеческие качества при таком раскладе?
Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы.
– Джарон Ланир. «Вы не гаджет»41
Могут ли технологии отличить то, что действительно важно?
Давайте представим, что такое устройство, ИИ-в-облаке, уже существует (мы и сейчас не так далеки от запуска первых пробных версий). Сможет ли оно считывать, понимать и ценить те взаимодействия между людьми, которые нельзя представить в виде данных? Сможет ли оно понять dasein, бытие?
Несмотря на будущий экспоненциальный технологический прогресс, человеческий способ существования и переживания опыта кардинально отличается от того, как технологии его воспринимают. Даже лучшие фотографии, видео и цепочки данных только примерно передают, как это было на самом деле: контекст, воплощение, переживание этого уникального момента.
Некоторые философы утверждают, что мы сами не в состоянии запечатлеть, удержать и воспроизвести то, что действительно важно. Если это правда, то как мы можем надеяться уловить какую-то смоделированную человечность внутри машины? Не повлечет ли это за собой высокий риск потери 95 % того, что составляет нашу человеческую сущность, если мы решимся «превзойти биологические ограничения», как предлагают трансгуманисты?
«Википедия» определяет трансгуманизм так:
…международное интеллектуальное движение, целью которого является трансформация человека путем создания широкодоступных современных технологий, которые смогут значительно усилить интеллектуальные, физические и психологические способности людей42.
Это зловещее обещание «значительно усилить» больше всего настораживает меня в трансгуманизме. Какой бы заманчивой ни представлялась перспектива увеличения способностей, мне все же кажется, что больше всего от этого выиграют компании, платформы и технологии, которые предоставят нам эти возможности. Эти компании действительно усилят свои мощности и позицию на рынке, расширят сферу охвата, пока обыватели будут пытаться успеть за своими переразвитыми братьями. Бизнес, построенный на том, чтобы заменить андроритмы и человеческие переживания алгоритмами, ИИ и программным обеспечением, безусловно, обречен на успех. Но будет ли это преимуществом, по сути своей? Должны ли мы предоставить будущее в распоряжение тех, кто хочет превратить его в огромную облачную операционную систему (ОС), только потому, что это выгодно?
Мы стали почти богами и просто обязаны в совершенстве освоить божественные функции.
– Стюарт Бренд43
В качестве основания многие евангелисты трансгуманизма утверждают, что человек – это просто тело, и его необходимо усовершенствовать. Они заключают, что мы недостаточно умные, недостаточно быстрые и недостаточно ловкие. Людям необходимо обновить программное и аппаратное обеспечение – в основном потому, что эти меры приведут к ликвидации старения и, быть может, даже смерти.
Является ли наше превращение в машины, полностью или частично, закономерным этапом эволюции? Суждено ли нам оставить в прошлом свои биологические ограничения и возвыситься с помощью технологий?
Идея отождествления живых существ с машинами не нова. Еще в XVI веке Рене Декарт, великий философ-рационалист, сравнивал животных с очень сложными машинными аппаратами44. Сегодня многие технические специалисты возрождают эту идею, которую я условно обозначил как «машинное мышление», в том смысле, что все вокруг нас и внутри нас можно рассматривать как аппараты, которые можно изменять, чинить и воспроизводить. Для них все человеческое существование представляет собой не что иное, как очень причудливую науку.
Принимая лекарства, чтобы понизить уровень холестерина, давление или предотвратить беременность, мы уже осуществляем значительное, но всем привычное вторжение в работу нашего тела. Но уже следующие шаги в медицинских инновациях могут вывести нас на уровень совсем другого масштаба. Примеры могут включать в себя внедрение небиологических компонентов в наши тела (наноботы в крови, регулирующие уровень холестерина), изменение генов, чтобы избежать болезней (или запрограммировать наших детей определенным образом), и имплантация когнитивных стимуляций в наш мозг, чтобы увеличить производительность.
Что же это, следующая стадия необратимого эволюционного развития или странное стремление к обретению сверхчеловеческой силы, которое противоречит нашей природе, нашему устройству и нашей цели? Предназначено ли человечеству создать себя заново и перепрограммировать так, чтобы мы могли выбирать, кем нам быть, чтобы мы обрели бессмертие… и смогли уподобиться Богу? Даже если вы нерелигиозный человек (для справки: я тоже), этот вопрос попадает в самую суть проблемы.
Увеличение человеческого счастья и всеобщее процветание не могут произойти от нашего уподобления машинам, даже если это придаст нам определенные суперсилы (чего не стоит ждать в ближайшем будущем). Я считаю, что нам необходимо противостоять основным идеям трансгуманизма (таким как преодоление биологических ограничений), вместо того чтобы принимать их в качестве неоспоримых.
Также необходимо понимать, что сохранить нашу человечность будет непросто: для этого придется хорошенько потрудиться. К серьезным отношениям люди продираются через сложности и конфликты; сохранить любовь в таких условиях не так просто. Мы принимаем человеческое в себе как данность, как возможность пользоваться новомодными технологиями. Но не существует пока приложения, которое позволило бы стать человеком тому, кто им не родился.
Каким же будет будущее, которое прокладывает себе путь между трансгуманистами и экспоненциальными гуманистами (exponential humanitarians), представителем которых я являюсь? Существует ли компромисс между технологиями и человечеством, и что он из себя представляет?
Я думаю, что существует, и хочу попытаться определить его.
Войти с помощью соц. сетей: