Глава 9. Отдельная личность

Четвертая промышленная революция изменяет не только то, что мы делаем, но и то, кем мы являемся. На нас, индивидуумов, это окажет многоплановое влияние, скажется на нашей идентичности и различных гранях ее проявления: на наши представления о неприкосновенности частной жизни, о собственности, характер потребительского поведения, то, сколько времени мы посвящаем работе и отдыху, как мы развиваем свою карьеру и совершенствуем наши навыки. Это повлияет на то, как мы заводим знакомства и развиваем отношения, на иерархии, от которых мы зависим, на наше здоровье. И, возможно, что быстрее, чем мы можем предположить, это может привести к таким формам увеличения человеческих возможностей, которые заставят нас поставить под вопрос саму природу человеческого существования. Такие изменения вызывают у нас радостное волнение и одновременно страх, потому что мы мчимся с беспрецедентной скоростью.

До настоящего времени технологии в первую очередь позволяли нам делать все с меньшими усилиями, быстрее и эффективнее. Они также давали нам возможности личного развития. Но мы начинаем видеть, что потенциальные возможности их использования, как и потенциальные риски, еще более масштабны. В силу всех тех причин, которые уже были названы, мы стоим на пороге радикального системного изменения, к которому людям придется непрерывно приспосабливаться. В результате мы можем стать свидетелями нарастающей поляризации в мире, которая разделит тех, кто принимает происходящие изменения, и тех, кто им сопротивляется.

Это приводит к неравенству, которое выходит за рамки неравенства социального, описанного выше. Это онтологическое неравенство разделит тех, кто приспособился, и тех, кто сопротивляется переменам, превратив их, по сути, в победителей и неудачников. Победители могут даже получить выгоду от некоторых проявлений радикального улучшения человека, возникших в результате деятельности определенных секторов четвертой промышленной революции (например, генной инженерии), тогда как неудачники таких возможностей будут лишены. Существует риск, что в результате этого возникнут классовые конфликты и другие столкновения интересов, не похожие ни на что из виденного раньше. Эти потенциальное разделение и напряженность, которую оно порождает, будут усугубляться границей, пролегающей между поколением, которое выросло в цифровом мире и знало только его, и поколением, которое родилось раньше и должно приспосабливаться к новым условиям. Это также порождает много проблем этического характера. Будучи инженером, я с большим энтузиазмом встречаю новые технологии и в числе первых начинаю их использовать. Тем не менее мне, так же как и многим психологам и социологам, интересно, как неумолимо интеграция технологий в нашу жизнь будет воздействовать на наше представление об идентичности и приведет ли она к снижению некоторых из наиболее существенных способностей человека, таких как самоанализ, эмпатия и сострадание.

Идентичность, мораль и этика

Ошеломляющие инновации, возникшие в ходе четвертой промышленной революции (от биотехнологий и до искусственного интеллекта), по-новому определяют то содержание, которое вкладывается в понятие «быть личностью». Они расширяют существовавшие до сих пор границы продолжительности жизни, здоровья, познавательных способностей и других возможностей человека способами, которые ранее были прерогативой научной фантастики. Поскольку знания в этих областях развиваются, поскольку совершаются новые открытия, для нас крайне важно внимательно и ответственно отнестись к продолжающемуся обсуждению связанных с этим моральных и этических вопросов. Как люди и как социальные животные, мы должны задуматься, каждый в отдельности и все вместе, как нам реагировать на такие явления, как увеличение продолжительности жизни, создание «дизайнерских младенцев», извлечение информации из человеческой памяти, а также на многое другое.

В то же время мы должны понимать и то, что эти невероятные открытия можно направить на службу интересам конкретных групп, не всегда совпадающим с нуждами общества в целом. Стивен Хокинг, физик-теоретик и автор книг, а также его коллеги-ученые Стюарт Рассел, Макс Тегмарк и Фрэнк Вильчек, написали в своей статье в газете The Independent, посвященной последствиям внедрения искусственного интеллекта: «Если краткосрочное воздействие искусственного интеллекта зависит от того, кто его контролирует, то долгосрочное – от того, будет ли вообще возможен такой контроль… Все мы должны задать себе вопрос о том, что мы можем сделать сейчас, чтобы повысить шансы на извлечение выгоды и при этом избежать рисков».

Одним из интересных проектов в этой области является OpenAI – некоммерческая компания по исследованиям искусственного интеллекта, которая была создана, как об этом объявили, в декабре 2015 года, с целью «развития цифрового интеллекта в тех направлениях, которые с наибольшей вероятностью будут служить во благо человечеству в целом, без ограничений, которые накладывала бы необходимость генерировать прибыль». Эта инициатива под председательством Сэма Альтмана, президента компании Y Combinator, и Элона Маска, генерального директора Tesla Motors, смогла привлечь целый миллиард долларов бессрочного финансирования. Она подчеркивает ключевую мысль, уже высказанную ранее, а именно: одно из самых значительных воздействий, оказываемых четвертой промышленной революцией, состоит в потенциальном расширении прав и возможностей человека, которое дает объединение новых технологий. Здесь, как сказал Сэм Альтман, «лучший способ развития для искусственного интеллекта будет тот, который направлен на обогащение возможностей человека и его совершенствование, при этом такие возможности должны предоставляться всем безвозмездно».

Специалисты и ученые отлично осознают и активно обсуждают воздействие на человека определенных технологий, таких как Интернет или смартфоны. Другие последствия рассмотреть и понять гораздо сложнее. Так обстоит дело с искусственным интеллектом или с биологическим синтезом. В ближайшем будущем могут появиться младенцы, созданные по замыслу разработчиков, а также может быть внесен целый ряд других поправок в характеристики человека – от искоренения генетических заболеваний до усиления познавательных способностей. В результате этого перед нами встанут некоторые из самых масштабных нравственных и духовных вопросов, с которыми мы, люди, должны разобраться (см. врезку H).

Врезка H. На грани этически допустимого

Технологические достижения подвели нас к новым этическим границам. Должны ли мы использовать ошеломляющие достижения в области биологии только для лечения болезней и устранения последствий травм, или нам стоит также заняться усовершенствованием человека?

Если мы примем второй вариант, то рискуем превратить родительство в еще одно проявление общества потребления, и в этом случае наши дети могут превратиться в товар, сделанный на заказ по нашим пожеланиям. А что значит «быть лучше»? Быть свободным от болезней? Жить дольше? Быть умнее? Бегать быстрее? Иметь определенную внешность?

Такие же сложные, подводящие нас к границам допустимого вопросы встают перед нами в отношении искусственного интеллекта. Задумайтесь о возможности того, что машины будут думать быстрее нас или даже успешнее нас. У Amazon и Netfix уже есть алгоритмы, позволяющие предсказывать, какие фильмы и книги мы можем захотеть посмотреть и почитать. Сайты знакомств и сайты для поиска работы предлагают нам возможных партнеров или рабочие места в нашем районе или в любых регионах мира, которые с точки зрения этих систем будут наиболее для нас подходящими. Что же делаем мы? Станем ли мы доверять рекомендациям, которые даст нам некий алгоритм, или советам членов нашей семьи, друзей или коллег? Будем ли мы обращаться за помощью к доктору-роботу, снабженному искусственным интеллектом, чьи диагнозы отличает идеальная или почти идеальная точность, или продолжим приходить к врачу-человеку, умеющему своим поведением успокоить пациента, врачу, который знает нас уже много лет?

Когда мы рассматриваем эти примеры и их последствия для человека, то вступаем на неизведанную территорию, наблюдаем зарю преобразования человека, которое не похоже ни на что из того, что человечество переживало прежде.

Другой важнейшей проблемой является потенциал предсказания будущего, которым обладает искусственный интеллект и устройства, снабженные функциями самообучения. Если наше собственное поведение в любой ситуации становится предсказуемым, то сколько личной свободы у нас останется, и не будем ли мы чувствовать, что должны действовать так, чтобы прогноз не оправдался? Может ли такой процесс развития привести к ситуации, когда сами люди начнут действовать, как роботы? Это также подводит нас к более философскому вопросу: как нам сохранить свою индивидуальность, на основе которой становятся возможными демократия и разнообразие людей, в цифровую эпоху?