Войти в систему
Войти с помощью соц. сетей:
Пока мы все отрываемся на свадебной техновечеринке, нам не помешало бы задуматься о том, какую цену придется завтра заплатить за этот банкет.
В 1961 году Артур Кларк – один из отцов-основателей футурологии, оказавший огромное влияние на мою работу, – сказал следующее: «Любая достаточно развитая технология неотличима от магии»103. Сегодня мы можем видеть, что Кларк оказался прав: в предыдущих главах мы уже отмечали достижения науки и технологий, которые выходят за рамки самых смелых фантазий.
Магические свойства технологий стали важным фактором развития коммерческой, экономической и социальной сфер, обеспечили рост и успех на рынке таких компаний, как Google, Apple, Facebook, Amazon, Baidu, Tencent и Alibaba. Магические силы технологий также благоприятствуют в первую очередь американским и китайским компаниям-единорогам: Baidu, Dropbox, Uber и Airbnb, появившимся на рынке сравнительно недавно.
Когда поисковик Google только начинал работать в 1988 году, найти с его помощью подходящий результат по простому запросу «дешевые билеты до Лондона» было уже своего рода магией. Так же как, например, заказать книгу из любой точки мира с доставкой буквально через несколько дней. Со следующей волной инноваций пришли новые дешевые развлекательные платформы: Netflix, Hulu, ViaPlay, Spotify и YouTube, навсегда изменившие наше отношение к медиа и стоимость медиа сервисов.
Чудеса сейчас повсюду. Включите Shazam, поднесите смартфон поближе к источнику музыки – и приложение определит, что это за песня и на какой платформе ее можно будет приобрести для дальнейшего прослушивания. Этот кажущийся сейчас простым квест по определению и поиску новой музыки раньше был гораздо более затруднительным. Теперь это стало проще, чем позвонить по телефону.
Для большинства из нас мобильные устройства и приложения воплощают чудеса технологий. Создается такое впечатление, что для решения любой проблемы в нашей жизни можно найти свое приложение, при условии, что мы располагаем достаточно мощным смартфоном с подключенным мобильным интернетом.
Только в одном Apple Appstore можно найти тысячи приложений для редактирования изображений и сотни приложений для знакомств. Существует бесчисленное множество приложений для составления расписания и назначения встреч и приложений, которые помогут при разводе. Есть также несколько полезных сервисов с уведомлениями о мокром подгузнике (Tweetpee), множество приложений, с помощью которых можно дистанционно заниматься практикой вуду, а также, что немаловажно, – все допустимые виды звуковых симуляторов выпускания газов!
Магия – вот всемирный двигатель индустрии технологий и мобильных устройств, объясняющий, почему смартфоны стали для нас важнее, чем компьютеры. Пирамида потребностей Маслоу изменилась соответствующим образом: вместе с базовыми потребностями в пище, воде, одежде и жилье мы также должны включить в этот раздел мобильные устройства, смартфоны и wi-fi – то, что теперь считается более важным, чем секс, дружба и престиж! Вероятно, в ближайшем будущем мы сможем также включить в эту последовательность наших умных цифровых помощников.
Даже повседневные и ничем не примечательные вещи и процессы обретут некую магическую силу, когда в нашу жизнь войдут интернет вещей, беспилотные автомобили, ИИ и умные помощники. Например, Libelium, ведущий волшебник в В2В-сегменте, хочет оживить мир с помощью внедрения умных ферм, умных городов и умной энергетики104. Это можно осуществить с помощью широкой сети датчиков, все подключенные к которой «тупые» устройства или аппараты (будь то трактор в поле или дерево в парке) станут умными.
Каждая умная труба сможет измерить свою температуру, пропускную мощность, уровень производимого ей шума и многие другие показатели. Каждый фонарь будет знать, сколько мимо него прошло людей и проехало машин, какие MAC-Bluetooth-адреса можно было обнаружить неподалеку и насколько сильно загрязнен воздух – спросите что угодно, дайте ей необходимые инструменты, и умная система сможет это определить и измерить. Учитывая возможные прибыли, нет ничего странного в том, что все технологические компании теперь инвестируют в интернет вещей.
Магический эффект выведет масштаб и темпы роста технологий за границу всех наших ожиданий. iPhone – это волшебство (по крайней мере, был таковым для большинства людей не так давно). iPad, дополненная и виртуальная реальности, машины Tesla, очки HoloLens от Microsoft… новые чудеса появляются каждую минуту.
Что важно, цены на все эти магические штучки продолжают падать, и, как и в случае с наркотиками, низкая цена и легкодоступность волшебных средств всегда влияет на то, как глубоко и быстро они распространяются. Уже через пять лет очень дорогостоящая магия (анализ генома или даже суперкомпьютерные вычисления) будет доступна за бесценок. Только представьте, как это изменит нашу жизнь: личное волшебное королевство станет доступно каждому. Все проблемы можно будет решить с помощью технологий. Мы постепенно превратимся в богов.
Сегодня магия технологий выходит за пределы аппаратов и вещей: она уже не заключается только в устройствах, гаджетах, сервисах или связи. Она все больше затрагивает нас самих, наше тело, сознание и человечность.
Многие исследователи недавно предоставили подтверждения тому, как интернет и в особенности социальные сети заставляют нас реагировать физически105. Они выяснили, что наше тело вырабатывает эндорфины и дофамин из-за того, что какой-то незнакомец за тысячи километров от нас поставил лайк под нашей записью или написал комментарий, который заставил нас почувствовать то, что нас ценят. Оказывается, что это предустановленная биологическая реакция, которую нельзя осознанно контролировать. Это объясняет растущую популярность социальных сетей у публики на фоне не столь привлекательных коммерческих сайтов и сайтов интернет-продаж.
Ключевым ингредиентом в составе ведущих социальных сетей является как раз таки подобная «ловушка удовольствия»106. Именно поэтому в январе 2016-го я решил сократить пользование Facebook, так как, постоянно подвергаясь эмоциональным и интеллектуальным манипуляциям со стороны его алгоритмов, я чувствовал, что движусь к бесчеловечности. Однако через шесть недель я понял, что 60 % посетителей моих сайтов попадают на них через Facebook, и над другими стратегиями привлечения аудитории еще придется поразмыслить. Пока что я продолжаю публиковать записи в Facebook, но я перестал использовать его как источник новостей и средство коммуникации.
Кроме обеспечения очевидной магической притягательности социальных сетей, эта сверхъестественная сила также ускоряет процесс внедрения различных технологий, которые раздражают наши чувства и заставляют сердце биться быстрее. Например, пересматривая видео, снятые с помощью камеры GoPro во время велосипедной поездки по горам Аризоны, мы уже как будто получаем порцию адреналина. WhatsApp творит свою магию, позволяя нам связаться с близкими в любой момент, где бы они ни находились, и разделить с ними те чудеса, которые происходят с нами.
Безусловно, большинство из этих технологий благоприятны, я и сам с удовольствием пользуюсь многими из них. Такие проблемы, как зависимость от технологий, их чрезмерное использование и неуверенность в социализации в реальной жизни, обсуждались в последние несколько лет, но в основном их признали несерьезными явлениями, на которые ссылаются луддиты, люди, живущие в офлайне, и сторонники цифрового детокса. Меня часто спрашивают, что же страшного в привлекательности технологий. Попробую ответить.
Я считаю, что сегодня мы находимся в точке поворота на экспоненциальной кривой и у подножия поворота истории. В какой-то степени наши ученые и инженеры-технологи сейчас оказались в той же ситуации, что в свое время Альберт Эйнштейн. Несмотря на то что он считал себя пацифистом, в 1939–1940 годах он убеждал президента Рузвельта не затягивать с разработкой атомной бомбы, чтобы не оказаться вторыми после немцев. В 1941 году Эйнштейн непреднамеренно поспособствовал развитию атомной бомбы, решив некоторые сложные математические задачи, с которыми не мог справиться Вэнивар Буш и которые препятствовали развитию ядерной программы США107.
Историк Даг Лонг комментирует ситуацию следующим образом:
Биограф Эйнштейна, Рональд Кларк, утверждает, что атомную бомбу создали бы и без писем ученого, но наверняка не так быстро, чтобы можно было применить ее в войне против Японии108.
В ноябре 1954-го, за пять месяцев до своей смерти, Эйнштейн так отозвался о своей роли в создании атомной бомбы:
В своей жизни я совершил одну большую ошибку. Это произошло тогда, когда я подписал письмо президенту Рузвельту и предложил создать атомную бомбу. Единственным, что оправдывает тот шаг, была опасность, что атомную бомбу сделают и немцы109.
Человеческий дух должен цениться выше достижений прогресса.
– Альберт Эйнштейн110
Аргументы, похожие на те, которые оправдывают Эйнштейна в 1939-м, сейчас звучат в поддержку разработки многообещающих экспоненциальных технологий: общего искусственного интеллекта, геоинженерии (с ее помощью можно будет контролировать погоду), автономных систем вооружения, редактирования человеческих генов. Самые распространенные из них звучат так: «если мы этого не сделаем, то это сделает кто-то другой (возможно, злодей) и оставит нас позади», «кроме опасностей, эти технологии также принесут миру большую пользу – глупо было бы этим не воспользоваться», «невозможно отменить изобретение или перестать изобретать совсем – стремление к творению заключено в человеческой природе».
Мой ответ всегда одинаков: технологии не являются злом или благом, они просто есть. Это мы должны определить, здесь и сейчас, как можно использовать технологии во благо и как избежать их использования во зло.
Пока вы это читаете, ученые изобретают и тестируют технологии мощнее атомной энергии и ядерного оружия. Резких прорывов не избежать, и прогресс невозможно остановить, просто указав на то, что нам необходимо применить к нему превентивный принцип и убедиться, что все эти новые технологии прежде всего безопасны (см. главу 8).
Главная сложность для меня заключается в следующем: как нам убедиться в том, что эти неизбежные технологические достижения останутся на 98 % волшебными и будут использоваться на благо человечества, а не перейдут вдруг на темную сторону? Подумайте о таких достижениях, как редактирование генома в целях предотвращения развития раковой опухоли. А теперь представьте эти же технологии, работающие на создание человеко-животных созданий и приводящие к активному появлению киборгов (человеко-машинных существ). Или людей, использующих эти технологии для внесения изменений в свой генетический код.
Эти устремления вполне могут сравниться с использованием ядерной энергии для создания атомных бомб и в будущем смогут привести к многочисленным «цифровым Хиросимам».
Какими будут этические нормы по использованию технологий? Можем ли мы вообще прийти к единому мнению относительно их этической основы? Каким образом можно склонить все страны к согласию на определение и сдерживание темных сторон технологического прогресса? Кто будет следить за нарушениями этих договоренностей? Как избежать вступления на тот путь, который приведет нас к «нашим последним изобретениям»111, по Джеймсу Баррату? Ввиду этих вопросов споры вокруг цифровой этики представляются делом первостепенной важности (см. главу 10).
Экспоненциальный рост данных, информации, возможностей подключения к сети и интеллекта представляет собой новый двигатель цифрового мира, способный привести к кардинальным изменениям во всех сферах нашей жизни. Мы сейчас в шаге от того, чтобы перейти от использования компьютеров только для выполнения некоторого набора математических вычислений и алгоритмов к возможностям, по мощности сравнимым разве что с атомной энергией.
Компьютер на основе одного кубического дюйма нанотрубок в своем завершенном виде может быть в сто миллионов раз более мощным, чем человеческий мозг.
– Рэй Курцвейл. «The Singularity is Near: When Humans Transcend Biology»112
Наука и технологии уже наделили нас огромной властью. Через 20–30 лет мы сможем наблюдать точки поворота на кривой во многих сферах, которые приведут, например, к повсеместным квантовым вычислениями и возникновению так называемой сингулярности. Пока мы стремительно движемся вверх по кривой, мы будем становиться все более властными, открывая для себя новые ранее невообразимые возможности. Но, как говорили многие исторические фигуры, от Вольтера до отца Супермена: «С великой силой приходит большая ответственность»113.
Для начала: как мы сможем использовать огромную мощь экспоненциальных технологий, чтобы приблизить человеческое счастье? Как нам удостовериться в том, что мы тратим достаточно усилий для разработки правил и соглашений, которые спасут нас от пагубных последствий? Как нам определить, где заканчивается волшебство?
Вместе с экспоненциальным увеличением того, что я называю магическим коэффициентом, проблемы, касающиеся использования технологий во зло, также будут постепенно обостряться, пока не достигнут критической отметки.
Несмотря на то что я в общем придерживаюсь оптимистичного взгляда на наши способности управляться с мощью экспоненциальных и комбинаторных изменений, я осознаю, что в отдельных случаях мы рискуем перейти от магии к мании и вреду в достаточно короткие сроки.
Поэтому мы просто не можем себе позволить следовать за плохими проводниками. Каждый день человечество сталкивается с новыми вызовами, магический коэффициент ускорения развития технологий вот-вот начнет стремительно расти и до мании останется рукой подать.
Как уже упоминалось, мы сейчас находимся у поворотной точки на кривой экспоненциальных и комбинаторных изменений, где все человеческое благосостояние может быть либо значительно улучшено благодаря технологиям, либо значительно ухудшено. Скоро вопрос уже будет не в том, может ли (и если да, то каким образом) магия технологий быть реализована – ответ всегда будет положительным. Вопросы, которые мы начнем себе задавать, будут следующими: «Почему это нужно делать?», «Кто будет нести за это ответственность?» и «Что это может значить для будущего человечества?»
Чтобы сохранить среду, благоприятную для процветания человека, нам придется думать о незапланированных последствиях и считаться с издержками. Нам нужно будет приглядываться даже к тем из них, которые изначально не входят в бизнес-модель, как, например, глобальное потепление вследствие нашей зависимости от ископаемых видов топлива. Мы должны включить эти потенциальные проблемы в нашу повестку, и целостное мышление должно стать нашим главным подходом к их решению.
Магический взрыв вот-вот случится на фоне супермощных и супербыстрых технологий, которые наделяют нас божественными полномочиями. Умные цифровые помощники скоро станут суперумными, вездесущими, невидимыми, дешевыми и внедренными во все, что можно, включая нас самих.
То место, которое мы занимаем сейчас, в смысле технологического прогресса кардинально отличается от предыдущих фаз развития технологической магии. Экспоненциальные и комбинаторные изменения произведут магические манипуляции другого масштаба – большего, чем мы можем себе вообразить. Забронировать отель через поисковик – это одно дело, но, когда умный помощник (Siri от Apple, Cortana от Microsoft, M от Facebook или Amelia от IPSoft) планирует за нас все путешествие от начала до конца – это уже совсем другой уровень. И это все – учитывая тот факт, что современные умные помощники в будущем можно будет сравнить с фордовским Model T, на смену которому пришли Ferrari и Tesla. То ли еще будет!
Привычная поисковая система представляет собой инструмент, и мы просто пользуемся им, как пользуемся молотком при строительстве дома. В случае с умными помощниками все наоборот – как если бы мы позволили молотку самостоятельно разработать его дизайн. Становится все труднее определить, где заканчиваются инструменты и начинаемся мы.
В последнее время перекладывать работу на плечи умных помощников становится общепринятой практикой. Siri может отвечать на вопросы и моментально соединять нас с источником информации, Alexa – заказать книгу и прочитать ее вслух, Amelia – забронировать путешествие. Умные цифровые помощники – это приложения нового поколения, и их популярность еще больше вырастет в ближайшие несколько лет.
А теперь представьте себе, насколько мы можем отдалиться друг от друга, сколько навыков мы можем потерять из-за наших бесплатных, вездесущих и гиперумных помощников:
• Они будут знать о нас все: любую информацию, все наши коммуникации, передвижения, все, что мы храним в цифровом формате.
• Они будут знать буквально все о наших интересах, намерениях и желаниях в любой момент времени, независимо от того, связаны они со сделками, организацией встречи или чем-либо иным.
• Они смогут контактировать с миллионами других помощников, чтобы создать мощную сеть – глобальный облачный мозг.
• Они смогут общаться на более чем 50 языках от нашего лица. И это только начало.
Диджифрения – то, как медиа заставляют нас быть более чем в одном месте одновременно.
– Дуглас Рашкофф. «Шок настоящего: когда всё происходит прямо сейчас»114
Нет никаких сомнений в том, что перед скоростью, мощностью, удобством и развлекательным потенциалом этих помощников будет просто невозможно устоять, и я думаю, что это точно приведет к массовой деквалификации и эмоциональному отдалению людей друг от друга. Помощники будут продолжаться там, где заканчиваются смартфоны, врываясь в частное пространство наших мыслей, ожиданий и привычек. С этого момента уже будет недалеко до прямого нейронного и гибридного интерфейсов.
Подумайте о 3D-принтере: если бы можно было моментально распечатать любое вкусное блюдо, продолжили бы мы готовить? Если бы у нас было устройство с моментальным встроенным переводчиком, стали бы мы по-прежнему изучать иностранные языки? Если бы мы могли управлять компьютером с помощью мозговых волн, учились бы мы печатать? Если необходимость – мать изобретений, то выбор – отец отречения?
Способность уместить в одной руке мощность компьютера, который в 1970-х занимал целую комнату, доступная нам сегодня благодаря iPhone и Android, сама по себе невероятна. Представьте себе квантовую мощность миллиона таких устройств, доступную в умном облаке, которой можно управлять с помощью голоса, жеста или даже мысленной команды через интерфейс «мозг – компьютер».
Когда этот магический технологический переворот наконец свершится:
• Практически все товары превратятся в услуги ввиду всеобщей автоматизации, интеллектуализации и перехода на цифровой формат. Это повлечет за собой серьезные экономические последствия, так как во всех сферах настанет изобилие: сначала в музыке, фильмах и книгах, затем в транспорте и финансовых сервисах, и в конце концов в медицине, пищевой промышленности и энергетике. Я думаю, что изобилие в итоге приведет к развалу капитализма, каким мы его знаем, и началу новой эры посткапитализма.
• Мы, люди, станем почти всесильными и в то же время очень зависимыми от наших технологических инструментов и не сможем без них функционировать, как сейчас не можем обходиться без еды и воды.
• Нам постоянно будет хотеться свести к минимуму наши человеческие странности, такие как склонность к размышлениям и воображению, или даже полностью от них отказаться, потому что они будут нас только замедлять (и всех окружающих вместе с нами).
• Мы станем легкой мишенью для манипуляций и злоупотребления влиянием со стороны тех, кто умеет пользоваться системой.
• Мы окажемся на полпути к превращению в машины, чтобы лучше вписываться в новый механизированный мир.
• Благодаря технологическим достижениям в биологии наши биологические системы станут легко заменимыми, лишними и в итоге превратятся в рудименты.
• Технологии станут доминировать над миром, у них будет своя, единственная правда, и все наши различные культуры, символы, модели поведения и ритуалы, передающиеся из поколения в поколение, могут кануть в небытие.
Вопрос заключается в том, останутся ли экспоненциальные технологии инструментами. Я думаю, что нет, потому что в случае с молотком и даже с электричеством и интернетом, если они вдруг исчезнут, не без труда, но мы сможем без них обойтись. Электричество и доступ к интернету вовсе не так важны, как вода и кислород, они просто делают нашу жизнь легче.
Экспоненциальные технологии, напротив, по свойствам больше напоминают кислород и поэтому уже не могут рассматриваться как инструменты. Они станут необходимыми условиями существования нас уже в другом качестве, не полностью человеческом. И вот здесь, я считаю, нам стоит подвести черту. Ведь тогда мы сами обратимся в технологии, потому что они будут важны для нас, как воздух. Эту черту нам не следует переступать – по крайней мере, добровольно или случайно. Одно дело частично превратиться в машину в результате аварии или болезни – это разумный выход, и совсем другое – сделать это по собственной воле или будучи запрограммированным.
Представьте себе жизнь после этого магического переворота: новые инструменты, в миллион раз более мощные, чем сегодня, почти бесплатные, доступные где угодно и когда угодно. Непостижимые. Привлекательные. Перед ними невозможно устоять. Нужно ли нам просто уступить прогрессу и принять неизбежное, соединив воедино человека и машину, или стоит занять более активную позицию и самим повлиять на формирование того, что мы будем или не будем изобретать?
Суждено ли нам самим стать технологиями, потому что их волшебство скоро проникнет в наши тела? Давайте ответим на несколько простых вопросов. Кто захочет жить без этих суперспособностей? Будем ли мы чувствовать себя неполноценными, если не сможем пользоваться нашими магическими технологиями? Будем ли мы чувствовать себя так, как будто остались без слуха или зрения? Готовы ли мы будем принять эти технологии в качестве продолжения себя, как мы это уже сделали в случае со смартфонами? Затуманится ли полностью наше понимание того, где мы, а где не мы (то есть Они или Оно)? Что будет означать эта тотальная медиазация для нашего мировосприятия, способности принимать решения, эмоционального мира?
Я обеспокоен тем, что мы уже сейчас начинаем путать волшебные возможности инструментов-технологий с наркотическим эффектом, возникающим от постоянного подключения к сети, медиазации, перехода на экраны, моделирования и виртуализации. Магия превращается в манию, которая вызывает зависимость, искушает нас и многого требует в ответ. Так что же произойдет, когда магический коэффициент достигнет 1000, когда технологии станут бесконечно мощными, дешевыми и неотъемлемыми от нас?
Сначала мы создаем инструменты, затем инструменты создают нас.
– Маршалл Маклюэн115
Я боюсь, что мы вступаем в тот период экспоненциального роста, когда, если он ничем не сдерживаем, он уже не может привести к счастью человечества, как его определял Аристотель в эвдемоническом смысле человеческого единения и вклада в общее дело (см. главу 9). Я боюсь, что новые технологии ограничат нас, а не послужат нашему развитию, будут представлять собой не ключ к расширению возможностей, а орудие порабощения, замаскированное под подарок – троянского коня огромных размеров.
Становится ясно, что переход от магии к мании и вреду может совершиться стремительно, с неожиданными последствиями, трагическими и пагубными. Удовольствие и ощущение чуда, которое у нас возникает, когда мы делимся изображениями с семейного отдыха на Flickr, разделяют миллионы людей. Этот сервис был доступен еще до появления iCloud, Dropbox и Facebook (самой большой мания-платформы, которую я могу себе представить), благодаря которым делиться своими материалами стало еще проще.
Тем не менее Flickr может спровоцировать сильные негативные эмоции, когда кто-то использует в своих целях те файлы, которые я размещаю для семьи и друзей, вырывая их из контекста и представляя в абсолютно другом свете. Например, когда в 2015 году голландская компания Koppie-Koppie хотела выпустить линейку кружек с милыми изображениями детей, они обратились к Flickr, чтобы бесплатно воспользоваться доступными изображениями семей по лицензии Creative Commons, 116.
Если изображения были загружены под этой лицензией, то, как считает Flickr, такое их использование правомерно. Приятный сюрприз? Большинство детей на этих фотографиях и их родители считают иначе. Без сомнения, это именно тот случай, когда технологии используются вопреки своему изначальному предназначению. Нежелательные последствия могут очень быстро разрастись, когда этому способствуют сетевые технологии.
Магия Flickr для многих пользователей была разрушена из-за различных интерпретаций прав использования изображений и их бесчестной эксплуатации в неожиданных контекстах. Возможно, это и не нелегально само по себе, но это настораживает. Случай с Koppie-Koppie – яркий пример того, как магия может обратиться во вред.
То, что произошло с Koppie-Koppie, можно назвать случайной неприятностью (если это, конечно, не коснулось изображений ваших детей), которая принесла небольшой осязаемый ущерб. Однако это заставляет задуматься: а если наша общая принадлежность к чему-то, что кажется очень удобным и полезным для всех, наделяет это что-то такой властью, что оно станет способно к самостоятельному целеполаганию, сможет найти себе причину для существования и жить своей жизнью? Facebook служит примером такого развития, и поэтому я максимально ограничил для себя его использование.
Что, если эта инстанция, наделенная сверхвластью, начнет посягать на наши негласные желания сохранить личное личным, а мы не сможем этому противиться, потому что станем слишком зависимы от нее? Что, если мы настолько погрузимся в эту новую субстанцию, что забудем, где заканчиваемся мы и начинается она?
Что, если технологические способности систем и уровень их интеллекта вырастут в тысячи, в миллионы раз, как нам обещают квантовые и когнитивные компьютеры (в миллион раз более скоростные, чем обычные) и программное обеспечение, которое не надо будет программировать, потому что оно всему научится само?
Какими будут нежелательные последствия такого развития? Станут ли эти посредники и платформы впоследствии использовать наши данные в своих интересах, чтобы получать большую прибыль от нашего участия и оправдать финансовые ожидания своих владельцев и публичных рынков? Учитывая почти полное отсутствие надлежащего регулирования онлайн-платформ, неясно, смогут ли эти всевластные организации удержаться от того, чтобы не перейти границу между случайным и запланированным злоупотреблением данными.
Почему мы думаем, что этого не случится? Мы просто обязаны учитывать эти неприятные сценарии, потому что мы уже встали на путь развития экспоненциальных технологий. Власть социальных сетей в эпоху веб 2.0 (Web 2.0) покажется пустяком по сравнению с могуществом, которое возникнет, когда мы подсоединим всех к единому мощному облачному хранилищу интернета вещей, содержащему постоянно самообучающиеся ИИ-системы наподобие Watson от IBM и DeepMind от Google. Абсолютно все наши данные, включающие даже самые личные медицинские и биологические сведения, станут доступными, и мы и моргнуть не сможем без того, чтобы об этом не узнали как в цифровом, так и в реальном мире.
Я думаю, что технологии и те, кто их обеспечивает, станут гораздо лучше определять, кто мы, что мы думаем и как нами управлять, – и это все без особых затрат. Поэтому нам нужно уделять особое внимание разграничению того, где заканчиваемся мы и где начинаются они, т. е. тому, где наша человечность пересекается с их технологичностью, пока они не стали совсем неотделимы друг от друга.
В таком мире совершенно точно возникнут определенные проблемы. Например, как изменится наше восприятие из-за пузырей фильтров, которые приведут к тому, что мы будем читать и видеть только то, что нам подобрали алгоритмы? Как мы справимся с рисками предвзятости и манипуляции, если даже не будем знать, по какой логике выбирается то, что мы видим и что не видим?
Мы должны начать оттачивать свои навыки наблюдения и оспаривания для того, чтобы власть имущие больше считались с нашими требованиями. Как это повлияет на ожидания от политиков и государственных деятелей?
Сегодня мы уже пользуемся простыми формами машинного интеллекта, например мобильными картами, программами электронной почты или приложениями для знакомств. Но пока еще приложения вроде TripAdvisor лишь могут нам сказать, что другие люди думают о том или ином ресторане, не обладая при этом самостоятельным знанием нашей кулинарной истории за последние 20 лет. Они пока не могут заглянуть внутрь нашего холодильника, монитора или туалета, что позволяет сделать новый японский сервис117, не могут связать между собой все эти данные и сравнить их с 500 млн других информационных точек других доступных пользователей. Тем не менее TripAdvisor все же весьма полезен, и там зарегистрированы почти все отели и рестораны. Если помнить о контексте его рейтингов и рекомендаций, это очень удобный сервис, несмотря на его низкий интеллект.
Этот прямолинейный и механический уровень сервиса скоро будет неминуемо превзойден быстроразвивающимися цифровыми помощниками. Следующее поколение помощников будет «жить» скорее в облаке, чем собственно внутри устройств, и они будут отслеживать все, что мы делаем, через наши мобильные гаджеты, системы домашней автоматизации, датчики и компьютеры. Только представьте квантовую мощность Watson от IBM, доступную на мобильном устройстве – не нужно даже касаться клавиатуры, можно просто задать вопрос. Затем все, что нам надо будет сделать, – это подумать и отправить команду через интерфейс «мозг – компьютер». Появления суперчеловека осталось ждать недолго.
В 2016 году Siri, Google Now и Cortana были уже способны отвечать на простые вопросы о погоде или местах, где можно найти определенные вещи, а ИИ от Gmail мог самостоятельно ответить на некоторые электронные письма. Скоро они без всякого контроля смогут назначать встречи и бронировать авиаперелеты. Они станут нашим другом-в-облаке, а потом мы не сможем без них обходиться, как без глаз и ушей. Но главный вопрос заключается в том, смогут ли они сделать нас счастливыми. И вообще, что такое счастье (см. главу 9)?
В опубликованной в 2015 году статье «Является ли Cortana опасным шагом к искусственному интеллекту?» писатель Брэд Джонс объясняет:
ИИ формируют свою собственную личность и становятся все более умными, собирая данные и информацию из окружающего мира. Однако новые знания постепенно заполнят все доступное пространство, и, когда это случится, ИИ станет неуправляемым. В этом состоянии ИИ будет считать себя выше людей, создавая у себя иллюзорное ощущение собственной силы и ума118.
Неясно, смогут ли эти помощники выполнять задачи, на которые они изначально не были запрограммированы. Этого результата, как мы уже упоминали, ждут от глубокого обучения – машины, способной к самостоятельному обучению, думающей, а не просто следующей коду.
Эти «продолжения нас» будут использовать экспоненциальные мощности нейронных сетей, глубокого обучения и когнитивных вычислений, чтобы обеспечить нас эффективными, персонализированными и упреждающими сервисами. С течением времени у них неминуемо начнут развиваться прекогнитивные способности. Добавьте ко всему ДР/ВР и интерфейсы «мозг – компьютер» – и не будет предела для достижений цифровых умных помощников будущего.
В тот момент, когда мой умный помощник будет знать всю мою историю и любую информацию обо мне в реальном времени, а также сможет сравнить ее с данными миллионов других помощников, подключенных к одной сети, он сможет с уверенностью предсказывать мои действия и реакции. Добро пожаловать в программу профилактики преступлений, где правонарушения можно будет предотвратить на основании собранных ботами данных о зарождающихся намерениях людей, даже если сам человек не будет о них знать. Британская компания Precobs уже тестирует подобные программы в работе местной полиции119.
И также добро пожаловать в мир потенциальных глобальных политических манипуляций через цифровой контент и медиа, в которых цифровые помощники будут нашими официальными представителями, а может быть, из практических соображений – даже нами самими. Может ли умный помощник стать жертвой манипуляций или умышленно вступить в сговор с целью повлиять на мои решения?
Как говорила еще в 2013 году компания Gartner, мобильные устройства синхронизируются со мной, видят меня, знают меня… и скоро они превратятся в меня120. И снова я задаю себе вопрос: приведет ли это к процветанию человечества? Я сильно в этом сомневаюсь.
В ближайшем будущем мы уже сможем наблюдать, как наш цифровой помощник пытается договориться с цифровым помощником авиакомпании, чтобы нам в ближайшие шесть минут были оформлены лучшие по цене и качеству билеты на Гавайи. И, разумеется, помощник будет совершать за нас большую часть покупок, ведь он сможет сделать это более эффективно, постоянно собирая сведения о подарочных купонах и распродажах, анализировать ситуацию и мгновенно принимать лучшие решения. Все, что мне нужно, – это подумать о покупке, и она уже ждет меня. Моментальное удовлетворение потребностей в мире полного изобилия. Но в то время как снаружи нас ожидает это самое изобилие, внутри нас все сильнее будет проявляться нехватка чего-то важного: отношений, общества, ценностей, духовности, убеждений.
Для многих ученых и технологических детерминистов из Кремниевой долины растущая мощность умных цифровых помощников ближайшего будущего не представляет собой никакой опасности – что плохого в том, чтобы использовать помощников, которые справляются с задачами чуть лучше, чем мои сегодняшние приложения, верно? В таком случае давайте рассмотрим более настораживающие возможные сценарии будущего.
Подумаем о том, что для того, чтобы быть великолепными, быстрыми и интуитивно предугадывать все наши желания, умным цифровым помощникам (нашим блистательным устройствам и продолжениям нас самих, личным облачным роботам) придется знать действительно многое о нас. На самом деле им, вероятно, придется знать о нас абсолютно все, отбирать информацию в реальном времени из всех доступных источников и постоянно обновлять ее. И многие из нас будут считать, что не имеют ничего против того, чтобы такая система располагала этими данными. Это позволит постоянно улучшать качество услуг, что сделает нашу жизнь еще проще: действительно, как ничтожна цена, которую нужно заплатить за это удивительное удобство и наши возрастающие силы!
Мы добровольно соглашаемся на то, чтобы за нами следили, – примерами тому могут послужить наши две любимые функции «сохранить» и «поделиться», обеспечивающие наш постоянный контакт с платформой. Google мастерски удается таким образом удерживать нас в своей постоянно расширяющейся вселенной, и Google – это лишь один пример такой глобальной платформы, которая хочет стать чем-то вроде всемирного мозга, дублирующего информацию о каждом пользователе в своем облаке. Возможность следить за нами – это как деньги в банке для компаний, работающих исключительно на данных: Google, Baidu, Alibaba, Facebook – компаний, которые не предлагают нам никаких материальных товаров, но специализируются на обработке данных и продвижении рекламы и информационных суперузлах. Представьте их мощность, в тысячи раз увеличенную с помощью ИИ и интернета вещей, – и увидите, как их доходы станут заоблачными.
Итак, какие же проблемы могут возникнуть из-за умных цифровых помощников? Вот несколько примеров того, что они могут спровоцировать.
• Обострение проблем с безопасностью и настройками приватности.
Умного помощника могут взломать, обмануть, запугать или подкупить – тем или иным способом заставить его передать информацию о пользователе другому ИИ, которого он встретит на просторах сети. Например, он может разгласить пароли, с помощью которых третьи лица смогут отправлять электронные письма, делать покупки и пользоваться социальными медиа от лица своего владельца. Масштаб бедствия, следующий за такой комплексной утечкой информации, может привести к непоправимому ущербу, а владелец помощника может при этом оставаться в полном неведении!
• Экспоненциальное слежение.
Цифровой помощник будет фиксировать все, что происходит в нашей виртуальной и реальной жизни, 24 часа в сутки, семь дней в неделю и 365 дней в году. Любой человек или устройство с соответствующими полномочиями или правами (настоящими или поддельными) сможет получить доступ к этой информации. Это означает, что любое лицо, обладающее некоторыми навыками взлома интернет-ботов, сможет сгенерировать наш профиль или повесить на нас ярлык подозреваемого, диссидента или опасного элемента. Они смогут использовать разрозненные и вырванные из контекста обрывки информации, чтобы манипулировать нами. Представьте, как объемы данных, доступные боту-помощнику, расширяются и углубляются путем соединения их с другими потоками данных, например с лентами новостей в социальных сетях. Результаты могут превзойти даже самые антиутопические предсказания Джорджа Оруэлла.
Таким образом, неконтролируемое использование облачных ботов и умных помощников волей-неволей приведет к злоупотреблениям и преследованию, особенно в тех странах, где нет четкой политики по защите персональных данных или где правительство уже продемонстрировало полное безразличие к праву своих граждан на неприкосновенность частной жизни. Другой повод для беспокойства заключается в том, что правительства смогут получить доступ к умным цифровым помощникам и нашим «цифровым эго»: либо легально, через парадную дверь, либо в скрытом режиме – через заднюю дверь, лазейку в коде. Соответственно и любая другая хакерская организация сможет сделать то же самое. Я боюсь себе представить, что может произойти, если мы станем до такой степени «обнаженными» в нашей цифровой жизни.
• Растущая деквалификация.
Представьте, что я так часто обращался за помощью к помощнику, что разучился делать некоторые вещи самостоятельно: ориентироваться в незнакомом городе, искать достоверную информацию онлайн, бронировать билет на самолет, работать с электронными таблицами, писать от руки – все это вполне вероятно. Логично предположить, что так можно очень скоро потерять те навыки, которые формируют бытие человека, например, навык общения без посредников, каким бы медленным оно ни было и к каким бы ошибкам ни приводило. Сделаем ли мы людей легко заменимыми? Стоит ли нам все автоматизировать только потому, что можем?
• Диджифрения (замечательный термин, который ввел Дуглас Рашкофф, чьи книги я советую вам почитать)121.
Одной из движущих сил человеческой деквалификации является наше всевозрастающее желание находиться в разных местах одновременно. Такие технологии, как телеприсутствие (telepresence), обмен сообщениями и социальные сети, в какой-то степени нам это позволяют, и многие ради них готовы поступиться своей реальной жизнью.
Цитата Дугласа:
Диджифрения – это попытка существования одновременно в нескольких местах. У нас есть Twitter, Facebook, почтовый ящик. В этих мини-инстанциях мы действуем одновременно и параллельно. И для большинства людей это не очень удобная позиция122.
• Взаимодействие с машинами и экранами, а не с людьми.
Многие задачи и процессы, выпадающие на долю людям, подразумевают общение с другими, будь то поход за продуктами или встреча, посвященная организации мероприятия. Безусловно, некоторые из этих взаимодействий не являются особенно ценными, как, например, разговор с турагентом по поводу брони билетов или звонок работнику банка по поводу выбора оптимального варианта для инвестиций – лично я вообще не вступаю в такие взаимодействия.
Так что да, некоторые из простых задач могут взять на себя машины без ущерба для человеческих отношений – я не думаю, что нам действительно нужно становиться друзьями с работником банка, чтобы узнать, куда вложить 5000 евро. Тем не менее нам нужно лишний раз подумать, прежде чем автоматизировать прочие, более человечные взаимодействия, как, например, поход к доктору, даже если мы обратились к нему с простудой, а не с эмфиземой. В некоторых случаях действительно удобнее было бы узнать свой диагноз, не выходя из дома. В других случаях это привело бы к дегуманизации отношений между врачом и пациентом, потому что взаимодействия, которые действительно имеют большое значение, не должны подвергаться автоматизации.
Представьте себе, что большая часть наших взаимодействий с коллегами по работе подверглась автоматизации, что уже становится возможным благодаря таким стартапам, как X.ai, разработавшим приложение, выполняющее роль автоматизированного ассистента123.
Хотя автоматическое внесение поправок в групповой календарь ничем не грозит, получать электронные письма, по которым нельзя определить, кто их написал – сам человек или его цифровой помощник, – уже менее безобидно. Дальше хуже: как бы мы себя почувствовали, если бы наши родители стали общаться с нами через помощника?
К чему это приведет? Как далеко мы собираемся зайти? Кто определяет, где заканчивается ИИ и начинается человек? Придем ли мы к тому, что цифровой помощник будет приглашать людей к нам на день рождения, заказывать еду, выбирать музыку, составлять милую подборку фотографий и даже создаст сайт специально для этого события? А затем расскажет мне, как правильно радоваться на моей собственной вечеринке? Поможет ли мне это в установлении контактов с другими, или я упрощу себе эту работу только для того, чтобы потерять ее смысл? Будем ли мы всё больше общаться с машинами из соображений удобства?
• Манипуляция в невообразимых масштабах.
Если мы доверим принятие решений нашим помощникам, то в первую очередь это затронет медиа и контент. Это и так уже происходит на базовом уровне в социальных сетях. Наши помощники смогут находить и фильтровать для нас новости, подбирать фильмы и в целом разбираться в наших социальных медиа. Технологии уже сейчас могут решать, что нам лучше смотреть, читать и слушать. Но облачный разум при поддержке экспоненциальных технологий во много раз превзойдет то, что мы имеем сегодня.
В будущем то, что видят миллионы людей и на что они обращают внимание, будет контролировать небольшая группа ботов и ведущие производители цифровых помощников. Сложно представить, какую цену бренды и рекламщики готовы будут заплатить за то, чтобы их заметили правильные пользователи в подходящее время и в нужном месте.
Рост популярности цифровых помощников вызывает у меня следующие вопросы:
1) Что, если эта цифровая копия меня передаст мою информацию не в те руки, например страховой компании или органам социального обеспечения, которые будут использовать ее для принятия решения о выплате или невыплате пособия?
2) Что, если мой цифровой помощник будет лучше меня принимать решения, и поэтому я доверю ему решать также, на ком мне жениться, куда переезжать, заводить ли детей, куда отправить их учиться?
3) Что, если мой помощник будет фильтровать все новости и информацию таким образом, что я никогда больше не увижу противоположные точки зрения, и что, если логика, по которой он фильтрует информацию, будет задаваться специальными кампаниями, чьей целью будет повлиять на мнение избирателей?
Gartner предсказывают, что к концу 2016-го сумма всех покупок, совершаемых цифровыми помощниками, включая комплексные покупки, как, например, набор «собери ребенка в школу», составит два миллиарда долларов в год. Это значит, что примерно 2,5 % пользователей мобильных устройств доверяют своим помощникам 50 долларов в год.
– «The World of Digital Assistants – Why Every day AI Apps Will Make up the IoT»124
Стремительное развитие цифровых помощников подводит меня к тому, чтобы обновить свое любимое выражение: «Google знает о нас больше, чем наши жены и мужья». Когда такой помощник, как Google Now, собирает всевозможные данные обо мне: местонахождение, историю браузера, покупки, лайки, электронные письма, карты, просмотры на YouTube, – ставки увеличиваются. Как я обычно говорю, по шкале от 0 до 100 всего того, что может быть автоматизировано, мы находимся на пяти… и мы уже близки к тому, чтобы потерять контроль над ситуацией.
Я постоянно возвращаюсь к концепции «то ли еще будет». Увеличение масштабов интернета вещей будет дополнительно способствовать росту умных цифровых помощников, генерируя еще больше данных, которые можно будет загрузить в глобальный мозг, объединяющий все эти системы. Все больше «тупых» кусков аппаратуры, как дрели, фермерское оборудование, трубы, переключатели и коннекторы, будут оборудованы датчиками и беспроводными сетевыми соединениями. Уже скоро можно будет получить реальные данные, подключившись к любому окружающему нас предмету.
Недавнее исследование утверждает, что социальные сети – настоящие, состоящие из людей, которых вы знаете в реальной жизни, а не в Facebook и Twitter, – так же важны для здоровья, как физические нагрузки и правильное питание. Более того, состояние здоровья напрямую зависит от количества социальных связей.
– Чарли Соррел. «Прекрати быть одиночкой, это убьет тебя»125
Существует множество причин, по которым критики в адрес перехода от мании к магии и вреду почти не слышно. Ниже представлены три из них.
1. Огромные прибыли. Соединять людей, извлекать выгоду из экспоненциального технологического прогресса и обеспечивать потребителей дешевыми и вызывающими зависимость мобильными устройствами – лучших возможностей для бизнеса не придумаешь. Обеспечение людей чудесами цифровой техники, также известное как экономика данных, скоро превзойдет секторы транспорта и энергетики, и никто не хочет этому мешать126. В обществе, где прибыль и рост служат мерилами успеха, пагубные побочные эффекты считаются издержками, а не проблемами.
2. Отсутствие регулирования и бездействие политиков. В отличие от таких сфер, как использование и поставка природных ресурсов (воды, газа, нефти), применение ИИ, вызывающих зависимость технологий, использование больших массивов наших личных данных в коммерческих целях в социальных сетях почти никак глобально не регулируется. Это большое упущение, которым необходимо заняться.
3. Зависимость от технологий («мобильные устройства вместо сигарет»). Экспоненциальные технологии, которые стремятся сделать нашу жизнь проще, паразитируя на нашей лени и желании всем нравиться, вызывают зависимость и оказывают эффект, схожий с наркотическим. Привычки формируются очень быстро: Вы тоже проверяете свою электронную почту последний раз перед тем, как лечь спать? Чувствуете себя одинокими без подключения к своей любимой социальной сети и беззащитными без карт Google и мессенджеров?
Суть проблемы заключается в том, что, продавая чудеса цифровых технологий и добавляя сверху эффект зависимости и вредные последствия, компании открывают для себя величайшие возможности цифровой эры, и в любом случае это ничем не отличается от того, как производители фастфуда и сигарет добавляют в свою продукцию вызывающие зависимость компоненты. При экспоненциальных темпах развития нам нужно будет пересмотреть и, вероятно, свернуть эту стратегию, если мы хотим прийти к обществу, где человеческое счастье является высшей ценностью.
Мы часто используем фразу «это стало моей второй натурой» для описания инструментов или технологий, которые кажутся естественными. Например, люди говорят: «Всегда носить с собой мобильный стало моей второй натурой» или «Контактировать с друзьями через Facebook – это вторая натура». Эта фраза характеризует то, что вошло в привычку, то, что делается само собой без лишних мыслей.
Ставить лайки на Facebook, делиться изображениями и видео по WhatsApp и быть постоянно на связи с помощью мобильных устройств – все это составляет нашу вторую натуру. К ней же относятся карты Google и Siri (для пользователей Apple iPhone). Она не подразумевает долгих раздумий, это уже сформировавшаяся привычка (почти как естественный процесс, вроде дыхания), которую мы не подвергаем сомнению, а просто действуем на автомате. В большинстве случаев это уже превратилось в манию на грани фола: как часто вам чудилось, что карман вибрирует, несмотря на то что телефон остался дома?
Сейчас, когда мы вступили в круговой водоворот экспоненциальных технологических изменений, мы можем наблюдать, как технологии (или их владельцы) претендуют на то, чтобы стать нашей первой натурой, т. е. природой, естеством. Разумеется, это еще одна отличная возможность для бизнеса. Если быть «просто человеком» станет недостаточно или слишком обременительно, почему бы не обратиться к технологиям, чтобы «прокачать» или «обновить» себя? Почему бы не сделать из технологии природу и не сравняться с машинами?
Идея дополнения людей технологическими особенностями относится к сфере интересов бизнеса, стремящегося обратить в деньги наше желание стать более совершенными и в то же время сделать нашу жизнь проще. Для многих людей уже вошло в привычку носить Fitbit и пользоваться другими приложениями для здоровья, браслетами, компьютерными устройствами и датчиками, которые прикрепляются к курткам и рубашкам («Да, конечно, я слежу за состоянием моего тела и всех моих физиологических показателей с помощью этих устройств – это очень удобно и естественно»). Так называемое измерение себя становится очень популярным и превращается в целую индустрию. И я очень боюсь, что этот тренд может скоро привести к «порабощению себя» или, еще хуже, к «отуплению себя», так как, позволяя внешним технологиям думать и чувствовать за нас, мы провоцируем деквалификацию.
Представьте, какие другие человеческие надстройки могут стать частью нашей природы, потому что они слишком хороши для того, чтобы от них отказываться, и при этом легкодоступны и практически бесплатны. Это могут быть устройства дополненной и виртуальной реальностей (например, Microsoft HoloLens) и голограммы, позволяющие нам перемещаться в виртуальное пространство, где мы сможем взаимодействовать друг с другом совсем как в жизни127. Эти устройства могут пригодиться нам для похода в музей, хирургам во время операции, пожарной бригаде при входе в неизвестное здание. Но я думаю, нам не стоит делать их своей второй природой (и ни в коем случае не первой).
Не будем заблуждаться: многие из этих устройств, платформ, сервисов – открыто и намеренно или непредумышленно – стремятся стереть границу между нами (человеческой природой) и ними (второй природой) только потому, что это сделает их незаменимыми и очень выгодными для коммерческих целей.
Я больше не смогу быть здоровым без всех этих отслеживающих приложений – страшно подумать, как мы вообще раньше могли без них существовать! Миссия выполнена.
Я настаиваю на том, что мы не должны подпускать технологии ближе чем на уровень второй натуры, хотя уже сейчас почва плывет у нас под ногами. Если технологии станут нашим естеством, то это будет означать, что и мы в свою очередь стали технологиями, а это плохой путь к счастью, как я неоднократно утверждаю на протяжении этой книги.
Следующий отрывок из интервью Стивена Талботта для Nature Institute как нельзя лучше комментирует эту непростую ситуацию:
Мы сможем сохранить баланс между нами и технологиями, только если будем подходить с особенным вниманием к нашим особенностям, качественным показателям, к тому, что происходит вокруг нас здесь и сейчас. Вот основное правило, в первый раз озвученное, если я не ошибаюсь, Рудольфом Штейнером: так же, как мы вовлечены в существование, поддерживаемое машинами, мы должны обратиться к и собственным глубинам, иначе мы все потеряем свою человечность128.
То, как мы используем технологии, делает возможность перехода от магии к мании и вреду весьма вероятной, учитывая все новые их экспоненциальные достижения. Как часто мы ловим себя на мысли, что провели в интернете или играли с новым приложением целый час и даже не можем вспомнить, что же мы хотели там найти? Спуститься в кроличью нору могут и отдельные люди, но что произойдет, когда все общество отправится вслед за ними? И от каких уникальных человеческих впечатлений мы уже отказались в пользу интернета, мобильного телефона, облачных сервисов, ботов и умных помощников?
Как нам определить, в какие моменты мы переступаем границу между магией и манией? Когда мания превращается во вред? И каким будет этот вред, когда от него придется спасать не отдельного человека, а всю человеческую культуру? Теперь, когда techne становится самостоятельным субъектом, а не только средством, сможем ли мы быть достаточно сильными и осведомленными для того, чтобы очнуться?
Войти с помощью соц. сетей: