Войти в систему
Войти с помощью соц. сетей:
Приведет ли интернет вещей к тому, что мы будем вынуждены отказаться от человечности и стать более похожими на машины, только чтобы с нами продолжали считаться?
Как уже упоминалось, развитие технологий приводит к появлению интернета вещей, который Cisco также называют «интернетом всего», а GE – промышленным интернетом.
Его идея проста: когда все будет взаимосвязано и информацию безостановочно будут собирать отовсюду, мы получим возможность открывать новые истины и даже предсказывать и предотвращать события. Брюс Шнайер, эксперт по вопросам конфиденциальности и безопасности, называет этот искусственный облачный мозг взаимосвязанных между собой устройств, сенсоров, аппаратов и процессов «паутиной размером с мир»97. Такой интернет может привести к новой эре оптимизации и гиперэффективности, но как это скажется на человеческих взаимодействиях?
Интернет вещей позволит сэкономить значительные средства и приведет к переходу на устойчивую многооборотную экономику (circular economy), при которой ресурсы будут использоваться повторно или перерабатываться после первичного использования и, таким образом, отходы полностью исчезнут98. Интернет вещей станет возможным благодаря подключению датчиков ко всем предметам и установлению виртуальных связей между ними. Следующим шагом будет являться применение ИИ и предсказательной аналитики (predictive analytics), чтобы создать метаинтеллект, который сможет лучше читать, понимать и применять данные в экспоненциальных масштабах.
Из разговоров со сторонниками интернета вещей по всему миру я узнал, что если все задуманное осуществится, то расходы на логистику и перевозку грузов сократятся на 30–50 %, на индивидуальную мобильность (personal mobility) и транспорт – на 30–70 %, на электричество, отопление и кондиционирование – на 40–50 %.
Потенциальные экономические выгоды такой сети не могут не привлекать. Интернет вещей – это по-настоящему масштабное явление, и он, вне всякого сомнения, превзойдет привычный «интернет людей + компьютеров».
Все то великое, что приходит в жизнь смертных, несет с собой проклятие.
– Софокл
Интернет вещей будет на порядок более мощным, чем сегодняшний интернет людей, и поэтому он с большой вероятностью вызовет некоторые нежелательные последствия. Повсеместное использование интернета вещей может оказаться раем или адом, но в любом случае курс на его развитие закладывается уже сейчас.
Сегодня мы часто сталкиваемся с негативными последствиями интернета. Давайте предположим, что возможность слежения, потеря приватности и цифровое ожирение действительно появились непреднамеренно. В таком случае нам стоит задуматься о том, насколько широкий доступ к нашей информации мы готовы будем предоставить провайдерам платформ и инструментов, посредством которых будет осуществляться интернет вещей. Также необходимо понять, как можно будет обеспечить нашу безопасность без глобальных соглашений, действенных санкций, саморегулирования и независимого надзора.
Ведущие платформы, облачные провайдеры и другие технологические компании, работающие в США, уже сейчас не могут помешать Агентству национальной безопасности, ФБР и другим государственным структурам считывать всю информацию с наших устройств. Как будут события развиваться через пять-семь лет, когда в мире будет более двухсот миллиардов подключенных к сети устройств?
В самом худшем случае интернет вещей может стать кульминацией машинного мышления – самой совершенной шпионской операционной системой, огромной сетью наблюдения, насаждающей полное подчинение и уничтожающей все оставшиеся намеки на анонимность100.
Представьте себе мир, в котором:
• автомобили, подключенные к сети, передают все данные о своем местоположении и перемещениях в реальном времени;
• все платежи осуществляются с помощью умных устройств, а наличные деньги, кошельки и кредитные карты стали достоянием истории;
• лечащий врач может легко узнать, как часто его пациент вставал со своего кресла за последнюю неделю, сколько он прошел пешком и каким было его сердцебиение, пока он дремал в самолете;
• наши «внешние мозги» (мобильные устройства) теперь напрямую подключаются к нашим обычным мозгам с помощью интерфейса «мозг – компьютер» или имплантов;
• все и вся становится информационными маячками, генерирующими тысячи гигабайтов информации в день, которая затем собирается в облако, фильтруется и анализируется такими компаниями, как Watson от IBM и DeepMind от Google, которые ежесекундно применяют к ней свои ненасытные самообучающиеся глобальные ИИ-мозги.
Эффективность может с легкостью превзойти человеческие возможности во всех смыслах, и тогда нами станет управлять огромное машинное программное обеспечение, способное к самостоятельному обучению, которое в буквальном смысле будет съедать наш информационный вклад до тех пор, пока даже такое минимальное человеческое участие не перестанет быть необходимым. К этому моменту мы станем представлять меньшую ценность, чем технологии, создателями которых мы являемся.
Суверенитет, присущий человечеству на протяжении десятков тысячелетий, будет поставлен под угрозу – и не какими-нибудь пришельцами, а сторонниками технологий и их программами по гипермеханизации.
Если мы сегодня не можем определить, какими этическими принципами мы должны руководствоваться при пользовании интернетом и прочими устройствами, то как мы сможем принять решение по поводу чего-то, что в разы превышает сферу охвата нашей привычной сети? Стоит ли нам оставаться спокойными по поводу того, что нас ждет, только потому что мы можем не терять самообладание?
Сегодня у нас есть стандарты, инструкции и договоренности, регулирующие развитие биотехнологий и биоинженерии, например, инструкции, принятые на конференции Asilomar по рекомбинаторной ДНК в 1975 году101. У нас также есть договоры о нераспространении ядерного оружия. Тем не менее у нас еще нет похожих договоренностей в сфере данных и интеллекта, которые являются «нефтью» цифровой эры. Несмотря на то что данные уже стали самым мощным двигателем экономики, мы все еще не подписали глобальный договор, в котором бы оговаривалось, что можно, а что нельзя делать с личными данными более 3,4 миллиардов интернет-пользователей102. Договоренностей по когнитивным вычислениям или искусственному интеллекту также еще не существует. За исключением появления ядерного оружия, в истории человечества произошло мало кардинальных изменений, вызвавших столь незначительную реакцию. Экспоненциальное использование данных, а также ИИ уже весьма скоро действительно превзойдет влияние ядерного оружия, но тем не менее ИИ остается почти неконтролируемой сферой.
Кто сможет проверить, насколько правильно поступают ведущие компании в области ИИ и данных? Кто проконтролирует новые замечательные интернет-вещи, чтобы они поступали правильно? И что это вообще значит – правильно? Кто это определяет? Сможем ли мы вообще понять, что правильно, а что нет?
Что помешает новым хозяевам Вселенной не только обратить все процессы и аппаратное обеспечение в данные, но и превратить людей в вещи, будь то случайно или намеренно? Несмотря на восторг, который интернет вещей вызывает у всей технологической индустрии, – это риск, на который мы не можем пойти бездумно и без применения крайних мер предосторожности.
Мы должны обеспечить соблюдение баланса, который будет способствовать настоящему человеческому развитию, уравновешивая технологии, ступающие экспоненциальными шагами, беспокойством о человеческой сущности, и иногда вбрасывая отвлекающий вопрос о ней между нулями и единицами, которые начинают управлять нашей жизнью.
Я скромно предлагаю применить обновленную версию превентивного принципа (см. главу 8) к тем, кто собирается обеспечить и осуществить благое влияние интернета вещей. Он будет ограничением, гарантирующим, что интернет вещей не сможет навредить тем, кому придется существовать под его властью. Это в первую очередь относится к тем, кто будет контролировать интернет вещей; только установив, что эти лица несут ответственность, мы сможем двигаться дальше. В то же время нам предстоит проявлять активный подход к развитию этих технологий и не препятствовать инновациям.
Вопрос уже не заключается в том, чтобы выбрать «либо одно, либо другое», или в простом соединении этих двух стратегий. Homo sapiens вступают на доселе неизведанную территорию, спустя 70 лет после того, как было принято неоднозначное политическое решение и военный эксперимент по использованию ядерного оружия был реализован. Мы продолжаем идти навстречу миру больших данных, и на этот раз уже без какой-либо новой войны, которая могла бы оправдать это движение. Тем не менее мы движемся в этом направлении так легко, как будто думаем, что у нас будет возможность остановиться в любой момент. Интернет вещей сможет окружить человечество и изменить его сущность, точно так же как он сможет наделить богоподобным всемогуществом своих владельцев. Нам нужно принимать меры предосторожности и одновременно оставаться верными прогрессу – но два этих фокуса больше не могут существовать отдельно и продвигаться отдельными группами людей.
Войти с помощью соц. сетей: