Приложение
Опасности экспоненциальных технологий
Почему мы не нужны будущему
Одно из первых основательных исследований опасностей, которые таят экспоненциальные технологии, появилось в апреле 2000 года в журнале Wired, где Билл Джой (в то время – руководитель исследовательского отдела в Sun Micro-systems) опубликовал ставшую знаменитой статью «Почему мы не нужны будущему» (Why the Future Doesn’t Need Us). Джой утверждал, что самые мощные технологии XXI века: робототехника, нанотехнологии и генная инженерия – угрожают существованию человечества, что оставляет нам только один выход:
опыт ученых-атомщиков ясно показал нам, что необходимо брать на себя личную ответственность, что существует опасность, что процесс пойдет слишком быстро и что он может стать совершенно неуправляемым. Мы можем, как сделали эти ученые, практически мгновенно создать непреодолимые проблемы. Если мы не хотим быть так же неприятно удивлены и потрясены последствиями наших действий, нам нужно как следует обдумать все в самом начале… Нас втягивает в этот новый век без плана, без контроля и без тормозов.
…Единственная реалистичная альтернатива, которую я вижу, это отказ от разработок: мы должны ограничить развитие слишком опасных технологий, ограничив свое стремление к определенным областям знаний.
И хотя я не согласен с выводом Джоя (по причинам, которые мы еще обсудим), он прав в своей оценке ситуации. Экспоненциальные технологии действительно могут представлять собой серьезную опасность. Хотя эта опасность не находится в центре внимания нашей книги, было бы большим упущением вообще обойти данную тему. Именно ей и посвящен этот раздел. Хочу сразу предупредить, что обсуждение опасностей и потенциального ущерба от новых технологий будет здесь недостаточно глубоким, учитывая серьезность проблемы. Мне бы просто хотелось, чтобы вы сознавали существование этой проблемы, а также я попытаюсь дать вам общее представление о ситуации и побудить к дальнейшему чтению на эту тему.
Представить себе эти опасности совсем не сложно – в Голливуде уже проделали большую работу по их живописанию. Такие фильмы, как «Я, робот», «Терминатор» или «Матрица», – классические истории о том, как злые умные роботы захватили власть над человечеством, в то время как «Бегущий по лезвию», «Гаттака» и «Парк Юрского периода» фокусируются на опасностях генетических манипуляций. Нанотехнологии, похоже, не столь кинематографичны – эта тема поднята лишь в фильме «День, когда земля остановилась» (2008). Но этот фильм дает нам весьма точную версию описанного Эриком Дрекслером сценария «серой слизи», в котором самореплицирующиеся наноботы вырываются на свободу и поглощают все на своем пути. Конечно, в Голливуде с фактами обращаются без особой тщательности, но опасность тут описана вполне адекватно. Говоря совсем просто: неправильные технологии в неправильных руках не могут привести ни к чему хорошему.
Каждый год в Университете сингулярности я провожу серию семинаров, на которых обсуждается эта тема. На семинарах мы пытаемся перечислить и расставить по приоритетности апокалиптические сценарии ближайшего и более отдаленного будущего. Проблемы ближайшего будущего постоянно оказывается в фокусе – и поэтому станут основной темой этого раздела: опасность биотехнологий в руках террористов, продолжающийся рост киберпреступности и потеря рабочих мест из-за развития сферы робототехники и AI. Поговорим о каждой отдельно.
