Примечания
Введение
1. Несмотря на явные параллели между техническим развитием и биологической эволюцией (рассмотренной как в модели Дарвина, так и в модели Ламарка), многие процессы определенно отличаются. Отбор, адаптация и факторы, определяющие приспособленность, оказывают влияние на технологию, но, возможно, наибольшее различие состоит в человеческой воле, которую мы считаем движущей силой технического прогресса. Естественный отбор – не целенаправленный процесс, а значит, у природы нет никакой причины, замысла и конечной цели. Только люди способны ставить цели, хотя влияние человека на результат может быть весьма незначительным. Благодаря человеку на протяжении всей истории технологической эволюции присутствовал замысел и детерминистские факторы.
2. Эволюция живых организмов за сравнительно небольшой период времени обусловлена различными факторами (как и предполагает теория прерывистого равновесия). Однако ее изучение на протяжении длительного периода говорит о тенденции к выравниванию. Некоторые события, например появление полового размножения, могут ускорить темпы эволюции, но в целом рекомбинация, мутация и прочие факторы, ведущие к генным изменениям, происходят в сдержанном линейном темпе. Напротив, технологическая эволюция происходит в геометрической прогрессии, что обусловлено, хотя бы отчасти, цепями положительной обратной связи, созданными за счет предыдущих достижений.
3. Во многих научных трудах и исследованиях поддерживается концепция ускорения технических изменений, в том числе в работах специалистов в технических областях, таких как Станислав Улам, Ричард Бакминстер Фуллер, Рэй Курцвейл, Вернор Виндж и Кевин Келли.
4. The Art of Human-Computer Interface Design. Laurel, B., Editor. Addison-Wesley. 1990.
Глава 1
1. "Emergence of Individuality in Genetically Identical Mice." Julia Freund, Andreas M. Brandmaier, Lars Lewejohann, et al. Sc/ence.Vol. 340, No. 6133 (May 10, 2013), pp. 756–759, doi:10.1126/science,1235294
2. "Sources of human psychological differences: the Minnesota study of twins reared apart." Thomas J. Bouchard Jr.; David T Lykken; Matthew McGue; Nancy L. Segal; Auke Tellegen; Science, Oct 12,1990, v250 n4978 p223(6)
3. "How Many People Have Ever Lived on Earth?" Population Reference Bureau, http://www.prb. org/Publications/Articles/2002/HowMan-yPeopleHaveEverLivedon Earth.aspx
4. Найдутся читатели, придерживающиеся той точки зрения, что уникальностью и сознанием нас наделяет наша душа. Поскольку это вопрос веры, который нельзя рассматривать, прибегая к таким научным методам, как объективное наблюдение и опровержимость, его нельзя рассматривать в книге, подобной этой.
5. "Unfortunately, there are almost as many theories of emotion as there are emotion theorists." Jesse J. Prinz. The Oxford Handbook of Philosophy of Cognitive Science. Oxford University Press (2012); "It is fairto say that there are as many theories of emotion as there are theorists." Neal M. Ashkanasy, Charmine E. J. Hartel, W J. Zerbe. Emotions in the Workplace: Research, Theory, and Practice. Praeger(2000); "It's been said that there are as many theories of emotions as there are emotion theorists," Joseph LeDoux. Hard Feelings: Science's Struggle to Define Emotions. Beck, J., The Atlantic, Feb 24, 2015.
Глава 2
1. Супруги Лики также нашли в тот период некоторые каменные инструменты поздней ашельской культуры.
2. S. Semaw, Р Renne, J. W К. Harris, et al. "2.5-million-year-old stone tools from Gona, Ethiopia." Nature. Vol. 385, No. 6614. pp. 333–336 (January 23,1997).
3. McPherron, S.P, Alemseged, Z. "Evidence for stone-tool-assisted consumption of animal tissues before 3.39 million years ago at Dikika, Ethiopia." Nature 466, 857–860 (August 12, 2010).
4. Harmand, S, Lewis, J. E., et al. "3.3-million-year-old stone tools from Lomekwi 3, West Turkana, Kenya." Nature 521, 310–315 (May 21, 2015).
5. Pinker, S. The Language Instinct: How the Mind Creates Language. William Morrow and Co. 1994.
6. Gibbons, A. "Turning Back the Clock: Slowing the Pace of Prehistory." Science, October 12, 2012:189–191; University of Montreal. "Family genetic research reveals the speed of human mutation." ScienceDaily, June 13, 2011.
7. Venn, O.; Turner, I; Mathieson, I; de Groot, N.; Bontrop, R; McVean, G. "Strong male bias drives germline mutation in chimpanzees." Science, June 13, 2014 (1272–1275)
8. Arcadi, A.C. "Vocal responsiveness in male wild chimpanzees: implications for the evolution of language." (August 2000). J Hum Evol 39 (2): 205-23.
9. Merriam-Webster.com. Phoneme: the smallest unit of speech that can be used to make one word different from another word. 2015. http:// www.merriam-webster.com
10. Lai C. S., FisherS. E., Hurst J. A., Vargha-Khadem F, Monaco AP "A fork- head-domain gene is mutated in a severe speech and language disorder" (2001). Nature 413 (6855): 519-23.
11. Enard W, Przeworski M., Fisher S. E., Lai C. S., Wiebe V, Kitano T, Monaco A. P, Paabo S. "Molecular evolution of FOXP2, a gene involved in speech and language." Nature. 2002; 418: 869–872.
12. Сегодня эта излишняя самоуверенность известна как когнитивное искажение, называемое эффектом Даннинга – Крюгера. Суть в том, что люди с низким уровнем знаний переоценивают свои способности. https://en.wikipedia.org/wiki/Dunning-Kruger_effect
13. Christiansen, M.H.; Kirby, S. "Language evolution: consensus and controversies." TRENDS in Cognitive Sciences. Vol. 7 No. 7. July 2003.
14. Philosophical Transactions of the Royal Society B. "The neural and cognitive correlates of aimed throwing in chimpanzees: a magnetic resonance image and behavioural study on a unique form of social tool use," January 12, 2012, vol. 367 no. 1585 37–47.
15. Darwin, C; Ekman, P. The Expression of the Emotions in Man and Animals. Oxford University Press, 4th ed„2009.
16. Можно аргументировать в пользу более длинной клеточной линии, чем эта. Хемотаксис вызывает движение клеток в данном направлении в виде реакции на перепад (повышение или понижение) содержания какого-либо химического соединения. Так что химические сигналы мотивировали действие все время, начиная с первых одноклеточных организмов, способных передвигаться.
17. James, William (1884). "What Is an Emotion?" Mind 9 (34): 188–205. doi:10.1093/mind/os-ix.34.188.
18. Существует намного больше теорий, которые можно было рассмотреть. Для более глубокого и всестороннего обзора см.: Handbook of Emotions. Michael Lewis, Jeannette M. Haviland-Jones, Lisa Feldman Barrett (editors). Guilford Press, 3rd edition. 2010.
19. Johnny R. J., Fontaine, J. R. J., et al. "The World of Emotions Is Not TwoDimensional." Journal of Association for Psychological Science. Vol. 18, Num 12. 2007; Mauss, I. B., Robinson, M. D. "Measures of emotion: A review." Cognition and Emotion 2009, 23 (2), 209–237; Norman, G. J., Norris, C. J„Gollan, J., Ito, T. A., Hawkley, L. C., Larsen, J. T, Cacioppo, J. T, Berntson, G. G. "Current Emotion Research in Psychophysiology: The Neurobiology of Evaluative Bivalence." Emotion Review, July 20113: 349–359.
20. Веретенообразные нейроны, судя по всему, находятся в передней поясной коре, лобно-островковой коре и дорсолатеральной префронтальной коре головного мозга.
21. Nimchinsky, ЕА; Gilissen, Е; Allman, JM; Perl, DP; Erwin, JM; Hof, PR. "A neuronalmorphologic type unique to humans and great apes". PNAS96 (April 1999) (9): 5268-73.
22. Теория сознания – это способность моделировать и приписывать ментальные состояния себе и другим.
23. Allman, J. М., Hakeem, A., Erwin, J. М., Nimchinsky, Е. and Hof, Р, "The Anterior Cingulate Cortex." Annals of the NewYork Academy of Sciences (2001), 935: 107–117.
24. Люди и, возможно, некоторые другие виды, проявляющие самосознание.
25. LeDoux J. The Emotional Brain. NewYork: Simon and Schuster. 1996.
26. Ekman, P; Friesen, WV (1971). "Constants across cultures in the face and emotion." Journal of Personality and Social Psychology 17:124–129.
27. SharifF, A.F., Tracy, J.L. "What Are Emotion Expressions For?" Current Directions in Psychological Science, 2011.
28. Gallese, V, Fadiga, L., Fogassi, L., Rizzolatti, G. "Action recognition in the premotor cortex." Brain119 (1996).
29. Исследование не обнаружило абсолютно идентичного зеркального расположения нейронов. Лишь одна группа нейронов, которая возбуждалась при действии, также возбуждалась и при наблюдении за ней.
30. Это наверняка была бы эмоциональная или соматическая эмпатия, противоположность когнитивной эмпатии. Различие между этими разновидностями эмпатии рассмотрено в главе 18.
31. Kelly, К. What Technology Wants, рр. 11–12. New York: Penguin Group. 2010.
32. Stout, D. Khreisheh, N. "Skill Learning and Human Brain Evolution: An Experimental Approach." Cambridge Archaeological Journal 25: 867–875 (2015); Stout, D. "Tales of a Stone Age Neuroscientist." Scientific American, April 2016.
33. Различные исследования отмечают, что нарушенная гликемия натощак также играет решающую роль в торможении ответных реакций. Не могло ли это развиться как средство удержания фокуса при рассредоточении? Если так, то торможение ответных реакций могло распространиться и на поддержание социализации и централизованный контроль эмоций, что предположительно является еще одним последствием того, как рассредоточение изменило наш вид.
34. Michael A. Arbib. "The mirror system, imitation, and the evolution of language." In Imitation in animals and artifacts, 229–280, Kerstin Dautenhahn and Chrystopher L. Nehaniv (Eds.). MIT Press. 2002.
35. Yonck, R. "The Age of the Interface." The Futurist (May/June 2010).
36. Plato. "Phaedrus" (c. 370 BCE).
Глава 3
1. Damasio, A. Descartes' Error: Emotion, Reason, and the Human Brain, Putnam, 1994.
2. Это, по всей видимости, поддерживает точку зрения Уильяма Джеймса о том, что соотнесение эмоций следует за переживанием психологической реакции, а не наоборот.
3. В случае Эллиота причиной было отсутствие нейронной реакции на интроцептивные ощущения организма, причиной которого было церебральное нарушение, поскольку интроцепция – это ощущения внутренних органов, возникающие внутри организма.
4. Stanford Encyclopedia of Philosophy. Leibniz's Philosophy of Mind.
5. Термин «компьютер» первоначально означал человека или машину, чьей обязанностью были вычисления или масштабные расчеты. В Блетчли-парк эту работу выполняли исключительно женщины.
6. Та часть истории со взломом кода, которой не уделяют должного внимания, состоит в том, что группа, работавшая в Блетчли-парк, получила огромную поддержку от команды польских математиков, взломавших более раннюю версию немецкой шифровальной машины «Энигма» в начале 1930-х годов. Всем воздали по заслугам.
7. Эта работа также знаменита предложением провести для машинного разума испытание, которое с тех пор получило одноименное название теста Тьюринга.
8. Примерно в это же время руководитель Intel Дэвид Хаус заявил, что постоянное усовершенствование конструкции чипов приведет к удвоению продуктивности работы компьютеров каждые восемнадцать месяцев. Часто эту цифру ошибочно приписывают самому Муру. Ирония заключается в том, что оценка Хауса была ближе к реальному удвоению, происходившему раз в двадцать месяцев в течение первых четырех десятилетий действия закона Мура.
9. Google Inside Search: The official Google Search blog. "The power of the Apollo missions in a single Coogle search". August 28, 2012.
10. Существует значительное расхождение мнений об этих «законах». Однако им удается разумно описывать направление некоторых тенденций на протяжении данного периода времени, поэтому они важны. По ряду причин, среди которых повсеместно присутствуют сдерживающие факторы, их не стоит считать нерушимыми.
И. Kurzweil, R. "The Law of Accelerating Returns". KurzweilAI. March 7, 2001. http://www.kurzweilai. net/the-law-of-accelerating-returns
12. R. W Picard, "Affective Computing: From Laughter to IEEE," in IEEE Transactions on Affective Computing. Vol. 1. No. 1, pp. 11–17, January 2010.
Глава 4
1. Интерактивный опрос компании Harris от лица Crucial.com от 25–27 июня 2013 года, проведенный среди 2074 взрослых.
2. Ekman, Р. and Friesen, W. "Constants across cultures in the face and emotion" Journal of Personality and Social Psychology 17: 124–129, 1971. doi:10.1037/ h0030377
3. Ekman, P. and Friesen, W. "Facial Action Coding System: A Technique for the Measurement of Facial Movement." Consulting Psychologists Press, Palo Alto, 1978.
4. University at Buffalo. "Lying Is Exposed By Microexpressions We Can't Control". ScienceDaily, May5,2006.
5. Friesen, W.; Ekman, P. "EMFACS-7: Emotional Facial Action Coding System." Unpublished manual, University of California. 1983,
6. Essa, I. and Pentland, A. "A vision system for observing and extracting facial action parameters." In Proceedings of the Computer Vision and Pattern Recognition Conference, pp. 76–83. IEEE Computer Society, 1994.
7. Picard, R. W. Affective Computing. MIT Press (1997).
8. Благодаря усердной работе и творческому подходу многих членов группы по эмоциональному программированию разработано множество впечатляющих проектов. При всем старании упомянуть и признать заслуги каждого списки людей и проектов остаются далеко не полными.
9. Farringdon, J.; Tilbury, N.; Scheirer, J.; Picard, R. W. Galvactivator.
10. Daily, SB and Picard, R. W. Affect as Index.
11. Fernandez, R., Reynolds, CJ, Picard, RW. Affect in Speech: Assembling a Database.
12. El Kaliouby, R., Marecki, A., Picard, RW. EyeJacking: See What I See.
13. Goodwin, M., Eydgahi, H., Kim, K., Morris, RR., Lee, C.H., Picard, R. W. Emotion Communication in Autism.
14. IEEE Transactions on Affective Computing. Vol. 1. No. 1 (January 2010), pp. 11–17.
15. El Kaliouby, RA. "Mind-Reading Machines: Automated Inference of Complex Mental States." Dissertation. Newnham College, University of Cambridge. March 2005.
16. Khatchadourian, R. "We Know How You Feel." NewYorker, January 19, 2015.
Глава 5
1. Lipson, J. "Being First To Market Isn't Always Best: Ask Microsoft About Apple Watch." Forbes(April 29, 2015).
2. MarketsandMarkets.com. "Affective Computing Market by Technology (Touch-based & Touchless), Software (Speech, Gesture, & Facial Expression Recognition, and others), Hardware (Sensor, Camera, Storage Device & Processor), Vertical, & Region Forecast to 2020." September 3, 2015.
3. Hinton, G.; Salakhutdinov, R. "Reducing the Dimensionality of Data with Neural Networks". Science 313: 504–507. 2006.
4. Здесь слово «вдохновленный» было бы лучше, чем «смоделированный». Как упомянуто в главе 17, такое моделирование может зайти так далеко лишь при работе с двумя разными компонентами, такими как нейроны и транзисторы.
5. Что интересно, прапрадедом Хинтона был математик и логик Джордж Буль, чья работа считается одним из истоков информатики.
6. 2014 Strata Conference + Hadoop World, New York, NY. Ranael Kaliouby keynote: "The Power of Emotions: When Big Data meets Emotion Data."
7. "Millward Brown launches neuroscience practice." Ad Week, April, 2010.
8. Посредством их управляющей компании WPP pic.
9. Леванон утверждает, что их технология может распознавать ряд заболеваний на основании того, как они могут изменять голос, например за счет определенной разновидности дрожания или колебания.
10. Полагаю, могло бы быть и так, что одна и та же нейронная сеть активируется с помощью других звуков, в частности эмотивной музыки. Различия в реакции людей на определенный музыкальный фрагмент могут определяться точно в соответствии с организацией этой системы.
11. ZDNet. Brown, Е. "Emoshape gives emotional awareness to gaming and artificial intelligence devices." November 19, 2015.
12. Генетическое секвенирование все еще было абсолютно новой технологией в 1990-е годы, и те, кто не работал в этой сфере, включая адвокатов, ведущих патентные дела, и экспертов по оценке заявок, не имели в полной мере представления о задействованных в нем процессах. Патенты, выданные на гены BRCA1 и BRCA2 соответственно в 1997 и 1998 годах, были чересчур общими и в конце концов были признаны недействительными в 2013 году. Как единогласно решил Верховный суд США, «естественно встречающийся сегмент ДНК является продуктом природы и не может быть защищен патентом только на основании того, что был выявлен».
13. TEDWomen 2015. el Kaliouby, R. "This app knows how you feel – from the look on your face." May 2015.
14. Там же.
Глава 6
1. Dissertation: "The Quiet Professional: An investigation of U.S. military Explosive Ordnance Disposal personnel interactions with everyday field robots." 2013. Carpenter, J. University of Washington.
2. "Soldiers are developing relationships with their battlefield robots, naming them, assigning genders, and even holding funerals when they are destroyed." Reddit, 2013.
3. Там же.
4. "Personal Robot That Shows Emotions Sells Out in One Minute." Gaudin, S. ComputerWorld. June 22, 2015.
5. Теория сознания, https://en.wikipedia.org/wiki/ Theory_of_mind
6. Редукционизм – в данном контексте идея о том, что сознание можно свести к ряду физических процессов, которые затем можно имитировать или воспроизводить на другом носителе или в другой среде при наличии достаточно развитой технологии. Ney, A. Reductionism. Internet Encyclopedia of Philosophy. IEP, University of Tennessee.
7. Это предполагает, что робот или ИИ действительно переживает теорию сознания, а не имитирует при помощи алгоритмов.
8. Breazeal, С. Designing Sociable Robots. MIT Press. 2002.
9. TED Talk: "Cynthia Breazeal: The rise of personal robots." TEDWomen 2010.
10. MIT Media Lab – Personal Robots Group, http:// robotic.media.mit. edu/project-portfolio/systems/
11. "JI BO, The World's First Social Robot forthe Home." Indiegogo. https:// www.indiegogo.com/projects/ jibo-the-world-s-first-social-robot-forthe-home. www.indiegogo.com/projects/jibo-the-world-s-first-social-robot-for- the-home
12. E. Guizzo. "The Little Robot That Could… Maybe." IEEE Spectrum. Vol. 53, issue 1. January 2016.
13. Hanson Robotics web site. http://www.hansonrobotics. com/about/ innovations-technology/
14. TED talk: "David Hanson: Robots that 'Show Emotion'." TED2009.
15. "Muoio, D. Toshiba's latest humanoid robot speaks three languages and works in a mall." Tech Insider. November 9, 2015.
16. Smith, M. "Japan's ridiculous robot hotel is actually serious business." Engadget. July 31, 2015.
17. Burns, J. "Meet Nadine, Singapore's New Android Receptionist." Forbes. January 15, 2016.
18. Riek, L., Rabinowitch, T, Chakrabarti, B., Robinson, P. "How anthropomorphism affects empathy toward robots." Proceedings, HRI 2009 Proceedings of the 4th ACM/IEEE international conference on Human robot interaction, pp. 245–246.
19. Rosenthal-Von Der Putten, A., et al. "Investigations on empathy towards humans and robots using fMRI." Computers in Human Behavior, 33, pp. 201–212, April 2014.
20. Fisher, R. "Is it OK to torture or murder a robot?" BBC.com. November 27, 2013.
21. Turkle, S. Alone together: Why we expect more from technology and less from each other. New York: Basic Books. 2011.
Глава 7
1. Mori, М. "Bukimi no tani." Energy. Vol. 7. No. 4, pp. 33–35,1970 (in Japanese). 1970; Mori, M. "The Uncanny Valley." K. F. MacDorman & N. Kageki, Trans. IEEE Robotics & Automation Magazine, 19(2), 98-100. (1970/2012). Перевод фразы «bukimi no tani», звучащий как «зловещая долина», не вполне верен. Более точным вариантом перевода было бы «долина суеверного страха».
2. Ранние переводы работы Мори «Зловещая долина» создавали путаницу по большей части из-за сложности передачи полного значения слова «shinwakan». В английском языке слову «shinwakan» будут эквивалентны слова со значением «близкое знакомство», «симпатичность», «уровень благорасположения» и «родство».
3. Steckenfinger, S. and Ghazanfar, A. "Monkey visual behavior falls into the uncanny valley." Proceedings of the National Academy of Sciences. Vol 106. No. 40, October 12, 2009.
4. Mathur, M.B. and Reichling, D.B. "Navigating asocial world with robot partners: A quantitative cartography of the Uncanny Valley." Cognition, January 2016; 146: 22–32. Epub, September 21, 2015.
5. Becker, E. The Denial of Death. New York: Simon & Schuster. 1973; Greenberg, J., Pyszczynski, T. & Solomon, S. "The causes and consequences of a need for self-esteem: A terror management theory". In Public Self and Private Self (pp. 189–212). R. F. Baumeister (ed.), Springer-Verlag (New York). 1986.
6. MacDorman, K. F. "Androids as experimental apparatus: Why is there an uncanny valley and can we exploit it?"
CogSci-2005, Workshop: "Toward Social Mechanisms of Android Science," pp. 108–118. July 25–26, 2005. Stresa, Italy.
7. Это может противоречить или не противоречить результатам упомянутого исследования на обезьянах, поскольку теория управления страхом смерти не должна применяться к другим видам, пока реакция на страх смерти не обоснована на инстинктивном уровне.
8. Фрагмент сложно объяснить словами, никого не обидев и избежав непонимания. Независимо от успешности или необходимости любой разновидности пластической хирургии, пациент после операции остается таким же человеком, каким и был до нее. Это также относится и к протезированию и прочим процедурам, которым может подвергнуться человеческое тело. Я пишу это, чтобы лучше понять явление, которое, по всей видимости, является очень распространенным, если не универсальным аспектом состояния человека. Хотя благодаря нашим биологическим особенностям мы можем испытывать чувства, это не значит, что мы можем перехватывать контроль над этими чувствами за счет интеллекта, надеясь навязать более сильную волю, выраженную в способности мозга к целенаправленной деятельности и социализации.
9. Синдром изоляции – это состояние, в котором пациент находится в сознании, но не может двигаться из-за полного паралича.
Глава 8
1. Mone, G. "The New Face of Autism Therapy." Popular Science, June 1, 2010.
2. Here Baron-Cohen uses the word "unlawful" to indicate actions that fall outside of what the subject expects to happen.
3. Mullin, E. "How Robots Could Improve Social Skills In Kids With Autism." Forbes, September 25, 2015.
4. Montalbano, E. "Humanoid Robot Used to Treat Autism." DesignNews, August 13, 2012.
5. Leyzberg, D. Spaulding, S. Toneva, M. Scassellati, B. "The Physical Presence of a Robot Tutor Increases Cognitive Learning Gains." CogSci 2012 Proceedings.
6. Bloom, B. "The 2 Sigma Problem: The Search for Methods of Group Instruction as Effective as One-to-One Tutoring," Educational Researcher, 13:6 (4-16), 1984; Wikipedia, https://en.wikipedia.org/wiki/ Bloom's_2_Sigma_Problem
7. При нормальном распределении два сигма- или два стандартных отклонения равны примерно 95,45 %. Однако в этой работе Блум ссылается на несколько источников данных, превышающих 90 %, и сосредотачивается на результате в 98 %.
8. Leyzberg, D., Spaulding, S., Scassellati, В. "Personalizing Robot Tutors to Individuals' Learning Difference." Proceedings of the 2014 ACM/ IEEE International conference on Human-robot Interaction, March 3–6, 2014, Bielefeld, Germany.
9. Korn, M. "Imagine Discovering That Your Teaching Assistant Really Is a Robot." Wall Street Journal.May 6, 2016.
10. Уровень достоверности – это вероятность того, что параметр будет находиться в границах определенного ряда значений. В данном случае речь идет о вопросах, отвечать на которые будет специально разработанный ИИ.
Глава 9
1. Grossman, D. On Killing: The Psychological Cost of Learning to Kill in War and Society. Back Bay Books. 1996.
2. Center for Military Health Policy Research, Rajeev Ramchand, and Inc ebrary. The War Within: Preventing Suicide in the U. S. Military. Santa Monica, CA: Rand Corporation, 2011.
3. DARPA. Sanchez, J. "Syste m s-Based Neurotechnology for Emerging Therapies (SUBNETS)."
4. Tucker, P. "The Military Is Building Brain Chips to Treat PTSD." Defense One. May 28, 2014.
5. Временное разрешение касается точности измерения в отношении времени, точно так же, как пространственное разрешение относится к точности относительно пространства, например когда речь идет о количестве пикселей в изображении.
6. Pais-Vieira, М., Lebedev, М., Kunicki, С., Wang, J., Nicolelis, M.A.L. "A Brain-to-Brain Interface for Real-Time Sharing of Sensorimotor Information", Scientific Reports, 3, February 28, 2013.
7. Yoo S. S., Kim H., Filandrianos E., Taghados S. J., Park S. "Non-lnvasive Brain-to-Brain Interface (BBI): Establishing Functional Links between Two Brains." PLoS ONE8(4): e60410. 2013.
8. Rao R. P., Stocco A., Bryan M., Sarma D., YoungquistT. M., Wu., Prat C. S. "A direct brain-to-brain interface in humans." PLoS One. November 5, 2014. 9(11): elll332.
9. Li, Guangye, and Dingguo Zhang. "Brain-Computer Interface Controlled Cyborg: Establishing a Functional Information Transfer Pathway from Human Brain to Cockroach Brain." Ed. Jacob Engelmann. PLoS ONE11.3: e0150667. PMC. May 1, 2016.
10. 711th Human Performance Wing. Wright-Patterson Air Force Base. Mission statement, http:// www.wpafb.af.mil/afrl/711HPW/
11. Young, E. "Brain stimulation: The military's mindzapping project." BBC Future. June 3, 2014.
12. 139 The US Department of Defense now refers to these as unmanned aerial systems, or UASs.
13. "Autonomous Weapons: An Open Letter from Al & Robotics Researchers." Future of Life Institute, 2015 International Joint Conference on Artificial Intelligence, Buenos Aires, Argentina. July 28, 2015.
14. Синтез с отбором единиц использует базы данных словесных единиц, таких как дифоны, морфемы, слоги и слова, для формирования законченных фраз в реальном времени с последующей обработкой, в результате которой они будут звучать естественно.
15. Joint Publication 1-02, Dept, of Defense Dictionary of Military and Associated Terms.
Глава 10
1. Taylor, Shelley E., et al. "Neural and Behavioral Bases of Age Differences in Perceptions of Trust." PNAS, vol. 109 no. 51, 20848-20852, doi: 10.1073/ pnas.1218518109. October 24, 2012.
2. Incapsula. "2014 Bot Traffic Report: Just the Droids You Were Looking For." December 18, 2014.
https://www.incapsula.com/blog/bot- traffic-report-2014.html
3. Knapp, M.L. and Comaden, M. E. "Telling It Like It Isn't: A Review of Theory and Research on Deceptive Communications." Human Communication Research, 5: 270–285. doi: 10.1111/j.l468-2958.1979.
4. Leakey, R. E. & Lewin, R. The People of the Lake: Mankind and Its Beginnings. Anchor Press/Doubleday. 1978.
5. Vrij, A. Detecting Lies and Deceit: Pitfalls and Opportunities. Wiley. 2000.
6. Wile, I.S. "Lying as a Biological and Social Phenomenon." The Nervous Child 1:293–317; Ludwig, AM. The Importance of Lying. Charles C. Thomas Publisher. 1965; Smith, EO. "Deception and Evolutionary Biology." Cultural Anthropology. Vol. 2,1987.
7. Bond CF, DePaulo BM. "Accuracy of deception judgments." Personality and Social Psychology Review 10: 214–234. 2006.
8. Dwoskin, E., Rusli, E.M. "The Technology that Unmasks Your Hidden Emotions." Wall Street Journal, January 28, 2015.
9. Brainerd, C.J., Stein, L.M., Silveira, R.A., Rohenkohl, G., Reyna, VF. "How Does Negative Emotion Cause False Memories?" Psychological Science. 19: 919. 2008.; Lunau, K. A 'Memory Hacker' Explains How to Plant False Memories in People's Minds. Motherboard. September 14, 2016.
Глава 11
1. Медицинские инструменты класса 2 проходят специальные процедуры контроля, гарантирующие их безопасность.
2. Moyle, W. "The effect of PARO on social engagement, communication, and quality oflife in people with dementia in residential aged care." Plenary address, National Dementia Research Forum, Sydney, September 2011.
3. "Population Projections for Japan (January 2012): 2011 to 2060." National Institute of Population and Social Security Research in Japan.
4. "Japan's Robotics Industry Bullish on Elderly Care Market, TrendForce Reports." TrendForce press release. May 19, 2015.
5. J. Holt-Lunstad, T. B. Smith, M. Baker, T. Harris, D. Stephenson. "Loneliness and Social Isolation as Risk Factors for Mortality: A Meta-Analytic Review." Perspectives on Psychological Science 10 (2): 227. 2015. doi: 10.1177/1745691614568352
6. "Loneliness among Older Adults: A National Survey of Adults 45 +". Wilson, C, & Moulton, B. 2010. Prepared by Knowledge Networks and Insight Policy Research. Washington, DC: AARP.
7. Astrid Rosenthal-von der Putten and Nicole Kramer. "Investigation on Empathy Towards Humans and Robots Using Psychophysiological Measures and fMRI." 63rd Annual International Communication Association Conference, London, England. June 17–21, 2013.
8. Аналогию с «удавом, проглотившим свинью», на протяжении многих лет использовали демографы при описании «бугра» на графике прироста населения, который происходит при «бэби-буме» на фоне сравнительно однообразного и скудного распределения в остальное время. Точно так же, как и в случае с пищей удава, этот «бугор» не статичен, а сдвигается от одного конца к другому, оказывая со временем давление на различные ресурсы и инфраструктуру.
9. National Center on Elder Abuse, US Department of Health and Human Services, http://www.ncea.aoa. gov/libra ry/data/
10. "The MetLife Study of Elder Financial Abuse: Crimes of Occasion, Desperation, and Predation Against America's Elders." metlife.com/assets/cao/ mmi/publications/studies/2011/mmi-elder-finandal-abuse.pdf June 2011.
11. The True Link Report on Elder Financial Abuse 2015. https://www. cambiahealth.com/ sites/default/files/ resources/whitepapers/TheTrue Link Report on Elder Financial Abuse 2015_0.pdf
12. Taylor, Shelley E., et al. "Neural and Behavioral Bases of Age Differences in Perceptions of Trust." PNAS, vol. 109, no. 51, 20848-20852, doi: 10.1073/ pnas.1218518109. October 24, 2012.
13. Когнитивные искажения – это ошибки мышления, влияющие на принимаемые нами решения. В их число входит целый ряд фильтров и необъективных суждений, результатом которых становится принятие неверных решений.
14. Dawkins, Richard. The Selfish Gene. Best Books. 1976.
Глава 12
1. He учитывая то, что современные автомобили являют собой по сути своей совокупность изобретений и инноваций.
2. То, что эксперт в области технологий Кевин Келли назвал словом «technium».
3. Три закона робототехники Азимова были попыткой контролировать вымышленных роботов, чтобы не позволить причинить вред людям или допустить ситуацию, в которой люди повредят себе.
4. Ritchey, Т. (1998). "General Morphological Analysis: A general method for non-quantified modeling"; Ritchey, T. (2005a). "Wicked Problems: Structuring Social Messes with Morphological Analysis". (Adapted from a lecture given at the Royal Institute ofTechnology in Stockholm, 2004.)
5. Yonck, R. "Hacking Human 2.0". H+. July 12, 2011.
6. Если не сказано обратное, все замечания футурологов в этом разделе являются ответами на опрос, проведенный автором.
7. Спасибо Джину Родденберри, Уильяму Шатнеру и франшизе «StarTrek» за парафраз.
8. Программа Foresight на базе Хьюстонского университета – самая долгосрочная действующая программа подобного рода в мире.
9. Kurzweil, Ray. How to Create a Mind: The Secret of Human Thought Revealed. New York: Viking Books. 2012.
10. 7 Days of Genius Festival. Neil DeGrasse Tyson Interview of Ray Kurzweil at the 92Y On Demand. March 7, 2016.
11. TEDWomen 2015. Kaliouby, R. "This app knows how you feel – from the look on your face." May, 2015.
Глава 13
1. Venus of Willendorf. https://en.wikipedia.org/wiki/ Venus_of_Willen- dorf. Wikipedia; Conard, Nicholas J.
"A female figurine from the basal Aurignacian of Hohle Fels Cave in southwestern Germany." Nature 459 (7244): 248–252. doi:10.1038/nature07995.
2. В отличие от современного употребления, означающего сексуальные причуды, слово «фетиш» долгое время использовалось в значении предмета, наделенного сверхъестественной силой. По сути, это может быть талисман, тотем или амулет.
3. Jonathan Amos. "Ancient phallus unearthed in cave." BBC News. July 25, 2005.
4. "Rock ofages Australia's oldest artwork found." Guardian. Associated Press. http://www.theguardian. com/world/2012/jun/18/rock-australia- art. June 18, 2012
5. Dawkins, R. The Selfish Gene. Oxford University Press. 1976.
6. Clay, Z. and de Waal, F. В. M. "Sex and strife: postconflict sexual contacts in bonobos." Behaviour.2014. doi: 10.1163/1568539X-00003155.
7. "The Health Benefits of Sexual Aids & Devices: A Comprehensive Study oftheir Relationshipto Satisfaction and Quality of Life." Berman Center / Drugstore.com survey. Unpublished, 2004; D. Herbenick, M. Reece, S. Sanders, B. Dodge, A. Ghassemi, J. D. Fortenberry. "Prevalence and characteristics of vibrator use by women in the United States: results from a nationally representative study." Journal of Sexual Medicine. July, 2009. 6(7): 1857–1866.
8. Жак де Вокансон – живший в XVIII веке французский изобретатель, известный благодаря автоматам, имитировавшим биологические функции. Главным его шедевром считается утка, переваривающая пищу. Она состояла из множества механических элементов и могла бить крыльями, пить воду, клевать и переваривать зерно, пропуская его через желудок и кишечник, а затем испражняться. Здесь слово «Вокансоны» используется в общем смысле, означая любого изобретателя подобных устройств, имитирующих биологические функции.
9. Бартолиновы железы – две овальные железы преддверия влагалища, расположенные в нижней его части и выделяющие смазочную жидкость.
10. Iwan Bloch, MD. The Sexual Life of Our Time in its Relation to Modern Civilization. (Translated from the Sixth German Edition by M. Eden Paul, M.D.). Rebman Ltd, London. 1909.
11. Les detraquees de Paris, Etude de moeurs contemporaines Rene Schwaeble. Nouvelle Edition, Daragon libraire-Editeur, 1910.
12. A. Smith, J. Anderson. "Digital Life in 2025: Al, Robotics and the Future of Jobs." Pew Research Center. August 6, 2014.
13. Forecast: Kurzweil – 2029: HMLI, human level machine intelligence; 2045: Superintendent machines.; Forecast: Bostrom – 2050: Author's Delphi survey converges on HMLI, human level machine intelligence.
14. Levy, D. Love and Sex with Robots. Harper. 2007.
15. Brice, M. "A Third of Men Who See Prostitutes Crave Emotional Intimacy, Not Just Sex." Medical Daily. August 8, 2012; Calvin, T. "Why I visit prostitutes." Salon. October 19, 2014.
16. Пигмалионизм определяется как сексуальное влечение к статуям, куклам, манекенам или прочим подобным пластическим объектам.
17. Object sexuality, https://en.wikipedia.org/wiki/ Object_sexuality.
18. Objectum-Sexuality Internationale, http:// www.objectum-sexuality.org/Objectum-Sexuality Internationale, http://www.objectum-sexuality.org/
19. Импринтинг, как правило, считается особым типом привязанности, обычно встречающимся у новорожденных.
20. Pat A. Wakefield. A Moose for Jessica. Puffin Books. 1992.
21. "The Swan Who Has Fallen in Love With a Tractor." Daily Mail. April 22, 2011. http://www.dailymail.co.uk/ news/article-1379656/The-swan- fallen-love-tractor, html
22. Еще один неологизм, составленный из греческой приставки tele, означающей «на расстоянии», и слова «дилдо», которым, если вы не обратили внимания, называется сексуальная игрушка.
23. Hall, Susan A. et al. "Sexual Activity, Erectile Dysfunction, and Incident Cardiovascular Events." American Journal of Cardiology, Volume 105, Issue 2, 192–197; "Sexual frequency and salivary immunoglobulin A (IgA)." Psychol Rep. 2004 Jun; 94(3 Pt l):839-44.
24. George Davey Smith, Stephen Frankel, John Yarnell. "Sex and death: are they related? Findings from the Caerphilly cohort study." British Medical Journal. 1997.
25. Davis, C, and Loxton, NJ. "Addictive behaviors and addiction-prone personality traits: Associations with a dopamine multilocus genetic profile." Addictive Behaviors, 38, 2306–2312. 2013.
26. Wright, J; Hensley, C. "From Animal Cruelty to Serial Murder: Applying the Graduation Hypothesis." International Journal of Offender Therapy and Comparative Criminology 47 (1): 71–88. February 1, 2003.
27. Frey, C.B., Osborne, M. A. "The Future of Employment: How Susceptible are Jobs to Computerisation?" Oxford Martin School, Programme on the Impacts of Future Technology, University of Oxford. 2013; Rutkin, A. H. "Report Suggests Nearly Half of U. S. Jobs Are Vulnerable to Computerization." Technology Review. September 12, 2013.
28. Stromberg, J. "Neuroscience Explores Why Humans Feel Empathy for Robots." Smithsonian. April 23, 2013.
Глава 14
1. Price, R. "Microsoft is deleting its Al chatbot's incredibly racist tweets". Business Insider. March 24, 2016.
2. Smith, D. "IBM's Watson Gets A 'Swear Filter' After Learning The Urban Dictionary". International Business Times. January 10, 2013.
3. Turkle, S. Alone Together. Basic Books. 2011.
4. Yonck, R. "Toward a Standard Metric of Machine Intelligence." World Future Review. Summer, 2012.
5. В философии словом «квалиа» определяются индивидуальные переживания субъективного опыта. Подробнее о квалиа, феноменальном сознании и сознании проникновения рассказано в главах 17 и 18.
6. Berger, TW Hampson, RE, Song, D, Goonawardena, A, Marmarelis, VZ, Deadwyler, SA. "A cortical neural prosthesis for restoring and enhancing memory."
Journal of Neural Engineering. August 2011; Hampson, RE, Song, D., Opris, I, et al. "Facilitation of memory encoding in primate hippocampus by a neuroprosthesis that promotes task-specific neural firing." Journal of Neural Engineering. December,2013.
7. Plutarch. "Theseus."
8. Moravec, H. Mind Children. Harvard University Press. 1988.
Глава 15
1. Соотношение «сигнал-шум» – это пропорция требуемого сигнала к другим сигналам, исходящим от объекта и/или используемого оборудования. В случае интерфейсов «мозг-компьютер» (нейрокомпьютерных интерфейсов) нужно выделить сигналы, исходящие от определенных нейронов, и снизить интенсивность сигналов из других отделов мозга.
2. Разрешение – это количество элементов, которые может производить система. Более высокое пространственное разрешение повысит резкость изображения. Временное разрешение предоставляет больше информации системе, меняющейся в течение короткого промежутка времени.
3. Tsetserukou, D., Neviarouskaya, A., Prendinger, Н., Kawakami, N., Tachi, S. "Affective Haptics in Emotional Communication." Proceedings of the International Conference on Affective Computing and Intelligent Interaction (ACIE09), Amsterdam, the Netherlands, IEEE Press: 181–186. 2009.
4. Arafsha, F., К. M. Alam, and A. El Saddik. "EmoJacket: Consumer centric wearable affective jacket to enhance
emotional immersion." Proceedings of the Innovations in Information Technology (NT). 2012.
5. Биполярным (аффективным) расстройством и депрессией страдают многие творческие люди. Некоторые исследования подтвердили анекдотическое соотношение между творческой активностью и психическими расстройствами, но остается открытыми множество вопросов об их причинах и механизмах, которыми они обусловлены.
6. Olds, J. & Milner, Р. "Positive reinforcement produced by electrical stimulation of septal area and other regions of rat brain." J. Comp. Physiol. Psychol. 47, 419–427.1954.
7. Hiroi, Agatsuma. "Genetic susceptibility to substance dependence." Mol Psychiatry 10 (4): 336-44. 2005.
8. Davis M. "NMDA receptors and fear extinction: implications for cognitive behavioral therapy." Dialogues in Clinical Neuroscience. 13(4):463–474. 2011.
9. Stein, M.B., Lang, L., Taylor, S., Vernon, P.A., John Livesley W. "Genetic and Environmental Influences on Trauma Exposure and Posttraumatic Stress Disorder Symptoms: A Twin Study." American Journal of Psychiatry. 150(10): 1675–1681. 2002.
10. Wallach, W "From Robots to Techno Sapiens: Ethics, Law and Public Policy in the Development of Robotics and Neurotechnologies." Law, Innovation and Technology. 185-2073(2). 2011.
11. Match.com. U. S. News & World Report.; Pew Research Center. "15 % of American Adults Have Used Online Dating Sites or Mobile Dating Apps." February 11,2016.
Глава 16
1. Jonze, S, Her. Screenplay WGA Registration #1500375. 2011.
2. Asimov, A. "Liar!" Astounding Science Fiction. May, 1941.
3. В основе романа «2001» был рассказ «Страж» (The Sentinel), написанный Кларком в 1948 году и впервые изданный в 1951 году. В конечном итоге Кларк развил идею до романа «2001», вышедшего вскоре после выхода на экран фильма Кубрика с тем же названием.
4. Watson, I, Aldiss, В. А. I. Artificial Intelligence. 2001.
5. Там же.
6. По крайней мере по отношению к неулучшенным людям. Усиление тенденции к интеграции с компьютерами, вероятно, в какой-то степени изменит положение дел.
7. «Девица в беде» – один из садомазохистских фетишей, в этом аспекте ИИ мог манипулировать Нэйтаном с самого начала истории.
8. Термин «сингулярность» впервые использовал в этом смысле Станислав Улам в некрологе одному из основателей теории вычислительных машин Джону фон Нейману.
Глава 17
1. Первые два термина имеют отношение к франшизе «Терминатор» (Terminator), антиутопии, созданной Джеймсом Кэмероном и Гейл Энн Хёрд. Технологическая сингулярность – это гипотетический момент в будущем, когда машинный разум стремительно самосовершенствуется, превосходя человеческий, и жестоко уничтожает человеческое общество. Апокалипсис, устроенный роботами, часто используется как сюжет в научной фантастике.
2. Здесь я обращаюсь к бритве Оккама. Идея о том, что мы эволюционировали в пяти или восьми независимых друг от друга разновидностях, являясь настолько сложной, насколько могут быть вопросы о различных аспектах сознания, внушает мне скепсис.
3. N. Block, О. Flanagan, G. Guzeldere. "On а confusion about a function of consciousness." The Nature of Consciousness: Philosophical Debates, pp. 375–415. MIT Press. 1998.
4. Chalmers, D. "Facing Up to the Problem of Consciousness." Journal of Consciousness Studies 2 (3): 200–219. 1995.
5. Компьютерные системы традиционно оптимизируют или «обходят», чтобы получить превосходство в любой области. Это в особенности касается суперкомпьютеров. Системы обычно оптимизируют в соответствии с тестом, который используется для определения их рейтинга. Например, для составления списка ТОР500, обновляемого раз в полгода, годами используются оценочные тесты LIN-PACK. Поскольку эти тесты основаны на вычислительной мощности компьютеров с плавающей точкой и достаточно известны, конкурирующие системы легко настроить таким образом, чтобы они показывали лучшие результаты. Это, по всей видимости, произошло в 2013 году, когда китайский компьютер Тянхэ-2 со значительным преимуществом обошел конкурентов, и это казалось событием на грани фантастики. Тестирование в реальных условиях показало, что он гораздо медленнее в работе с многими приложениями, чем американские системы с наивысшим для того времени рейтингом.
6. Block, N. "Two neural correlates of consciousness". TRENDS in Cognitive Sciences. Vol. 9. No. 2. February 2005.
7. Lombardo, M.V.; Chakrabarti, B.; Bullmore, E.T.; Sadek, S.A.; Pasco, G.; Wheelwright, S.J.; Suckling, J.; Baron-Cohen, S. "Atypical neural selfrepresentation in autism." Brain. Vol. 133, No. 2, pp. 611–624. February 1, 2010.
8. Слишком легко говорить об эволюции в терминах целеполагания с точки зрения нашего интроспективного сознания. Получается, что любой выбор, сделанный в ходе эволюции, был в некотором роде «намеренным». Это абсолютно не может быть правдой. Процесс, подобный эволюции, происходит на основании естественного отбора, и конечная цель или самоопределение не может быть его движущей силой. Мы думаем о том, что у эволюции есть конечная цель, лишь благодаря собственной воле и решимости.
9. Gould, S. J. "Foreword: The Positive Power of Skepticism." Why People Believe Weird Things, by Michael Shermer. New York: WH. Freeman. 1997.
10. "Explainable Artificial Intelligence (XAI)." DARPA-BAA-16-53, August 10,2016. http://www.darpa.mil/ attachments/DARPA-BAA-16-53.pdf
11. Full, R. J. "Integrative Biology/Poly-Pedal Lab." http://polypedal. berkeley.edu
12. Yonck, R. "Toward a Standard Metric of Machine Intelligence." World Future Review. 4: 61–70. May 2012.
13. Goleman, D. Emotional intelligence: Why It Can Matter More Than IQ. Bantam Books. 1995.
14. Nei, M. Mutation-Driven Evolution. Oxford University Press, Oxford. 2013.
15. Hornby, G.S.; Globus, A.; Linden, D.S.; Lohn, J.D. "Automated antenna design with evolutionary algorithms." American Institute ofAeronautics and Astronautics. September 2006.
16. Jaynes, J. The origin of consciousness in the breakdown of the bicameral mind. 1976. Houghton Mifflin.
17. Here, I'm speaking mentally, independent of their need for physical nourishment.
18. Goertzel, B. "The Mind-World Correspondence Principle (Toward a General Theory of General Intelligence)" IEEE Symposium on Computational Intelligence for Human-like Intelligence (ClHLI). 2013.
Глава 18
1. Yudkowsky, E. "Creating Friendly Al 1.0: The Analysis and Design of Benevolent Goal Architectures" Machine Intelligence Research Institute, 2001; Goertzel, Ben. "Should Humanity Build a Global Al Nanny to Delay the Singularity Until It's Better Understood?" Journal of consciousness studies 19.1–2:1-2. 2012.
2. Известна как эмоциональная эмпатия.
3. Это соотношение – моя экстраполяция и не представляет мнения ни одного из этих ученых.
4. Спасибо футурологу Айану Пирсону за этот термин.
5. С того времени существует несколько так называемых эффектов бутылочного горлышка, при которых общая численность населения планеты снижается до менее чем 100 000. В последний раз подобное происходило всего лишь около 70 000 лет назад, когда выжило лишь около 10 000 человек, но вокруг этого факта существует множество противоречий.
6. Меметический, от слова «мем», воспроизводимый культурный фрагмент, аналогичный генам. Это слово впервые употребил Ричард Докинз в книге «Эгоистичный ген» (The Selfish Сепе), изданной в 1978 году. Мемы – по сути своей идеи, символы и частицы – фрагменты культуры, которые передают единицы информации от одного сознания-носителя к другому. Это воспроизведение, развитие и сохранение знания – основной критерий успешности мема. Модель основана на процессе естественного отбора, происходящем в эволюции органического мира, а потому существуют противоречия, действительно ли эти два процесса в точности отражают друг друга.
7. Может ли апокалипсис, произошедший в результате войны, стереть с лица земли цивилизацию, вернув нас в те времена, когда, по словам Гоббса, не было «ни искусства, ни письменности, ни общества, но, что самое ужасное, был лишь вечный страх и угроза мучительной смерти, а жизнь человека была одинокой, жалкой, отвратительной, жестокой и недолгой»? Определенно. Подобным образом с лица земли может исчезнуть целый вид из-за разрушительных последствий изменения окружающей среды. В ответ на это начнутся соответствующие новые процессы, возвращающие назад, какие бы меметические пути их ни запустили.
notes
