Из личной беседы с Энди Беком.

Joann G. Elmore, Gary M. Longton, Patricia A. Carney, Berta M. Geller, Tracy Onega, Anna N. A. Tosteson, Heidi D. Nelson, Margaret S. Pepe, Kimberly H. Allison, Stuart J. Schnitt, Frances P. O’Malley and Donald L. Weaver, Diagnostic concordance among pathologists interpreting breast biopsy specimens, Journal of the American Medical Association, vol. 313, no. 11, 17 March 2015, 1122–32, https://jamanetwork.com/journals/jama/fullarticle/2203798.

Ibid.

Термин “нейросеть” взят по аналогии с мозговыми процессами. В мозге миллиарды нейронов связываются друг с другом, образуя колоссальную сеть. Каждый нейрон слушает своих соседей и, получив сигнал от другого возбужденного нейрона, переправляет его дальше. Сигнал возбуждает следующие нейроны, которые его слушают.

Нейросеть – это сильно упрощенная и более упорядоченная версия мозга. Ее искусственные нейроны располагаются слоями, все нейроны каждого слоя слушают нейроны предыдущего слоя. В нашей задаче с собакой отдельные пиксели изображения – это первый слой. За ним идут несколько слоев с тысячами нейронов в каждом, последний слой представляет собой единственный нейрон, который выдает вероятность того, что на исходной картинке изображена собака.

Процедура корректировки нейронов называется алгоритмом обратного распространения ошибки. Все начинается с последнего нейрона, оценивающего вероятность того, что в программу ввели изображение собаки, а не кого-то или чего-то еще. Допустим, мы ввели изображение собаки и получили предположение, что с вероятностью 70 % на картинке изображена собака. Нейрон воспринимает сигналы, поступившие с предыдущего слоя, и сообщает: “В следующий раз, когда я получу такую информацию, я увеличу вероятность того, что на изображении есть собака”. Затем он обращается к каждому из нейронов предыдущего слоя: “Привет, если вы вместо этого сигнала дадите мне такой-то, я отвечу поточнее”. Все эти нейроны смотрят на свои входящие сигналы и корректируют исходящие для следующей попытки. Далее они сообщают предыдущему слою, какие сигналы те должны послать в свою очередь – и так далее, слой за слоем, вплоть до самого первого. От этого процесса передачи сообщений об ошибке по всей нейросети назад и происходит термин “обратное распространение ошибки”.

Подробнее о нейросетях – об их устройстве и обучении – можно почитать в книге Педро Домингоса “Верховный алгоритм: как машинное обучение изменит наш мир”. (русский перевод В. Горохова, М.: “Манн, Иванов и Фербер”, 2016).

Alex Krizhevsky, Ilya Sutskever and Geoffrey E. Hinton, ImageNet classification with deep convolutional neural networks, in F. Pereira, C. J. C. Burges, L. Bottou and K. Q. Weinberger, eds, Advances in Neural Information Processing Systems 25 (La Jolla, CA, Neural Information Processing Systems Foundation, 2012), pp. 1097–1105, http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf. Этот алгоритм получил название “свёрточная нейронная сеть”. Для него не загружают исходное изображение полностью – сначала эта программа применяет множество различных фильтров и ищет в измененном изображении включенные в него небольшие паттерны.

Marco Tulio Ribeiro, Sameer Singh and Carlos Guestrin, “Why should I trust you?” Explaining the predictions of any classifier, 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, San Francisco, 2016, pp. 1135–1144, http://kdd.org/kdd2016/papers/files/rfp0573-ribeiroA.pdf.

Ответы докторов сравнивали с коллективными результатами анализа проб, выполненного группой экспертов, – их заключение принималось за “эталон”.

Trafton Drew, Melissa L. H. Vo and Jeremy M. Wolfe, The invisible gorilla strikes again: sustained inattentional blindness in expert observers, Psychological Science, vol. 24, no. 9, Sept. 2013, pp. 1848–1853, https://ncbi.nlm.nih.gov/pmc/articles/PMC3964612/.

Горилла находится вверху справа.

Yun Liu, Krishna Gadepalli, Mohammad Norouzi, George E. Dahl, Timo Kohlberger, Aleksey Boyko, Subhashini Venugopalan, Aleksei Timofeev, Philip Q. Nelson, Greg S. Corrado, Jason D. Hipp, Lily Peng and Martin C. Stumpe, Detecting cancer metastases on gigapixel pathology images, Cornell University Library, 8 March 2017, https://arxiv.org/abs/1703.02442.

Dayong Wang, Aditya Khosla, Rishab Gargeya, Humayun Irshad and Andrew H. Beck, Deep learning for identifying metastatic breast cancer, Cornell University Library, 18 June 2016, https://arxiv.org/abs/1606.05718.

David A. Snowdon, The Nun Study, Boletin de LAZOS de la Asociación Alzheimer de Monterrey, vol. 4, no. 22, 2000; D. A. Snowdon, Healthy aging and dementia: findings from the Nun Study, Annals of Internal Medicine, vol. 139, no. 5, Sept. 2003, pp. 450–454.

Плотность мыслей как индикатор лингвистической развитости рассчитывалась по количеству отдельных мыслей монахини на фразу из десяти слов. Об этом есть интересная статья: Associated Press, Study of nuns links early verbal skills to Alzheimer’s, Los Angeles Times, 21 Feb. 1996, http://articles.latimes.com/1996-02-21/news/mn-38356_1_alzheimer-nuns-studied.

Maja Nielsen, Jørn Jensen and Johan Andersen, Pre-cancerous and cancerous breast lesions during lifetime and at autopsy: a study of 83 women, Cancer, vol. 54, no. 4, 1984, pp. 612–615, http://onlinelibrary.wiley.com/wol1/doi/10.1002/1097–0142 (1984) 54:4 %3C612::AID – CNCR2820540403 %3E3.0. CO;2-B/-abstract.

H. Gilbert Welch and William C. Black, Using autopsy series to estimate the disease “reservoir” for ductal carcinoma in situ of the breast: how much more breast cancer can we find? Annals of Internal Medicine, vol. 127, no. 11, Dec. 1997, pp. 1023–1028, www.vaoutcomes.org/papers/Autopsy_Series.pdf.

Точная статистика зависит от страны и демографической ситуации – а также от того, насколько активно занимаются онкоскринингом молочных желез в стране, – поэтому такие данные получить трудно. Полный обзор британской статистики см. здесь: https://www.cancerresearchuk.org/health-professional/cancer-statistics/statistics-by-cancer-type/breast-cancer.

Из личной беседы с Джонатаном Каневским.

Breakthrough method predicts risk of DCIS becoming invasive breast cancer, Artemis, May 2010, http://hopkinsbreastcenter.org/artemis/201005/3.html.

H. Gilbert Welch, Philip C. Prorok, A. James O’Malley and Barnett S. Kramer, Breast-cancer tumor size, overdiagnosis, and mammography screening effectiveness, New England Journal of Medicine, vol. 375, 2016, pp. 1438–1447, http://nejm.org/doi/full/10.1056/NEJMoa1600249.

Independent UK Panel on Breast Cancer Screening, The benefits and harms of breast cancer screening: an independent review, Lancet, vol. 380, no. 9855, 30 Oct. 2012, pp. 1778–1786, http://thelancet.com/journals/lancet/article/PIIS0140–6736 (12) 61611–0/abstract.

Из личной беседы.

Andrew H. Beck, Ankur R. Sangoi, Samuel Leung, Robert J. Marinelli, Torsten O. Nielsen, Marc J. van de Vijver, Robert B. West, Matt van de Rijn and Daphne Koller, Systematic analysis of breast cancer morphology uncovers stromal features associated with survival, Science Transitional Medicine, 19 Dec. 2014, https://becklab.hms.harvard.edu/files/becklab/files/sci_transl_med-2011-beck-108ra113.pdf.

Phi Vu Tran, A fully convolutional neural network for cardiac segmentation in short-axis MRI, 27 April 2017, https://arxiv.org/pdf/1604.00494.pdf.

Emphysema, Imaging Analytics, Zebra Medical, https://zebra-med.com/algorithms/lungs/.

Eun-Jae Lee, Yong-Hwan Kim, Dong-Wha Kang et al., Deep into the brain: artificial intelligence in stroke imaging, Journal of Stroke, vol. 19, no. 3, 2017, pp. 277–285, https://ncbi.nlm.nih.gov/pmc/articles/PMC5647643/.

Taylor Kubota, Deep learning algorithm does as well as dermatologists in identifying skin cancer, Stanford News, 25 Jan. 2017, https://news.stanford.edu/2017/01/25/artificial-intelligence-used-identify-skin-cancer/.

Российский аналог Jeopardy! – “Своя игра”. (Прим. перев.)

Buckle (англ.) – пряжка; гнуть; сгибаться под давлением, уступать; рухнуть; ответ на вопрос в игре: “Что означает слово buckle?” (Прим. перев.)

С Байесом мы еще встретимся в главе “Автомобили”.

Jenning Brown, Why everyone is hating on IBM Watson, including the people who helped make it, Gizmodo, 14 Aug. 2017, https://gizmodo.com.au/2017/08/why-everyone-is-hating-on-watsonincluding-the-people-who-helped-make-it/.

https://theregister.co.uk/2017/02/20/watson_cancerbusting_trial_on_hold_after_damning_audit_report/

Casey Ross and Ike Swetlitz, IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close, STAT, 5 Sept. 2017, https://statnews.com/2017/09/05/watson-ibm-cancer/.

Tomoko Otake, Big data used for rapid diagnosis of rare leukemia case in Japan, Japan Times, 11 Aug. 2016, https://japantimes.co.jp/news/2016/08/11/national/science-health/ibm-big-data-used-for-rapid-diagnosis-of-rare-leukemia-case-in-japan/#.Wf8S_hO0MQ8.

Researchers validate five new genes responsible for ALS, Science Daily, 1 Dec. 2017, https://sciencedaily.com/releases/2017/12/171201104101.htm.

John Freedman, A reality check for IBM’s AI ambitions, MIT Technology Review, 27 June 2017.

Asthma facts and statistics, Asthma UK, 2016, https://asthma.org.uk/about/media/facts-and-statistics/; Asthma in the US, Centers for Disease Control and Prevention, May 2011, https://cdc.gov/vitalsigns/asthma/index.html.

Schoolgirl, 13, who died of asthma attack was making regular trips to A&E and running out of medication – but was NEVER referred to a specialist even when her lips turned blue, mother tells inquest, Daily Mail, 13 Oct. 2015, http://dailymail.co.uk/news/article-3270728/Schoolgirl-13-died-asthma-attack-not-referred-specialist-lips-turned-blue.html.

My Data, My Care: How Better Use of Data Improves Health and Wellbeing (London: Richmond Group of Charities, Jan. 2017), https://richmondgroupofcharities.org.uk/publications.

Terence Carney, Regulation 28: report to prevent future deaths, coroner’s report on the case of Tamara Mills, 29 Oct. 2015, https://judiciary.gov.uk/publications/tamara-mills/.

Jamie Grierson and Alex Hern, Doctors using Snapchat to send patient scans to each other, panel finds, Guardian, 5 July 2017, https://theguardian.com/technology/2017/jul/05/doctors-using-snapchat-to-send-patient-scans-to-each-other-panel-finds.

Даже если удастся каким-либо способом обойти все эти помехи, может не хватить собственно данных. Существуют тысячи редких, можно сказать, уникальных заболеваний с генетической подоплекой. Зачастую медикам трудно поставить такой диагноз из-за того, что во многих случаях они за всю свою практику не встречали подобных патологий. Ни один алгоритм не решит задачу, имея очень маленькую выборку.

Hal Hodson, Revealed: Google AI has access to huge haul of NHS patient data, New Scientist, 29 April 2016, https://www.newscientist.com/article/2086454-revealed-google-ai-has-access-to-huge-haul-of-nhs-patient-data/.

По правде говоря, вина, скажем так, за “юридически неправомерный” контракт почти полностью лежит на подразделении Государственной службы здравоохранения, которое, наверное, слишком поспешно бросилось сотрудничать со знаменитой компанией в области искусственного интеллекта. Посмотрите письмо дамы-командора Фионы Колдикотт, главы ведомства, защищающего национальные данные, которое оказалось в распоряжении телевизионного канала Sky News: Alex Martin, Google received 1.6 million NHS patients’ data on an “inappropriate legal basis”, Sky News, 15 May 2017, https://news.sky.com/story/google-received-1–6-million-nhs-patients-data-on-an-inappropriate-legal-basis-10879142

Denis Campbell, Surgeons attack plans to delay treatment to obese patients and smokers, Guardian, 29 Nov. 2016, https://theguardian.com/society/2016/nov/29/surgeons-nhs-delay-treatment-obese-patients-smokers-york.

Nir Eyal, Denial of treatment to obese patients: the wrong policy on personal responsibility for health, International Journal of Health Policy and Management, vol. 1, no. 2, Aug. 2013, pp. 107–10, https://ncbi.nlm.nih.gov/pmc/articles/PMC3937915/.

О том, как это было, см. http://galton.org/essays/1880–1889/galton-1884-jaigi-anthro-lab.pdf.

Francis Galton, On the Anthropometric Laboratory at the late international health exhibition, Journal of the Anthropological Institute of Great Britain and Ireland, vol. 14, 1885, pp. 205–221.

Taste, https://permalinks.23andme.com/pdf/samplereport_traits.pdf.

Sneezing on summer solstice? 23andMeBlog, 20 June 2012, https://blog.23andme.com/health-traits/sneezing-on-summer-solstice/.

Find out what your DNA says about your health, traits and ancestry, 23andMe, https://www.23andme.com/en-gb/dna-health-ancestry/.

Kristen v. Brown, 23andMe is selling your data but not how you think, Gizmodo, 14 April 2017, https://gizmodo.com/23andme-is-selling-your-data-but-not-how-you-think-1794340474.

Michael Grothaus, How23andMe is monetizing your DNA, Fast Company, 15 Jan. 2015, https://fastcompany.com/3040356/what-23andme-is-doing-with-all-that-dna.

Rob Stein, Found on the Web, with DNA: a boy’s father, Washington Post, 13 Nov. 2005, http://washingtonpost.com/wp-dyn/content/article/2005/11/12/AR2005–111200958.html.

Получив результаты анализа ДНК, этот парень нашел определенный участок своей Y-хромосомы (тот, что передается от отца к сыну) еще у двух человек с одинаковой фамилией, дальних родственников по отцовской линии. Их фамилии вкупе с местом и датой рождения его отца оказалось достаточно, чтобы его вычислить.

M. Gymrek, A. L. McGuire, D. Golan, E. Halperin and Y. Erlich, Identifying personal genomes by surname inference, Science, vol. 339, no. 6117, Jan. 2013, pp. 321–324, https://ncbi.nlm.nih.gov/pubmed/23329047.

В настоящее время коммерческие лаборатории не проводят тесты ДНК на болезнь Гентингтона.

Matthew Herper, 23andMe rides again: FDA clears genetic tests to predict disease risk, Forbes, 6 April 2017, https://forbes.com/sites/matthewherper/2017/04/06/23andme-rides-again-fda-clears-genetic-tests-to-predict-disease-risk/#302aea624fdc.

Мой друг, генетик Адам Резерфорд, подробно объяснил мне, почему на самом деле нельзя сказать, викинг вы или нет. Я просто хотела его поддразнить. Научное обо-снование этому вы найдете в его книге A Brief History of Everyone Who Ever Lived: The Stories in Our Genes (London: Weidenfeld & Nicolson, 2016). (Русское издание: Резерфорд А. Краткая история всех, кто когда-либо жил. М.: “Бомбора”, 2019).

DARPA, Grand Challenge 2004: Final Report (Arlington, VA: Defence Advanced Research Projects Agency, 30 July 2004), http://esd.whs.mil/Portals/54/Documents/FOID/Reading%20Room/DARPA/15-F-0059_GC_2004_FINAL_RPT_7–30-2004.pdf.

The Worldwide Guide to Movie Locations, 7 Sept. 2014, http://movie-locations.com/movies/k/Kill_Bill_Vol_2.html#.WkYiqrTQoQ8.

Mariella Moon, What you need to know about DARPA, the Pentagon’s mad science division, Engadget, 7 July 2014, https://engadget.com/2014/07/07/darpa-explainer/.

DARPA, Urban Challenge: Overview, http://archive.darpa.mil/grandchallenge/overview.html.

Sebastian Thrun, Winning the DARPA Grand Challenge, 2 Aug. 2006, YouTube, 8 Oct. 2007, https://youtube.com/watch?v=j8zj5lBpFTY.

DARPA, Urban Challenge: Overview.

DARPA Grand Challenge 2004 – road to…, YouTube, 22 Jan. 2014, https://youtube.com/watch?v=FaBJ5sPPmcI.

Alex Davies, An oral history of the DARPA Grand Challenge, the grueling robot race that launched the self-driving car, Wired, 8 March 2017, https://www.wired.com/story/darpa-grand-challenge-2004-oral-history/.

Desert race too tough for robots, BBC News, 15 March 2004, http://news.bbc.co.uk/1/hi/technology/3512270.stm.

Davies, An oral history of the DARPA Grand Challenge.

Denise Chow, DARPA and drone cars: how the US military spawned self-driving car revolution, LiveScience, 21 March 2014, https://livescience.com/44272-darpa-self-driving-car-revolution.html.

Joseph Hooper, From Darpa Grand Challenge 2004 DARPA’s debacle in the desert, Popular Science, 4 June 2004, https://popsci.com/scitech/article/2004–06/darpa-grand-challenge-2004darpas-debacle-desert.

Davies, An oral history of the DARPA Grand Challenge.

DARPA, Report to Congress: DARPA Prize Authority. Fiscal Year 2005 Report in Accordance with 10 U. S. C. 2374a, March 2006, http://archive.darpa.mil/grandchallenge/docs/grand_challenge_2005_report_to_congress.pdf.

Alan Ohnsman, Bosch and Daimler to partner to get driverless taxis to market by early 2020s, Forbes, 4 April 2017, https://forbes.com/sites/alanohnsman/2017/04/04/bosch-and-daimler-partner-to-get-driverless-taxis-to-market-by-early-2020s/#306ec7e63c4b.

Ford, Looking Further: Ford Will Have a Fully Autonomous Vehicle in Operation by 2021, https://corporate.ford.com/innovation/autonomous-2021.html.

Should your driverless car hit a pedestrian to save your life? New York Times, 23 June 2016, https://nytimes.com/2016/06/24/technology/should-your-driverless-car-hit-a-pedestrian-to-save-your-life.html.

Clive Thompson, Anna Wiener, Ferris Jabr, Rahawa Haile, Geoff Manaugh, Jamie Lauren Keiles, Jennifer Kahn and Malia Wollan, Full tilt: when 100 per cent of cars are autonomous, New York Times, 8 Nov. 2017, https://nytimes.com/interactive/2017/11/08/magazine/tech-design-autonomous-future-cars-100-percent-augmented-reality-policing.html#the-end-of-roadkill.

Peter Campbell, Trucks headed for a driverless future: unions warn that millions of drivers’ jobs will be disrupted, Financial Times, 31 Jan. 2018, https://ft.com/content/7686ea3e-e0dd-11e7-a0d4–0944c5f49e46.

Markus Maurer, J. Christian Gerdes, Barbara Lenz and Hermann Winner, Autonomous Driving: Technical, Legal and Social Aspects (New York: Springer, May 2016), p. 48.

Stephen Zavestoski and Julian Agyeman, Incomplete Streets: Processes, Practices, and Possibilities (London: Routledge, 2015), p. 29.

Maurer et al., Autonomous Driving, p. 53.

David Rooney, Self-guided Cars (London: Science Museum, 27 Aug. 2009), https://blog.sciencemuseum.org.uk/self-guided-cars/.

Blake Z. Rong, How Mercedes sees into the future, Autoweek, 22 Jan. 2014, http://autoweek.com/article/car-news/how-mercedes-sees-future.

Dean A. Pomerleau, ALVINN: An Autonomous Land Vehicle In a Neural Network, CMU-CS-89–107 (Pittsburgh: Carnegie Mellon University, Jan. 1989), http://repository.cmu.edu/cgi/viewcontent.cgi?article=2874&context=compsci.

ALVINN, Autonomous Land Vehicle In a Neural Network – автономное сухопутное транспортное средство на основе нейронной сети. (Прим. перев.).

LiDAR (Light Detection and Ranging) – обнаружение и определение дальности с помощью света. (Прим. перев.)

A. Filgueira, H. González-Jorge, S. Lagüela, L. Diaz-Vilariño and P. Arias, Quantifying the influence of rain in LiDAR performance, Measurement, vol. 95, Jan. 2017, pp. 143–148, DOI: https://doi.org/10.1016/j.measurement.2016.10.009; https://sciencedirect.com/science/article/pii/S0263224116305577.

Chris Williams, Stop lights, sunsets, junctions are tough work for Google’s robo-cars, The Register, 24 Aug. 2016, https://theregister.co.uk/2016/08/24/google_self_driving_car_problems/.

Novatel, IMU Errors and Their Effects, https://novatel.com/assets/Documents/Bulletins/APN064.pdf.

Сама теорема представляет собой уравнение, связывающее вероятность выполнения гипотезы при наступлении события и вероятность наступления события при условии, что гипотеза верна. Более научное объяснение см. по ссылке https://arbital.com/p/bayes_rule/?l=1zq.

Sharon Bertsch McGrayne, The Theory That Would Not Die: How Bayes’ Rule Cracked the Enigma Code, Hunted Down Russian Submarines, and Emerged Triumphant from Two Centuries of Controversy (New Haven: Yale University Press, 2011).

В компьютере IBM Watson, о котором шла речь в главе “Медицина”, активно используется так называемый байесовский вывод. См. https://www.ibm.com/developerworks/library/os-ind-watson/.

Перси Диаконис, математик из Стэнфордского университета, очень точно выразился об автомобиле своей команды, в конечном итоге победившем в гонках 2005 года: “В этой машине каждый винтик байесовский”.

В прессе, начиная с New York Times и заканчивая Mail On Sunday, перебирались различные сценарии. Что, если дорогу переходит девяностолетняя старушка? А если ребенок? Вдруг в машине сидит нобелевский лауреат? Дилемма, в сущности, одна и та же.

Jason Kottke, Mercedes’ Solution to the Trolley Problem, Kottke.org, 24 Oct. 2016, https://kottke.org/16/10/mercedes-solution-to-the-trolley-problem.

Все цитаты из личной беседы с Полом Ньюменом.

Naaman Zhou, Volvo admits its self-driving cars are confused by kangaroos, Guar-dian, 1 July 2017, https://theguardian.com/technology/2017/jul/01/volvo-admits-its-self-driving-cars-are-confused-by-kangaroos.

Все цитаты из личной беседы с Джеком Стилгоу.

Jeff Sabatini, The one simple reason nobody is talking realistically about driverless cars, Car and Driver, Oct. 2017, https://caranddriver.com/features/the-one-reason-nobody-is-talking-realistically-about-driverless-cars-feature.

William Langewiesche, The human factor, Vanity Fair, 17 Sept. 2014, https://vanityfair.com/news/business/2014/10/air-france-flight-447-crash.

Bureau d’Enquêtes et d’Analyses pour la Sécuritié de l’Aviation Civile, Final Report on the Accident on 1st June 2009 to the Airbus A330–203 registered F-GZCP operated by Air France Flight AF447 Rio de Janeiro – Paris, Eng. edn (Paris, updated July 2012), https://bea.aero/docspa/2009/f-cp090601.en/pdf/f-cp090601.en.pdf.

Ibid.

Langewiesche, The human factor.

Ibid.

Jeff Wise, What really happened aboard Air France 447, Popular Mechanics, 6 Dec. 2011, http://popularmechanics.com/flight/a3115/what-really-happened-aboard-air-france-447–6611877/.

Langewiesche, The human factor.

Wise, What really happened aboard Air France 447.

Lisanne Bainbridge, Ironies of automation, Automatica, vol. 19, no. 6, Nov. 1983, pp. 775–779, https://sciencedirect.com/science/article/pii/0005109883900468.

Кое-что можно сделать, чтобы компенсировать недостаток практического опыта. Например, после катастрофы самолета Air France в обучении пилотов стали обращать больше внимания на управление при сбоях автопилота, и летчикам настоятельно рекомендуют почаще выключать автопилот, чтобы не терять мастерства.

Ibid.

Alex Davies, Everyone wants a level 5 self-driving car – here’s what that means, Wired, 26 July 2016.

Justin Hughes, Car autonomy levels explained, The Drive, 3 Nov. 2017, http://thedrive.com/sheetmetal/15724/what-are-these-levels-of-autonomy-anyway.

Bainbridge, Ironies of automation.

Jack Stilgoe, Machine learning, social learning and the governance of self-driving cars, Social Studies of Science, vol. 48, no. 1, 2017, pp. 25–56.

Eric Tingwall, Where are autonomous cars right now? Four systems tested, Car and Driver, Oct. 2017, https://caranddriver.com/features/where-are-autonomous-cars-right-now-four-systems-tested-feature.

Tracey Lindeman, Using an orange to fool Tesla’s autopilot is probably a really bad idea, Motherboard, 16 Jan. 2018, https://motherboard.vice.com/en_us/article/a3na9p/tesla-autosteer-orange-hack.

Daisuke Wakabayashi, Uber’s self-driving cars were struggling before Arizona Crash, New York Times, 23 March 2018, https://nytimes.com/2018/03/23/technology/uber-self-driving-cars-arizona.html.

Sam Levin, Video released of Uber self-driving crash that killed woman in Arizona, Guardian, 22 March 2018, https://www.theguardian.com/technology/2018/mar/22/video-released-of-uber-self-driving-crash-that-killed-woman-in-arizona.

Audi, The Audi vision of autonomous driving, Audi Newsroom, 11 Sept. 2017, https://media.audiusa.com/en-us/releases/184.

Поднявшись на следующую ступеньку частичной автоматизации, машины третьего уровня – такие, как Audi с системой управления в плотном трафике, – способны при определенных условиях, когда все хорошо, полностью брать контроль на себя. Водитель должен быть готов к активным действиям, если машина попадет в непонятную ей ситуацию, но неотрывно следить за дорогой и автомобилем уже не нужно. Здесь можно провести аналогию с подростком, которому велели помыть посуду.

P. Morgan, C. Alford and G. Parkhurst, Handover Issues in Autonomous Driving: A Lite-rature Review. Project Report (Bristol: University of the West of England, June 2016), http://eprints.uwe.ac.uk/29167/1/Venturer_WP5.2Lit%20ReviewHandover.pdf.

Langewiesche, The human factor.

Evan Ackerman, Toyota’s Gill Pratt on self-driving cars and the reality of full autonomy, IEEE Spectrum, 23 Jan. 2017, https://spectrum.ieee.org/cars-that-think/transportation/self-driving/toyota-gill-pratt-on-the-reality-of-full-autonomy.

Julia Pyper, Self-driving cars could cut greenhouse gas pollution, Scientific American, 15 Sept. 2014, https://scientificamerican.com/article/self-driving-cars-could-cut-greenhouse-gas-pollution/.

Raphael E. Stern et al., Dissipation of stop-and-go waves via control of autonomous vehicles: field experiments, arXiv: 1705.01693v1, 4 May 2017, https://arxiv.org/abs/1705.01693.

SomeJoe7777, Tesla Model S forward collision warning saves the day, YouTube, 19 Oct. 2016, https://youtube.com/watch?v=SnRp56XjV_M.

В феврале 2018 года, когда я писала эти строки, “оборудование для полного автоматического управления” устанавливалось при желании покупателя за дополнительную плату, хотя программного обеспечения для полностью автономных поездок в настоящее время в машинах нет. На сайте Tesla говорится: “Когда именно будут реализованы все описанные выше технические возможности, точно сказать нельзя”. См. https://www.tesla.com/en_GB/blog/all-tesla-cars-being-produced-now-have-full-self-driving-hardware.

Jordan Golson and Dieter Bohn, All new Tesla cars now have hardware for “full self-driving capabilities”: but some safety features will be disabled initially, The Verge, 19 Oct. 2016, https://theverge.com/2016/10/19/13340938/tesla-autopilot-update-model-3-elon-musk-update.

Fred Lambert, Tesla introduces first phase of “Enhanced Autopilot”: “measured and cautious for next several hundred million miles” – release notes, Electrek, 1 Jan 2017, https://electrek.co/2017/01/01/tesla-enhanced-autopilot-release-notes/.

Так называемый “напарник автопилота” действительно существует, его можно приобрести по сходной цене 179 долларов. Надо отметить, что на сайте написано мелкими буковками: “Никогда не используйте это устройство на дорогах общего пользования”. https://www.autopilotbuddy.com/.

DPC Cars, Toyota Guardian and Chauffeur autonomous vehicle platform, YouTube, 27 Sept. 2017, https://youtube.com/watch?v=IMdceKGJ9Oc.

Brian Milligan, The most significant development since the safety belt, BBC News, 15 April 2018, http://bbc.co.uk/news/business-43752226.

Bob Taylor, Crimebuster: Inside the Minds of Britain’s Most Evil Criminals (London: Piatkus, 2002), ch. 9, A day out from jail.

Программа BBC, в которой показывают реконструкции нераскрытых преступлений с целью сбора информации в помощь полиции. (Прим. перев.).

Ibid.

Nick Davies, Dangerous, in prison – but free to rape, Guardian, 5 Oct. 1999, https://theguardian.com/uk/1999/oct/05/nickdavies1.

João Medeiros, How geographic profiling helps find serial criminals, Wired, Nov. 2014, http://wired.co.uk/article/mapping-murder.

Nicole H. Rafter, ed., The Origins of Criminology: A Reader (Abingdon: Routledge, 2009), p. 271.

Luke Dormehl, The Formula: How Algorithms Solve All Our Problems… and Create More (London: W. H. Allen, 2014), p. 117.

Dormehl, The Formula, p. 116.

D. Kim Rossmo, Geographic profiling, in Gerben Bruinsma and David Weisburd, eds, Encyclopedia of Criminology and Criminal Justice (New York: Springer, 2014), https://link.springer.com/referenceworkentry/10.1007 %2F978–1-4614–5690-2_678.

Ibid.

João Medeiros, How geographic profiling helps find serial criminals.

Ibid.

“Sadistic” serial rapist sentenced to eight life terms, Independent (Ireland), 6 Oct. 1999, http://independent.ie/world-news/sadistic-serial-rapist-sentenced-to-eight-life-terms-26134260.html.

Ibid.

Steven C. Le Comber, D. Kim Rossmo, Ali N. Hassan, Douglas O. Fuller and John C. Beier, Geographic profiling as a novel spatial tool for targeting infectious disease control, International Journal of Health Geographics, vol. 10, no.1, 2011, p. 35, https://ncbi.nlm.nih.gov/pmc/articles/PMC3123167/.

Michelle V. Hauge, Mark D. Stevenson, D. Kim Rossmo and Steven C. Le Comber, Tagging Banksy: using geographic profiling to investigate a modern art mystery, Journal of Spatial Science, vol. 61, no. 1, 2016, pp. 185–190, http://tandfonline.com/doi/abs/10.1080/14498596.2016.1138246.

Raymond Dussault, Jack Maple: betting on intelligence, Government Technology, 31 March 1999, http://govtech.com/featured/Jack-Maple-Betting-on-Intelligence.html.

Ibid.

Ibid.

Nicole Gelinas, How Bratton’s NYPD saved the subway system, New York Post, 6 Aug. 2016, http://nypost.com/2016/08/06/how-brattons-nypd-saved-the-subway-system/.

Dussault, Jack Maple: betting on intelligence.

Andrew Guthrie Ferguson, Predictive policing and reasonable suspicion, Emory Law Journal, vol. 62, no. 2, 2012, p. 259, http://law.emory.edu/elj/content/volume-62/issue-2/articles/predicting-policing-and-reasonable-suspicion.html.

Lawrence W. Sherman, Patrick R. Gartin and Michael E. Buerger, Hot spots of predatory crime: routine activities and the criminology of place, Criminology, vol. 27, no. 1, 1989, pp. 27–56, http://onlinelibrary.wiley.com/doi/10.1111/j.1745–9125.1989.tb00862.x/abstract.

Toby Davies and Shane D. Johnson, Examining the relationship between road structure and burglary risk via quantitative network analysis, Journal of Quantitative Criminology, vol. 31, no. 3, 2015, pp. 481–507, http://discovery.ucl.ac.uk/1456293/5/Johnson_art%253A10.1007%252Fs10940-014–9235-4.pdf.

В данном случае “мы” – это именно мы. Статью, в которой описано это исследование, мы опубликовали вместе с Майклом Фритом, моим замечательным аспирантом.

Англ. boost – создание популярности, рекламирование. (Прим. перев.)

Spencer Chainey, Predictive Mapping (Predictive Policing), JDI Brief (London: Jill Dando Institute of Security and Crime Science, University College London, 2012), http://discovery.ucl.ac.uk/1344080/3/JDIBriefs_PredictiveMappingSChaineyApril2012.pdf.

Ibid.

Небольшое уточнение. Свободный доступ к самой программе PredPol закрыт. Эксперимент, о котором идет речь, проводили математики, авторы программы, по методике, в точности повторяющей описанную в подлиннике. По всем признакам, методика та же самая, но, строго говоря, мы не можем быть в этом уверены полностью.

G. O. Mohler, M. B. Short, Sean Malinowski, Mark Johnson, G. E. Tita, Andrea L. Bertozzi and P. J. Brantingham, Randomized controlled field trials of predictive policing, Journal of the American Statistical Association, vol. 110, no. 512, 2015, pp. 1399–1411, http://tandfonline.com/doi/abs/10.1080/01621459.2015.1077710.

Kent Police Corporate Services Analysis Department, PredPol Operational Review, 2014, http://statewatch.org/docbin/uk-2014-kent-police-predpol-op-review.pdf.

Mohler et al., Randomized controlled field trials of predictive policing.

Kent Police Corporate Services Analysis Department, PredPol Operational Review: Initial Findings, 2013, https://whatdotheyknow.com/request/181341/response/454199/attach/3/13%2010%20888%20Appendix.pdf.

Kent Police Corporate Services Analysis Department, PredPol Operational Review.

Это был не PredPol, а другой алгоритм, далеко не такой сложный, но в нем тоже использовались эффекты “флажка” и “буста”. См. статью Matthew Fielding and Vincent Jones, Disrupting the optimal forager: predictive risk mapping and domestic burglary reduction in Trafford, Greater Manchester, International Journal of Police Science and Management, vol. 14, no. 1, 2012, pp. 30–41.

Joe Newbold, “Predictive policing”, “preventative policing” or “intelligence led policing”. What is the future? Warwick Business School, 2015. (Консультационный проект для апробации в программе Бизнес-школы Университета Уорика.)