Вопреки распространенному мнению, Великую Китайскую стену нельзя увидеть из космоса. Пирамиды в Гизе можно, но с низкой околоземной орбиты.

Спортивный электромобиль американского предпринимателя Илона Маска, запущенный в 2018 году в космос с целью продемонстрировать, что ракета-носитель Falcon Heavy сверхтяжелого класса с возможностью повторного использования первой ступени может запускать полезную нагрузку до орбиты Марса. (См. также примечание 4.) – Здесь и далее примеч. пер.

Один гугол равен 10¹⁰⁰, или единице с сотней нулей. Компания Google получила свое название в результате изменения написания этого термина.

В Австралии моя последняя книга вышла под заголовком «Оно живое! Искусственный интеллект от логического пианино к роботам-убийцам». В Великобритании же (что актуально в контексте Брекзита) она была издана с другим названием: «Сны андроидов: прошлое, настоящее и будущее ИИ». В США она имела заголовок «Думающие машины: будущее искусственного интеллекта».

Вот несколько забавных фактов о 2062 годе. Илон Маск предположил, что к этому времени на Марсе будет построен город с населением около миллиона человек. Действие «Джетсонов», популярного телевизионного мультсериала с роботами-горничными и летающими машинами, происходит через сто лет после его запуска в эфир в 1962 году. Все, кто не увидел комету Галлея в 1986-м, смогут сделать это в 2062 году. Правда, только в том случае, если мир не закончит свое существование к тому моменту, ведь Исаак Ньютон предсказывал, что апокалипсис случится в 2060-м.

Когда я был ребенком, мечтающим о том, чтобы построить думающую машину, Артур Ч. Кларк был одним из моих любимых фантастов. Он однажды сказал, что любая передовая технология неотличима от магии.

Avram Noam Chomsky (Ноам Хомски), р. 1928. Американский лингвист, политический публицист, философ и теоретик. Профессор лингвистики Массачусетского технологического института (МТИ), автор классификации формальных языков, называемой иерархией Хомского. – Примеч. ред.

Мы скоро будем говорить об экспоненциальных изменениях, но книгоиздание – одно из первых таких изменений, оказавших серьезное влияние на общество.

Гарри Каспаров (1963–) – советский гроссмейстер, один из величайших шахматистов в истории. Ли Седоль (1983–) – корейский чемпион по го.

Леонард Эйлер (1707–1783), Карл Фридрих Гаусс (1777–1855), Пал Эрдёш (1913–1996) – известные математики.

Уильям Вордсворт – английский поэт-романтик, основной автор сборника «Лирические баллады», условно относимый к т. н. «озерной школе».

Алан Тьюринг (1912–1954) – английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. – Примеч. ред.

Универсальная машина Тьюринга – это более абстрактное и в то же время более механическое, чем современные компьютеры, изобретение. Тем не менее оно ничуть не хуже. Машина состоит из бумажной ленты, на которой написаны символы, из головки, которая может их читать, писать новые символы на бумажной ленте или перемещать ленту вправо и влево, а также из электроники, которая производит различные действия (такие, как чтение ленты, написание символов или движение ленты) в зависимости от внутреннего состояния и последнего прочитанного символа. Впервые такую машину Тьюринг описал в 1937 году. См. Alan Turing, ‘On Computable Numbers, with an Application to the Entscheidungsproblem’, Proceedings of the London Mathematical Society, vol. 42, pp. 230–265. («О вычислимых числах, применительно к проблеме разрешения», труды Лондонского математического общества, т. 42, с. 230–265.)

Инструкции для Z80-х и для 6800-х микропроцессоров существуют в виде шестнадцатеричных чисел). Десятичная система существует по целочисленному основанию 10: после 9 идет 10, затем 11, 12 и т. д. В шестнадцатеричной системе после 9 идет A (=10), B (=11), C (=12), D (=13), E (=14), F (=15), потом 10 (=16), 11 (=17), 12 (=18) и т. д. Инструкция DD для 6800-го микропроцессора известна как «остановись и гори». До создания таких микропроцессоров компьютеры были большими и ненадежными, а при остановке их работы всегда существовала небольшая угроза воспламенения.

Забавный факт заключается в том, что, хотя компьютеры – детерминированные машины, наука о них редко повторяет уже поставленные эксперименты. Компьютеры превратились в очень сложные системы. В результате воспроизвести условия предыдущего эксперимента становится практически невозможно.

Мозг использует больше энергии, чем другие наши органы. Сердце, например, использует меньше 5 Вт.

Как я говорил в своей предыдущей книге, вы действительно можете игнорировать примечания!

Garry Kasparov, ‘The Day That I Sensed a New Kind of Intelligence’, Time, 25 March 1996.

Рейтинг Эло описывает относительный уровень соревнующихся в играх, где участвуют двое игроков. Система была названа в честь ее создателя, Арпада Эло, американского профессора физики венгерского происхождения. Рейтинг обновляется всякий раз, когда игрок побеждает или проигрывает, а также меняется в зависимости от рейтинга соперника. Полагаться на тот рейтинг Эло, который присваивается компьютерным программам, однако, не всегда стоит, так как они часто играют совсем немного официальных игр. Тем не менее разрыв между ними и нашими лучшими шахматистами так велик, что человек практически не имеет шансов против компьютера.

В го первый ход того, кто играет белыми, подразумевает триста шестьдесят один возможный вариант (размеры доски – 19×19). Тот, кто играет черными, может сделать триста шестьдесят разных ходов. Затем, когда игрок белыми делает второй ход, возможных вариантов остается уже триста пятьдесят девять и т. д.

Все суммы в долларах (за исключением тех мест, где это специально оговорено) приводятся в валюте США.

В октябре 2017 года DeepMind представили AlphaGo Zero. Это улучшенная версия AlphaGo, которую не учили играть в го вручную и не показывали игры лучших спортсменов. Ей были даны только правила игры. То есть ее познания не основывались на тысячах лет человеческого опыта в этой игре, а складывались из того, что она освоила самостоятельно. После трех дней практики программа уже играла на сверхчеловеческом уровне. Как и многие мои коллеги, я был впечатлен. Всего три дня требуется компьютеру, чтобы оказаться там, куда человечество шло тысячелетиями. Еще больше я был впечатлен, когда в декабре 2017-го компания представила AlphaZero, еще более универсальную версию, которая также смогла научиться играть в шахматы и сёги (японские шахматы) на сверхчеловеческом уровне только на основе знания правил. Однако есть определенные сомнения (по моему мнению, существенные) в том, что программа может научиться играть во что-то совсем другое. Шахматы, го и сёги – настольные игры для двух человек. Покер же, например, подразумевает не только большее число игроков, но и много новых факторов, таких как неопределенность и человеческая психология. Для того чтобы выиграть в покер, необходимо иметь дело с неполной информацией о картах соперников, тогда как в го все сведения о том, что происходит в игре, доступны обоим участникам. Кроме того, в покере приходится сталкиваться с психологическими трюками соперника, например блефом. Ни AlphaGo, ни AlphaZero не приспособлены для решения подобных задач. Чтобы доказать универсальность программы, DeepMind должны будут продемонстрировать ей способность побеждать в совершенно разных играх, таких как шахматы, покер или StarCraft. И даже тогда алгоритм AlphaZero будет ограничен только играми.

AlphaGo не была первой искусственной нейросетью, которая научилась играть во что-то на нашем уровне. TD-Gammon – программа для игры в нарды – была разработана в 1992 году в научно-исследовательском центре Томаса Дж. Уотсона в IBM. Она показывала уровень чуть ниже, чем у лучших игроков в нарды того времени. Программа использовала стратегии, которые людям и не приходили в голову, и помогла взглянуть на нарды с новой стороны. Так же, как и AlphaGo Zero, она знала только правила игры и научилась всему благодаря постоянной практике.

Реми Кулом – талантливый французский программист.

Реклама, которую победа AlphaGo сделала для Google на китайском рынке, вероятно, окупила все многомиллионные затраты DeepMind на разработку программы. С другой стороны, это может выйти Google боком, так как все это подвигло китайцев на создание собственного ИИ. Если один из китайских гигантов вроде Baidu или Tencent выиграет гонку в сфере искусственного интеллекта, Ларри Пейдж и Сергей Брин могут проклясть тот день, когда они разбудили спящего дракона.

В авиации черный ящик (на самом деле он обычно красного или оранжевого цвета) записывает много внутренней информации о самолете. Черный ящик в ИИ – это система, где можно видеть только входные и выходные данные. Невозможно пронаблюдать, что происходит внутри и как входные данные превращаются в выходные. Противоположность черного ящика – стеклянный ящик, который позволяет следить за внутренними процессами.

Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016.

Средний прогноз – это год, к которому, как говорят опрошенные, компьютеры сравняются с человеком по уровню интеллекта. Основной прогноз отсылал к неопределенному количеству времени в будущем: небольшой процент экспертов и обычных людей предположили, что этого никогда не произойдет.

Некоторые данные тестов IQ в датских и американских вооруженных силах свидетельствуют, что показатели в последнее время даже стали снижаться.

Закон Мура назван в честь Гордона Мура, сооснователя компаний Fairchild Semiconductor и Intel. В 1965 году он описал ежегодное удвоение количества компонентов на интегральной схеме. В 1975 году он округлил срок до двух лет. Закон Мура действовал больше пятидесяти лет. Мало кто знает, что он устарел уже несколько лет назад. Любой экспоненциальный тренд, существующий в реальном мире, рано или поздно заканчивается. В этом случае проблема заключалась в квантовых пределах. International Technology Roadmap for Semiconductors (ITRS) – это отраслевой орган, который, как следует из его названия, разрабатывает «дорожную карту» для достижения закона Мура. В 2014-м ITRS объявил о том, что цель индустрии больше не заключается в удвоении компонентов каждые два года. Учитывая, что теперь это не входит в планы больших компаний, производящих микропроцессоры, мы можем быть уверены в том, что этого не произойдет. Никто не собирается тратить миллиарды долларов, необходимых для изготовления следующего поколения станков для производства чипов, чтобы еще больше сократить размеры транзисторов. Любопытно, что нынешние цели Intel – это уменьшить потребление энергии, чтобы мобильные устройства могли иметь больше вычислительной мощности.

См. Martin Ford (2009) The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future, USA, Acculant Publishing.

Даймонд Джаред М. Коллапс. Почему одни общества приходят к процветанию, а другие – к гибели. М.: АСТ, 2016.

Paul Allen, ‘The Singularity Isn’t Near’, MIT Technology Review, 12 October 2011.

The Cutting Edge: A Moore’s Law for Razor Blades?’ The Economist, 16 March 2006.

Jonathan Hall, ‘Taking Another Look at the Labor Market for Uber’s Driver-Partners’, Medium, 22 November 2016.

H.G. Wells predicted the laser in The War of the Worlds (1897), and nuclear weapons in The World Set Free (1914).

Эдсгер Дейкстра (1930–2002), авторитетный голландский ученый, однажды сказал, что «вопрос о том, могут ли машины думать, так же уместен, как и вопрос, могут ли подводные лодки плавать» (Южная региональная конференция ACM. Остин, Техас. Ноябрь 1984 г.).

См. Stephen Omohundro (2008) ‘The Basic AI Drives’, in Pei Wang, Ben Goertzel & Stan Franklin (eds), Artificial General Intelligence 2008: Proceedings of the First AGI Conference, Frontiers in Artificial Intelligence and Applications 171, Amsterdam, IOS Press, pp. 483–492.

«Мысли о религии и других предметах» (фр. Pensées sur la religion et sur quelques autres sujets) – собрание идей Блеза Паскаля, записанных им в 1657–1658 гг. Опубликованы в 1670 г. Позже название сократилось до одного слова – «Мысли» (фр. Pensées).

Менее изящный способ сделать это – установить определенное временное окно. Вся прибыль, которая может быть получена по истечении этого времени, просто игнорируется.

По словам историка Ричарда Роудса, идея цепной реакции атомов пришла к Лео Силарду, когда он переходил улицу в лондонском районе Блумсбери на следующий день после того, как Резерфорд заявил о невозможности извлечения энергии из атома: «На светофоре загорелся зеленый свет. Силард сошел с тротуара. В тот момент, когда он пересек улицу, время вдруг раскрылось перед ним и он узрел путь в будущее, смерть в мире, все наши беды и очертания грядущих событий» (См. Richard Rhodes [1986] The Making of the Atomic Bomb, New York, Simon & Schuster). Цепная ядерная реакция – один из самых драматичных примеров силы экспоненциального роста. Один нейтрон расщепляет атом, высвобождая два нейтрона. Эти два нейтрона расщепляют два новых атома, высвобождая четыре нейтрона. Из этих четырех получается восемь, из восьми – шестнадцать, из шестнадцати – тридцать два и т. д. Спустя десять шагов мы получаем тысячу нейтронов, спустя двадцать – миллион, спустя тридцать – миллиард, спустя сорок – триллион. ИИ сейчас представляет собой пример подобного экспоненциального роста вычислительной способности, объема данных, выполнения алгоритмов и финансирования, инвестируемого в эту область. Так же, как и все экспоненты, этот рост не может продолжаться вечно, но пока это происходит и прогресс впечатляет. 3. Конец совести

David Chalmers (1995) ‘Facing Up to the Problem of Consciousness’, Journal of Consciousness Studies, vol. 2 no. 3, pp. 200–219.

David Chalmers (2010) ‘The Singularity: A Philosophical Analysis’, Journal of Consciousness Studies, vol. 17, no. 9–10, pp. 7–65.

9 октября 1903 года газета The New York Times опубликовала материал, который назывался «Летающие машины, которые не летают». Статья критиковала идею того, что люди, вероятно, скоро создадут летающие машины: «Нелепое фиаско, которое потерпела попытка воздушной навигации на летательном аппарате Лэнгли, было вполне ожидаемо всеми, кроме, может быть, прославленного секретаря Смитсоновского института, разработавшего этот аппарат, и его помощников. Можно предположить, что подобные летающие машины, которые действительно справятся со своими обязанностями, будут разработаны продолжительными совместными усилиями математиков и механиков через миллионы лет». Однако на самом деле понадобилось гораздо меньше времени. Всего спустя шестьдесят девять дней братья Райт продемонстрировали на практике возможность устойчивого полета на аппарате тяжелее воздуха над не защищенным от ветра пляжем рядом с Китти-Хок в Северной Каролине. Человечество нашло отличный от природного способ летать.

Адамс Д. Автостопом по галактике. М.: АСТ, 2017.

Роджер Пенроуз (р. 1931) – английский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории; автор теории твисторов. Среди наград – премия Вольфа (1988, совместно с С. Хокингом) и медаль Копли (2008).

Для того чтобы подробнее вникнуть в дискуссию о квантовых эффектах и человеческом мозге, см. Roger Penrose (1989) The Emperor’s New Mind: Concerning Computers, Minds, and the Laws of Physics, New York, Oxford University Press.

Дэниел Клемент Деннет – американский философ и когнитивист, чьи исследования лежат в области философии сознания, философии науки и философии биологии.

Айзек Азимов (1920–1992) – американский писатель-фантаст, биохимик, популяризатор науки. Родился в России. Некоторые термины из его произведений – robotics (роботехника, роботика), positronic (позитронный), psychohistory (психоистория, наука о поведении больших групп людей) – прочно вошли в английский и другие языки. Сформировал обязательные правила поведения для роботов, известные как «Три закона робототехники». Впервые сформулированы в рассказе «Хоровод» (1942). Наиболее известные экранизации по произведениям Азимова – «Двухсотлетний человек» (1999) и «Я, робот» (2004).

CRISPR (произносится как «криспер») расшифровывается как clustered regularly interspaced short palindromic repeats (короткие палиндромные повторы, регулярно расположенные группами). Это основа новой впечатляющей технологии модификации генов. Журнал Science назвал ее главным прорывом 2015 года. В ближайшем будущем Нобелевский комитет наверняка признает ее потенциал. 4. Конец работы

Джон Мейнард Кейнс (1883–1946) – британский экономист, создатель макроэкономики, оказавший огромное влияние на развитие мировой экономики.

Экономисты громче всех предупреждают мир об угрозе технологической безработицы. В свете этого забавным представляется тот факт, что самая большая разница в ответах экспертов и обычных людей касалась по большей части именно вероятности автоматизации работы экономистов в ближайшие два десятка лет. Четыре из десяти обычных людей предсказывали автоматизацию этой профессии, в то время как только один из восьми экспертов разделял данную точку зрению.

См. James Manyika, Michael Chui, Mehdi Miremadi, Jacques Bughim, Katy George, Paul Willmott & Martin Dewhurst (2017) A Future that Works: Automation, Employment and Productivity, McKinsey Global Institute.

Этот пример не был взят из головы. Первый вариант программы HealthKit для iWatch от Apple, выпущенный в июне 2014 года, не учитывал менструальный цикл.

В США шанс погибнуть в автоаварии составляет 1 к 114. Для сравнения: шанс погибнуть от огнестрельного оружия составляет 1 к 370, а в авиакатастрофе – 1 к 9800. Так что, может быть, вам стоит больше волноваться по поводу поездки на автомобиле, чем по поводу полета на самолете.

Можете не верить мне на слово, когда я говорю, что создание автономного дрона возможно; то же самое говорит и министр обороны Великобритании.

Я еще вернусь к утверждению о том, что автономные системы вооружения смогут соблюдать международное гуманитарное право и не будут творить беспредел. В отличие от сторонников автономных систем вооружения, я в этом сильно сомневаюсь.

Оружием массового поражения часто считают такое оружие, которое может убивать огромное количество людей без разбора. Автономным системам вооружения не нужно для этого убивать без разбора. Наоборот, они могут стать самыми «разборчивыми» орудиями, известными человеку. Однако министерство обороны США считает оружием массового поражения такое, которое «способно производить разрушения больших масштабов и массовые жертвы». Так что такому оружию необязательно быть неразборчивым.

Для понимания контекста, программы для распознавания лиц сегодня срабатывают гораздо чаще, чем один из десяти раз. Они справляются со своей задачей более чем в девятнадцати случаях из двадцати.

Причина, по которой эта конференция называется Международной совместной конференцией по искусственному интеллекту, затеряна где-то в недрах истории. Тем не менее именно на ней собираются исследователи ИИ со всей планеты.

См. Steven Pinker (2011) The Better Angels of Our Nature, New York, Viking Books.

Папа Франциск, вероятно, не привык быть третьим, но он также был кандидатом на премию «Человек года» от Ассоциации по контролю за вооружениями в 2017 году. Сомневаюсь также, что он привык проигрывать неизвестному профессору из Австралии.

См. Christof Heyns (2013) Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions, United Nations Human Rights Council.

Договор ООН о запрещении ядерного оружия 2017 года был подписан пятьюдесятью странами и ратифицирован семью из них. Он вступит в силу, когда его ратифицируют пятьдесят стран. Никто из ядерных держав или стран НАТО (кроме Нидерландов) его не подписал, поэтому влияние этого договора на разоружение нам еще предстоит увидеть.

См. Amit Datta, Michael Carl Tschantz & Anupam Datta (2015) ‘Automated Experiments on Ad Privacy Settings: A Tale of Opacity, Choice, and Discrimination’, Proceedings on Privacy Enhancing Technologies, vol. 1, pp. 92–112.

См. Julia Angwin, Jeff Larson, Surya Mattu & Lauren Kirchner, ‘Machine Bias’, ProPublica, 23 May 2016.

См. Ian Tucker, ‘“A White Mask Worked Better”: Why Algorithms Are Not Colour Blind’, The Observer, 28 May 2017.

Игра слов: face (англ.) – лицо; book (англ.) – книга.

См. Dana Mattioli, ‘On Orbitz, Mac Users Steered to Pricier Hotels’, The Wall Street Journal, 23 August 2013.

Несмотря на эти одиннадцать аварий с участием автономных машин, погрешность аварийности достаточно велика и автономные автомобили, возможно, будут, согласно статистике, безопаснее, чем те, которыми управляет человек. Однако можно было бы рассчитывать на более удачные средние показатели для автономных машин, так как большую часть проделанного пути они преодолевали в хорошую погоду. Подробности см. в Brandon Schoettle & Michael Sivak (2015) A Preliminary Analysis of Real-World Crashes Involving Self-Driving Vehicles, The University of Michigan, Transportation Research Institute, Technical Report UMTRI-2015-34.

Немногие знают, что современная версия проблемы вагонетки была придумана больше пятидесяти лет назад для обсуждения этической дилеммы, которая до сих пор беспокоит многие культуры: оправданность аборта в случае, когда под угрозой жизнь роженицы. См. See Philippa Foot (1978) The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices, Oxford, Basil Blackwell (originally appeared in The Oxford Review, no. 5, 1967).

См. moralmachine.mit.com.

Мы признаем, что принятие решений действительно может быть автоматизированным процессом даже в отсутствие фундаментальных принципов путем сбора общественного мнения по поводу этических дилемм. См. Ritesh Noothigattu, Neil Gaikwad, Edmund Awad, Sohad D’Souza, Iyad Rahwan, Pradeep Ravikumar & Ariel Procaccia (2018) ‘A Voting-based System for Ethical Decision Making’, Proceedings of 32nd AAAI Conference on Artificial Intelligence.

После реструктуризации Google в конгломерат Alphabet Inc., компания сменила слоган с «Не будь злом» на «Поступай правильно». Это предполагает более позитивный подход к корпоративной этике. Однако я не слышал, чтобы хоть один журналист спросил: поступил ли Alphabet правильно и предложил ли Спайку Ли компенсацию за использование его цитаты? Его культовый фильм 1989 года «Делай как надо» (на англ. Do the right thing, как и слоган Google) часто включают в список лучших фильмов всех времен и народов. В моем личном списке он точно есть. Известно, что Барак Обама и его жена Мишель смотрели этот фильм на своем первом свидании.

A/B-тестирование – это контролируемый статистический эксперимент, когда вы сравниваете два варианта (A и B), чтобы решить, какой из них наиболее эффективен. Когда Марисса Майер была главой отдела продукции Google, она использовала A/B-тестирование, чтобы сравнить сорок оттенков синего и найти идеальный цвет для гиперссылок.

Учитывая, что университеты сейчас тоже часто гонятся скорее за прибылью, чем за знаниями, существует забавное мнение, что в отношении экспериментов с общественностью компании должны подчиняться тем же правилам, что и университеты.

См. Michael Lev-Ram, ‘Zuckerberg: Kids Under 13 Should Be Allowed on Facebook’, Fortune, 20 May 2017. 7. Конец равенства

Разумеется, существуют и другие варианты, помимо капитализма и коммунизма. Социалистическая рыночная экономика Китая – интересный пример, который я вскоре опишу более подробно. Китаю удалось уменьшить бедность больше, чем кому-либо еще. Однако неравенство там существенно выросло.

См. Era Dabla-Norris, Evridiki Tsounta, Kalpana Kochhar, Frantisek Ricka & Nujin Suphaphiphat (2015), Causes and Consequences of Income Inequality: A Global Perspective, technical report, International Monetary Fund, June 2015, SDN/15/13.

См. Martin Luther King Jr. (1967) Where Do We Go from Here: Chaos or Community? Boston, Beacon Press. 8. Конец частной жизни

Выступление на саммите маркетологов ANA в 2006 году в школе менеджмента им. Келлога в Северо-восточном университете.

Из еще не выпущенной книги Humankind 2.0. См. scaruffi.com/singular/bigdata.html.

См. Timnit Gebru, Jonathan Krause, Yilun Wang, Duyun Chen, Jia Deng, Erez Lieberman Aiden & Li Fei-Fei (2017) ‘Using Deep Learning and Google Street View to Estimate the Demographic Makeup of Neighborhoods Across the United States’, Proceedings of the National Academy of Sciences, vol. 114, no. 50, pp. 13 108–13 113.

См. Jakob Bæk Kristensen, Thomas Albrechtsen, Emil Dahl-Nielsen, Michael Jensen, Magnus Skovrind & Tobias Bornakke (2017) ‘Parsimonious Data: How a Single Facebook Like Predicts Voting Behavior in Multiparty Systems’, PLoS One, vol. 12, no. 9, e0184562.

См. Yilun Wang & Michal Kosinski (2018) ‘Deep Neural Networks Are More Accurate than Humans at Detecting Sexual Orientation from Facial Images’, Journal of Personality and Social Psychology, vol. 114, no. 2, pp. 246–257. Это исследование можно критиковать за очень многое. Оно было основано на весьма предвзятом материале. Оно включало только белых людей в возрасте от восемнадцати до сорока лет. В его основе было утверждение, что все люди либо гомосексуальны, либо гетеросексуальны. Тренировочные и тестовые данные использовали одинаковое количество гетеросексуальных и гомосексуальных изображений, тогда как на самом деле только семь процентов этой половозрастной группы гомосексуальны. Исследование утверждало, что алгоритм может различить гомосексуального и гетеросексуального мужчину в восьмидесяти одном проценте случаев. Однако точность в случае с более сбалансированным демографически набором тестовых данных будет намного ниже. И наконец, какова цель этого исследования? Разработка программного обеспечения для определения гомосексуалистов несет огромный риск. Есть около десятка стран, в которых для гомосексуалистов действует смертная казнь. Люди одеваются и выглядят в зависимости от различных культурных и половых стереотипов. Несомненно, алгоритм машинного обучения основывался на подобных зацепках. Чтобы это понимать, нам не нужно специальное программное обеспечение.

См. Bruce Schneier, ‘“Stalker economy” Here to Stay’, CNN.com, 26 November 2013.

«Правительства – только одна из угроз; компании также собирают больше данных, чем должны. Теперь мы имеем экономику преследования, где компании узнают о нас все, что хотят». Эл Гор, доклад на конференции Southland, 10 июня 2014 года.

См. Shannon Liao, ‘Google Admits It Tracked User Location Data Even When the Setting Was Turned Off’, The Verge, 21 November 2017.

См. Amar Toor, ‘Uber Will No Longer Track Your Location After Your Ride Is Over’, The Verge, 29 August 2017.

См. Matt Warman, ‘Bins that Track Mobiles Banned by City of London Corporation’, The Telegraph, 12 August 2013.

См. Siraj Datoo, ‘This Recycling Bin Is Following You’, Quartz, 8 August 2013.

В 2011 году информация о сексуальной активности многих пользователей FitBit могла быть найдена в Google. Потом это, однако, было ограничено.

Эрик Шмидт на Washington Ideas Forum, октябрь 2010 г.

Google перестала читать письма пользователей, чтобы на их основе делать таргетированную рекламу. Однако компания продолжает читать письма по другим причинам, таким как добавление отметок в календаре или предложение автоматических ответов.

См. Gregory S. McNeal, ‘It’s Not a Surprise that Gmail Users Have No Reasonable Expectation of Privacy’, Forbes, 20 August 2013.

Stefan Brehm & Nicholas Loubere, ‘China’s Dystopian Social Credit System is a Harbinger of the Global Age of the Algorithm’, The Conversation, 15 January 2018.

В Китае не было кредитной рейтинговой системы, как, например, в США, так что в стране не без оснований хотели ее разработать, чтобы бороться, например, с коррупцией. Однако эта система превратилась в нечто гораздо более тревожное.

См. Jason Hiner, ‘IBM Watson CTO: The 3 Ethical Principles AI Needs to Embrace’, TechRepublic, 2 March 2018. 9. Конец политики

Не все знают, что речь Уинстона Черчилля 4 июня 1940 года не была записана. Выдержки из нее были прочитаны в вечернем выпуске новостей BBC. Черчилль выпустил в 1949 году запись, которую многие слышали и считают, что она сделана в 1940-м.

См. Casey Newton, ‘Zuckerberg: The Idea that Fake News on Facebook Influenced the Election Is “Crazy”’, The Verge, 10 November 2016.

Игра слов: fake (вместо face) – в переводе с английского: «фальшивый».

См. Robert M. Bond, Christopher J. Fariss, Jason J. Jones, Adam D. I. Kramer, Cameron Marlow, Jaime E. Settle & James H. Fowler (2012) ‘A 61-million-person Experiment in Social Influence and Political Mobilization’, Nature, vol. 489, pp. 295–298.

«Мы всегда проводили эти тесты [для увеличения явки] в нейтральном ключе. Мы учимся на своих ошибках и на сто процентов поддерживаем большую прозрачность при агитации к исполнению гражданского долга в будущем», – сказал Майкл Бакли, вице-президент Facebook по мировым бизнес-коммуникациям. Цит. по Micah L. Sifry, ‘Facebook Wants You to Vote on Tuesday. Here’s How It Messed With Your Feed in 2012’, Mother Jones, 31 October 2014.

Для справки: в выборах 2012 года голосование по 27-му округу палаты представителей в Нью-Мехико было напряженным. После пересчета голосов кандидат от республиканцев был объявлен победителем с отрывом в восемь голосов. Вполне вероятно, что эксперименты Facebook в 2012 году изменили некоторые исходы выборов, так же как и в 2010-м.

См. Case Study: Reaching Voters with Facebook Ads (Vote No on 8), Facebook, facebook.com/notes/us-politics-on-facebook/case-study-reaching-voters-with-facebook-ads-vote-no-on-8/10150257619200882.

См. Cambridge Analytica, ‘About Us’, ca-political.com/ca-advantage.

См. Mark Zuckerberg, ‘Bringing the World Closer Together’, Facebook post, 22 June 2017, facebook.com/notes/mark-zuckerberg/bringing-the-world-closer-together/10154944663901634.

См. Secrets of Silicon Valley, Part 2: The Persuasion Machine, BBC Two, 13 August 2017.

В ноябре 2017 года учетная запись Трампа в Twitter была ненадолго заблокирована отдельным сотрудником в его последний день работы в компании. Некоторые предлагали выдвинуть его в качестве кандидата на Нобелевскую премию мира.

С моей стороны правильно было бы отметить, что из 1476 моих подписчиков в Twitter (@TobyWalsh) 41 процент – фейки. Не имею ни малейшего представления, как столько ботов на меня подписалось и зачем им это нужно.

См. Jane Wakefield, ‘Net Neutrality Debate “Controlled by Bots”’, BBC News, 4 October 2017.

По моему мнению, единственный достойный аргумент против сетевого нейтралитета заключается в том, что данные, оставленные ботами, должны иметь меньший приоритет, чем те, которые произведены людьми!

Чат-бот назван в честь сегмента на шоу Last Week Tonight, в котором Джон Оливер предлагал людям начать называть Трампа историческим именем его семьи – Дрампф.

«Пять вещей, которые нам нужно знать о технологических переменах» – обращение Нила Постмана на New Tech’98 Conference в Денвере, штат Колорадо, 27 марта 1998 года. 10. Конец западной цивилизации

См. Marc Andreessen, ‘Why Software Is Eating the World’, The Wall Street Journal, 20 August 2011. Андриссен, сооснователь венчурного фонда Andreessen – Horowitz, который инвестировал в Facebook, Groupon, Skype и Twitter. Прежде чем стать венчурным инвестором, он был сооснователем Netscape.