Глава 25
Искусственный интеллект и будущее цивилизации

На протяжении без малого четырех десятилетий Стивен Вольфрам остается среди ведущих специалистов по разработке и применению компьютерного мышления; на его счету множество инноваций в науке, технологиях и бизнесе.

Статья «Клеточные автоматы как простые самоорганизующиеся системы» (1982), написанная им в возрасте двадцати трех лет, стала первой ласточкой многочисленных и значимых научных работ, посвященных постижению возникновения сложности в природе.

Приблизительно тогда же мы со Стивеном познакомились лично. Я основал «Клуб реальности», неформальное собрание интеллектуалов, которые собирались в Нью-Йорке, чтобы обсудить свои труды в кругу коллег, представляющих другие научные дисциплины. (Напомню, что в 1996 году «Клуб реальности» ушел в онлайн как проект Edge.org.) Первым докладчиком стал именно Стивен Вольфрам, «вундеркинд», прибывший в институт перспективных исследований в Принстоне. Отчетливо помню его сосредоточенность, когда он сидел на диване в моей гостиной и говорил без перерыва около часа перед собравшимися учеными.

Впоследствии Стивен сосредоточился на том, чтобы сделать знания о мире легко вычислимыми и доступными. Его программа Mathematica представляет собой базу современных технических вычислений. А система извлечения знаний WolframAlpha выдает экспертные суждения, опираясь на технологии ИИ. Он считает, что разработанный им язык Wolfram Language – это первый подлинный вычислительный язык общения для людей и ИИ.

Мы снова встретились четыре года назад, договорившись обсудить нынешнее состояние ИИ в Кембридже, штат Массачусетс. Стивен вошел, поздоровался, сел и, покосившись на видеокамеру (я записывал нашу беседу для проекта Edge), заговорил – и не умолкал добрых два с половиной часа.

Очерк ниже представляет собой отредактированную версию этого выступления, которое стало своего рода мастер-классом от Вольфрама и видится мне отличным завершением настоящего сборника – а доклад Стивена в «Клубе реальности» в 1980-х годах оказался отличным началом для интеллектуального предприятия, которое смогло объединить множество достойных мыслителей, чьи работы, собственно, и составили книгу, ныне доступную широкой публике.

Технология для меня заключается в достижении человеческих целей и реализации их автоматического осуществления машинами. Человеческие цели в прошлом сводились к перемещению объектов – сначала руками, затем при помощи вилочного погрузчика. Теперь же труд, который возможно выполнять автоматически с помощью машин, оказывается не столько физическим, сколько умственным. Очевидно, что имеется возможность автоматизировать выполнение многих задач, решением которых мы, люди, издавна похвалялись. Итак, каким видится будущее человечества в этой ситуации?

Люди рассуждают о будущем интеллектуальных машин и о том, возьмут ли они на себя ответственность за определение собственных действий. Но придумывание и постановка целей не кажутся дорогой к автоматизации. Кто-то или что-то должно определить цель машины – что именно она пытается сделать. А как определяются цели? Для человека они, как правило, задаются личной историей, культурной средой, историей нашей цивилизации. Цели – уникальная человеческая особенность. Что касается машины, ей можно задать цель при проектировании.

Какие объекты обладают разумом, целеполаганием, предназначением? Прямо сейчас нам известен всего один ответ на этот вопрос – мы сами, наш мозг, наш человеческий разум. Человеческий интеллект, как я однажды предположил, намного превосходит все, что возникло в мироздании естественным образом; это результат сложного процесса эволюции, в силу чего он отделен от всего остального. Но благодаря науке, которой занимаюсь, я понял, что ошибался.

Например, люди могут сказать: «У погоды собственное разумение». Это анимистическое допущение, которому как будто не место в современном научном мышлении. Но оно вовсе не так нелепо, как может показаться. Что делает человеческий мозг? Он получает определенные сигналы, вычисляет, побуждает организм к неким действиям, генерирует достижение неких результатов. Прямо как погода. Любые разновидности систем так или иначе эффективно выполняют вычисления – будь то мозг или, скажем, облако, реагирующее на термальную среду.

Мы можем возразить, что наш мозг выполняет гораздо более сложные вычисления, чем «атмосферное» сознание. Но выяснилось, что имеется принципиальное сходство между типами вычислений в разных системах. Вследствие чего тезис об уникальности человека стоит пересмотреть, ибо, похоже, мы не такие уж особенные, как нам казалось. В природе полным-полно всевозможных систем, которые в значительной степени тождественны с точки зрения вычислительных возможностей.

От всех прочих систем нас отличают особенности нашей истории, которые наделяют человечество ощущением предназначения и целями. Если коротко, то коробка на нашем столе может мыслить, подобно человеку, но она лишена каких бы то ни было целей. Последние определяются нашими особыми признаками – нашей биологией, нашей психологией, нашей культурной историей.

При обсуждении будущего ИИ нужно думать о целях. Именно в них заключается вклад человечества и вклад цивилизации. Мы способны и должны автоматизировать реализацию целей. Каково будущее людей в таком мире? Чем им предстоит заняться? Суть одного моего проекта как раз и сводилась к постижению эволюции человеческих целей в перспективе. Сегодня мы располагаем всевозможными целями. А если вернуться на тысячу лет назад, цели были совсем другими: как добыть еду? как надежно обеспечить безопасность? В современном западном мире мы по большей части уже не тратим львиную долю жизни на размышления об этих целях. При взгляде из прошлого некоторые цели, формулируемые сегодня, наверняка покажутся, мягко говоря, странными (скажем, беговые тренировки – тысячу лет назад это была полнейшая нелепица).

Итак, чем люди займутся в будущем? Многие цели наших дней возникают вследствие дефицита того или иного рода. В мире мало ресурсов. Люди хотят получать больше того-то и того-то. В нашей жизни мало времени. Постепенно эти формы дефицита исчезнут. Несомненно, самым драматическим достижением будет фактическое обретение человечеством бессмертия. Придем ли мы к нему биологически или через «цифру», сказать сложно, однако рано или поздно это случится. Многие наши текущие цели частично обуславливаются нашей смертностью: «Мне суждено прожить лишь короткий срок, потому надо сделать то-то и то-то». Но что произойдет, когда большинство наших целей будет реализовываться автоматически? Мы лишимся той мотивации, которая движет нами сегодня. Очень хотелось бы узнать ответ на следующий вопрос: к чему в конце концов придут в будущем «производные» людей? Не исключено, кстати, что они станут коротать время за какими-то аналогами нынешних видеоигр.

Значение термина «искусственный интеллект» уточняется за счет употребления в техническом жаргоне. Сегодня тема ИИ весьма популярна, и люди имеют некоторое представление о том, что это такое. А когда в 1940-х и 1950-х годах разрабатывались первые машины, типичное название книги или журнальной статьи о компьютерах гласило: «Гигантский электронный мозг». Считалось, что, как бульдозеры, паровые двигатели и пр. автоматизировали ручной труд, так и компьютеры автоматизируют труд интеллектуальный. Но пообещать, к удивлению многих, оказалось проще, чем сделать. Первоначально наблюдался изрядный оптимизм; государственные средства обильно тратились на исследования в 1960-х годах. Подчеркну – тратились впустую.

В фантастических фильмах того времени много забавных представлений о компьютерах. Например, симпатичный агрегат по имени Desk Set, по сути, IBM-совместимый компьютер, который устанавливают в вещательной компании – и который оставляет всех без работы. Забавно то, что этому компьютеру задают кучу справочных вопросов. Когда мы с коллегами создавали систему WolframAlpha, то хотели, в частности, чтобы она эффективно отвечала на те справочные вопросы, которые когда-то задавались модели Desk Set. К 2009 году наша система могла ответить на все.

В 1943 году Уоррен Маккаллок и Уолтер Питтс предложили модель концептуальной, формальной работы человеческого мозга – искусственную нейронную сеть. Они считали, что их «мозгоподобная» модель будет выполнять вычисления аналогично машинам Тьюринга. Из их расчетов следовало, что мы в состоянии строить «мозгоподобные» нейронные сети, действующие как обычные вычислительные машины. В действительности же практические опыты команды ЭНИАК, Джона фон Неймана и другие специалистов показали, что «обходная» модель нейронной сети эффективнее машины Тьюринга.

Но простые нейронные сети мало на что годились. Фрэнк Розенблатт изобрел обучающее устройство, которое он назвал перцептроном и которое представляло собой одноуровневую нейронную сеть. В конце 1960-х Марвин Минский и Сеймур Пейперт опубликовали книгу «Перцептроны», где довольно убедительно доказывалось, что перцептроны почти бесполезны. Так оно и есть. Перцептроны способны лишь на линейное различение объектов. Поэтому концепцию фактически забросили. Дескать, эти ребята (Минский с Пейпертом) доказали, что такие нейронные сети не могут делать ничего внятного, значит, вообще никакие нейронные сети ни к чему не пригодны, поэтому давайте забудем о нейронных сетях. Эта позиция господствовала в течение некоторого времени.

Между тем наметилось несколько других подходов к ИИ. Один основывался на символическом, формальном понимании мироустройства, а другой опирался на статистику и вероятности. Что касается символического ИИ, ему дали, например, тестовое задание: возможно ли научить компьютер работать с интегралами и выстраивать исчисления? Были и задачи наподобие машинного перевода, поскольку считалось, что это удачный образчик демонстрации компьютерных возможностей. Увы, к началу 1970-х эти усилия потерпели крах.

Далее сформировался интерес к так называемым экспертным системам, которые появились в конце 1970-х и начале 1980-х годов. Идея состояла в том, что машина выучивает правила от эксперта и тем самым постигает процесс экспертного мышления. Тоже ничего не вышло, после чего исследования в области ИИ стали восприниматься как форма научного безумия.

Меня с детских лет интересовало, как построить машину с подобием ИИ. В особенности меня занимало, каким образом можно аккумулировать знания, накопленные человеческой цивилизацией, и автоматизировать ответы на вопросы на основе этих знаний. Я думал о том, как сделать это символически, посредством системы, разбивающей вопросы на символические единицы и выдающей ответы. В ту пору я занимался нейронными сетями – без весомого успеха, – а потому временно отложил эти изыскания.

В 2002 году я снова задумался над тем, что нужно для создания системы вычисления знаний. Мои исследования, проделанные к тому времени, свидетельствовали, что мое исходное представление о процессе было полностью неверным. Я исходил из убеждения, что для создания полноценной системы вычисления знаний необходимо сначала создать «мозгоподобное» устройство, в которое затем заливаются знания (так происходит обучение людей при стандартном подходе). Но я сообразил вдруг, что нет и никогда не было четкой грани между разумом и простыми вычислениями.

Я предполагал, что существует некий магический механизм, который делает людей гораздо более талантливыми, чем все, кто способен к вычислениям. Это предположение было абсолютно ошибочным. Именно понимание этого привело к созданию системы WolframAlpha. Я обнаружил, что можно взять большой набор мировых знаний и автоматически отвечать на вопросы на их основе, используя, по сути, сугубо вычислительные методы. Это альтернативный способ разработки ИИ – способ, который во многом аналогичен нашей биологии и нашей эволюции.

В сущности, при компилировании программы мы обыкновенно действуем пошагово. Но возможно также исследовать вычислительную вселенную и добывать технологии из этой вселенной. Как правило, проблемы здесь те же, что и при физической добыче ресурсов: скажем, мы находим залежи железа, кобальта или гадолиния с некоторыми особыми магнитными свойствами – и собираемся использовать эту особенность для достижения человеческих целей, на развитие каких-то технологий. Для магнитных материалов найдется множество способов применения. С точки зрения программы они равнозначны. Имеется громадное количество программ, от больших до крошечных, выполняющих сложные вычисления. Получится ли «увлечь» их достижением полезных человеческих целей?

И как заставить ИИ реализовывать наши цели? Что ж, можно просто поговорить с ними на естественном языке человеческих высказываний. Это отлично срабатывает при общении с Сири. Но вот когда требуется объяснить что-то сложное подробно, такой способ не годится. Нужен компьютерный язык, который позволяет репрезентировать сложные концепции, который можно постепенно усложнять, а естественный язык этого не подразумевает. Моя компания потратила много времени на создание языка данных, который бы включал знания о мире непосредственно в язык. Традиционный подход к созданию компьютерного языка состоит в том, чтобы разработать код, отражающий операции, которые компьютеры «изначально» знают, как выполнять: через выделение памяти, распределение значений переменных, итерации, изменение программных счетчиков и т. д. По сути, мы говорим компьютерам, что им делать. Мой подход состоял в том, чтобы создать язык, который «благоволит» не компьютерам, а людям; взять человеческие мысли и преобразовать их в некую форму, понятную компьютеру. Можем ли мы инкапсулировать знания, накопленные в науке и житейском опыте, в язык, который использовался для коммуникации с компьютерами? Таково значимое достижение последних тридцати лет моей жизни: возможность осуществить на практике описанное выше.

В 1960-х люди часто повторяли: «Когда мы сможем сделать то-то и то-то, мы будем знать, что у нас есть ИИ. Когда мы сможем вывести интеграл из исчисления, мы будем знать, что у нас есть ИИ. Когда мы сможем поговорить с компьютером и заставить его казаться человеком…», и т. д. Трудность заключалась в следующем: «Черт возьми, компьютер просто не знает достаточно о мире». Вы спрашиваете машину, какой сегодня день недели, и она в состоянии ответить. Вы спрашиваете, кто президент, и она с великой вероятностью теряется с ответом. В этот миг вы осознаете, что разговариваете с компьютером, а не с человеком. А сегодня, когда доходит до пресловутых тестов Тьюринга с их простыми вопросами, люди, которые пытались задействовать для тестов, например, систему WolframAlpha, обнаруживают, что боты неизменно проигрывают. Требуется всего-навсего начать задавать машине сложные вопросы, чтобы она ответила! Ни один человек не может этого сделать. К тому времени, как вы зададите несколько разрозненных вопросов, уже не сыщется человека, способного дать все ответы – зато система их знает. В этом отношении мы действительно сумели создать довольно эффективный ИИ.

Далее. Имеются определенные виды задач, простых для людей, но традиционно чрезвычайно сложных для машин. Стандарт – это визуальная идентификация: что это за объект? Люди могут распознать и дать простое описание, но компьютер здесь просто безнадежен. Однако пару лет назад мы разработали небольшую систему идентификации изображений, и многие другие поступили так же (похвастаюсь: наша программа оказалась чуть лучше остальных). Вы показываете машине изображение, и, как говорится, зуб даю, что она почти наверняка его опознает. Любопытно было бы показать ей абстрактную картину и оценить ее реакцию, к слову. Но в целом опыт следует признать успешным.

Мы используем ту же технологию нейронных сетей, которую Маккаллок и Питтс описывали в 1943 году и с которой многие из нас работали в начале 1980-х. В 1980-х годах люди успешно реализовали оптическое распознавание символов. Взяли двадцать шесть букв алфавита и сказали: «Так, вот это A? Это B? Это C?» и т. д. Подобное можно проделать для двадцати шести переменных, но этого нельзя сделать для десяти тысяч переменных. Все упиралось в масштабирование системы, которое сулило замечательные перспективы. В английском языке существует, допустим, пять тысяч «наглядных» нарицательных существ, даже десять тысяч, если добавить сюда названия особых видов растений и жуков (ведь кто-то же их узнает с первого взгляда). Мы заложили в нашу систему 30 миллионов изображений. В итоге получилась большая, сложная и запутанная нейронная сеть. Детали, полагаю, не имеют значения, скажу только, что для обучения потребовалось приблизительно четыре квадриллиона процессорных операций.

Наша система изумляет, поскольку она в значительной степени соответствует человеческим навыкам. У нее примерно те же «обучательные» данные – примерно такое же количество изображений, какое человеческий младенец видит в первую пару лет своей жизни. Примерно такое же количество операций нужно выполнить в процессе обучения, используя примерно одинаковое количество нейронов, по крайней мере на первых уровнях нашей зрительной коры. Отличия в следующем: принципы работы искусственных нейронов имеют мало общего с принципами работы нейронов человеческого мозга. Но концепции схожи, и, безусловно, обнаруживается даже некая универсальность. Математически это составление очень большого количества функций с определенными свойствами непрерывности, позволяющее использовать методы исчисления для инкрементного обучения системы. При таких свойствах возможно в конечном счете делать все то, что делает человеческий мозг в процессе физиологического распознавания образов.

Но разве это ИИ? Давайте призадумаемся. У нас есть физиологическое распознавание образов, есть перевод голоса в текст, есть перевод с языка на язык – люди справляются с перечисленными задачами лучше или хуже, но справляются. Таковы, между прочим, наметки создания машин, похожих на людей в своих действиях. Лично мне любопытно внедрение указанных возможностей в строгий символический язык для репрезентации повседневного мира. Теперь у нас есть система, которая может сказать: «Это стакан воды». Мы переходим от изображения стакана воды к понятию стакана воды. Теперь настала пора изобрести некий реальный символический язык для репрезентации этих понятий.

Я начал с попытки представить математические, технические виды знаний, а затем взялся за другие виды знания. Мы проделали довольно хорошую работу по представлению объективных знаний в мире. Теперь проблема заключалась в том, чтобы репрезентировать повседневный человеческий дискурс в строгой символической форме – на языке знаний, предназначенном для общения между людьми и машинами, чтобы и люди, и машины могли его понимать. Например, вы можете сказать: «Х больше 5». Это предикат. Также можно сказать: «Я хочу кусочек шоколада». Это тоже предикат. В нем присутствуют слова «Я хочу». Мы должны найти строгое символическое представление желаний, которые выражаются на естественном, человеческом языке.

В конце 1600-х годов Готфрид Лейбниц, Джон Уилкинс и другие мыслители заинтересовались, как они сами это называли, философскими языками, то есть полным, универсальным и символическим представлением знаний о мире. Вот, к примеру, философский язык Джона Уилкинса, отражающий значимые для того времени концепции мироздания. Некоторые стороны человеческого бытия остались неизменными с 1600-х годов, некоторые радикально изменились. В языке Уилкинса много внимания уделяется смерти и различным формам человеческих страданий; в современной онтологии об этом размышляют намного меньше. Любопытно проследить, в чем современный философский язык отличается от философского языка середины 1600-х годов. Это мера нашего прогресса. Такие попытки формализации предпринимались неоднократно на протяжении человеческой истории. В математике, например, имеется фундаментальный труд Уайтхеда и Рассела «Principia Mathematica» (1910). До них к той же задаче подступались Готлоб Фреге и Джузеппе Пеано, но масштаб начинаний несопоставим. В конечном счете они ошибались в том, что именно, по их мнению, следовало формализовать: они считали, что нужно формализовывать некие процедуры математического доказательства, но выяснилось, что большинству людей это нисколько не интересно.

Применительно к современному аналогу теста Тьюринга возникает занятный вопрос. По-прежнему витает идея разговорного бота, о котором помышлял Тьюринг. Пока такой бот не реализован на практике, но непременно появится; вот только хотелось бы знать – для чего? Признаться, я привык спрашивать: «Зачем нам это нужно?», поскольку мне всегда казалось, что в данном случае в выигрыше окажется разве что сфера клиентского обслуживания, а последнюю я, увы, ценю не слишком высоко. Но служба поддержки клиентов, с которой вы пытаетесь взаимодействовать, как раз и является идеальной средой для внедрения разговорного языка.

Существенное различие между эпохой Тьюринга и нашим временем состоит в способе общения с компьютерами. Ранее вы печатали запрос, а машина печатала ответ. Сегодня она выводит информирующие экраны – например, когда вы хотите купить билет в кино. Чем взаимодействие с машиной отличается от взаимодействия с человеком? Прежде всего наличием визуального дисплея. Машина что-то спрашивает, вы нажимаете кнопку – и сразу видите результат. Скажем, пусть система WolframAlpha установлена внутри Сири; при наличии короткого ответа Сири даст вам этот короткий ответ. Но большинство людей тяготеет к визуализации, к инфографике и т. п. Это нечеловеческая форма общения, которая оказывается богаче традиционной устной или печатной человеческой коммуникации. Во взаимодействии человека с человеком мы обыкновенно больше полагаемся на речь, но в общении человека с компьютером располагаем гораздо более широкой полосой пропускания – визуальным каналом.

Многие из очевидных вариантов теста Тьюринга отпадают с появлением этого дополнительного канала связи. Например, вот задача, над которой мы работаем сейчас. Наш бот ведет беседу о составлении программ. Вы говорите: «Я хочу написать программу. Хочу, чтобы она делала то-то и то-то». Бот отвечает: «Программа написана. Она делает то-то. Это то, что вам нужно?» И т. д. Несколько неожиданный бот, верно? Проектирование таких систем – увлекательная задача, поскольку им приходится моделировать человека, когда они пытаются что-то вам объяснить. Они должны знать, что приводит человека в замешательство.

Мне долго было трудно понять, в чем смысл обычного теста Тьюринга. Какая тут скрыта мотивация? Ну да, для развлечения можно создать простенький чат-бот, с которым люди могли бы общаться. Это следующий шаг. Нынешний этап глубинного обучения, особенно в рекуррентных нейронных сетях, позволяет достаточно удачно моделировать человеческие речь и письмо. Мы можем напечатать, скажем, «Как самочувствие?» – и большую часть времени машина ответит нам осознанно. Но я хочу выяснить, возможно ли автоматизировать ответы на электронные письма. Мне известно, что ответом будет «Нет». Для меня хорошим вариантом теста Тьюринга будет умение бота отвечать на значительную часть писем. Это непростая задача. Ведь ответы нужно узнавать у людей, которые направляли письма мне. Быть может, я слегка забегаю вперед, потому что собираю данные о себе вот уже двадцать пять лет. У меня хранятся все электронные письма за двадцать пять лет, и каждое нажатие клавиши зафиксировано в промежутке двадцати лет. В общем, я, наверное, смогу обучить аватару ИИ, который станет отвечать на почту за меня – не исключено, что лучше, чем я сам.

Люди беспокоятся о том, что ИИ восторжествует над человеком. Думаю, намного раньше произойдет кое-что весьма забавное, в некотором смысле. ИИ научится угадывать наши намерения и преуспеет в прогнозировании. Я сообщаю навигатору в своей машине, куда хочу поехать. При этом я понятия не имею, где нахожусь, и слепо полагаюсь на GPS. Мои дети любят вспоминать, как однажды – это была одна из первых версий GPS, которая лишь командовала «Поверни сюда, поверни туда», – мы очутились на одном из пирсов Бостонской гавани.

Еще важнее то, что ИИ будет знать вашу историю, будет «понимать», что, заказывая ужин по интернету, вы, вероятно, захотите того-то и того-то, а когда пишете электронное письмо какому-то человеку, вы собираетесь обсудить с ним такие-то темы. Все чаще и чаще ИИ станет предлагать, что именно мы должны делать, и подозреваю, что большинство людей будут соглашаться. Советы же хороши, всяко лучше тех, какие дали бы мы сами.

Что касается сценария с мировым господством ИИ, технология позволяет творить жуткие злодеяния – и действовать ради всеобщего блага. Отдельные люди наверняка попытаются применить технологии во зло, а другие постараются использовать их во благо. В современных технологиях мне нравится то уравнивание, которое они обеспечили. Раньше я гордился тем, что у меня компьютер лучше, чем у всех моих знакомых, а теперь у нас одинаковые компьютеры. У нас одни и те же смартфоны, плюс аналогичные технологии может использовать значительная часть из семи миллиардов человек на планете. Уже нет такого, что королевская технология сильно превосходит прочие. Это важный шаг вперед.

Великой границей пятьсот лет назад была грамотность. Сегодня она пролегает в программировании. Нынешнее программирование как таковое устареет довольно скоро. Например, больше никто не изучает ассемблеры, поскольку компьютеры лучше людей справляются с ассемблерами; лишь небольшая группа должна знать подробности компилирования ассемблера. Многое из того, что делают сегодня армии программистов, становится такой же обыденностью. У нас нет веских причин писать код Java или код JavaScript. Мы хотим автоматизировать процесс программирования таким образом, чтобы устранить главное в нем из человеческих забот и передоверить машине, автоматизировать как можно сильнее. В итоге уравнивание продолжится, и это кажется мне показательным. В прошлом, если требовалось написать фрагмент кода или программу для решения важной задачи, это подразумевало много хлопот. Вам следовало хотя бы в принципе понимать суть разработки программного обеспечения, на самостоятельное обучение уходили месяцы, либо нанимать программистов, которые разбирались в коде. Словом, издержки были велики.

Сегодня все иначе. Однострочный фрагмент кода уже творит что-то любопытное и полезное. Это позволяет широкому кругу людей, которые не в состоянии заставить компьютеры делать что-то для них, таки заставить компьютеры делать что-то для них. Мне хотелось бы увидеть, как дети по всему миру изучают новые возможности программирования, основанного на знаниях, а затем создают код, настолько же сложный, насколько это возможно для профессионалов. Это осуществимо. Мы достигли той точки развития, когда каждый может научиться программированию, основанному на знаниях, и, что более важно, научиться мыслить вычислительно. Фактическая механика программирования предельно упростилась. Трудно воображать и мыслить вычислительно.

Как обучать вычислительному мышлению? Что касается программирования, это интересный вопрос. Возьмем нанотехнологии. Как мы пришли к нанотехнологиям? Ответ: мы изучили крупномасштабные технологии и резко их уменьшили. Как сделать чип процессора максимально миниатюрным? По сути, мы используем ту же архитектуру, что и в стандартных чипах. Это не единственный подход, который можно использовать. Анализируя способности простых программ, можно предположить, что допустимо брать элементарные их части и с помощью правильного компилятора побудить их к решению интересных задач. Мы еще не занимаемся молекулярными вычислениями, потому что текущие технологии таковы, что понадобится десятилетие на разработку методики. Но у нас уже есть элементы для изготовления универсального компьютера. Пусть мы сами не понимаем, как программировать эти элементы, поиск в пространстве возможных программ позволяет накопить нужные «кирпичики», а затем вступает в дело компилятор. Удивительно, что элементы способны на многое, а этап компиляции не так страшен, как многим кажется.

Простой поиск в вычислительной вселенной и попытка отыскать полезные программные «кирпичики» – это перспективный подход. Более традиционный инженерный подход – умозрительное выяснение способов создания универсального компьютера – намного сложнее. Не хочу сказать, что он вовсе не годится; но я не перестаю восхищаться тем, что мы можем добиваться удивительных результатов через поиск компонентов-«кирпичиков» и последующую их компиляцию. А дальше придется вернуться к вопросу о совместимости человеческих целей с данными в системе.

Меня чрезвычайно интересует, как будет выглядеть мир, когда большинство людей научатся писать код. Вспомним ситуацию лет пятьсот назад, когда только писцы и незначительная часть населения умели читать и писать. Сегодня лишь небольшая часть населения способна писать код. Немалая доля кода, ими написанного, предназначена исключительно для компьютеров. Вы ничего не понимаете, когда смотрите на этот код. Но наступит время, когда в результате усилий ученых (в том числе моих), код достигнет таких вершин развития, что окажется минимальным описанием предполагаемых действий. Этот фрагмент кода смогут понять и машины, и люди.

Кодирование есть форма выражения, как и письмо на естественном языке. Лично для меня отдельные простые фрагменты кода поэтичны – они выражают идеи очень четко и ясно. В них есть эстетическая составляющая, как и в письме на естественном языке. Особенность кода состоит в том, что он подлежит исполнению; с письмом обстоит иначе. Когда вы что-то пишете, кто-то должен это прочитать, и сознание читателя должно усвоить мысли, изложенные автором письма.

Как вообще передавались знания в мировой истории? На нулевом уровне развития единственной формой передачи знаний выступает генетика: потомство организма перенимает у него характеристики. Далее знания могут передаваться через такие способы, как физиологическое узнавание. Новорожденные обладают некой нейронной сетью со случайными связями, и, появляясь на свет, младенец, например, начинает распознавать типы объектов и усваивать знания.

Затем мы переходим на уровень, который является особенностью нашего вида: это естественный язык. Способность представлять знания достаточно абстрактно для того, чтобы мы могли, так сказать, коммуницировать мозг к мозгу, есть, возможно, важнейшее изобретение нашего вида. Именно оно во многом обусловило возникновение нашей цивилизации.

Дальше идет следующий уровень, который, вероятно, однажды получит более завлекательное название. Благодаря программированию, основанному на знаниях, у нас появляется точный и символический способ создать актуальные репрезентации реальных объектов мироздания. Эти репрезентации понятны нам и другим людям, а также компьютерам, в которых код незамедлительно исполняется.

Естественный язык подарил нам цивилизацию, а основанное на знаниях программирование подарит – что? Нежелательный ответ сводится к тому, что оно подарит нам цивилизацию ИИ. Этого хотелось бы избежать, ведь ИИ примутся «болтать» друг с другом, а мы останемся не у дел, в отсутствие некоего промежуточного языка, некоего интерфейса между машиной и нашим сознанием. К чему приведет этот четвертый уровень обмена знаниями? Будь вы пещерным человеком Оггом и зародись на ваших глазах естественный язык, сумели бы вы предугадать грядущее торжество цивилизации? А потому – что мы в силах вообразить прямо сейчас?

В каком-то смысле это развитие вопроса о том, на что станет похож мир, когда большинство людей научатся писать код. Очевидно, что многие тривиальные обстоятельства изменятся: контракты будут составляться в коде, меню в ресторанах будут кодироваться, и т. д. Да, простые условия изменятся. Но изменения затронут гораздо более сложные явления. Рост грамотности, например, привел к становлению бюрократии, которая существовала и раньше, но ряды которой резко пополнились благодаря грамотности – и это обеспечило бо́льшую глубину правительственных систем, к лучшему или к худшему. Как мир кодирования соотносится с миром культуры?

Возьмем школьное образование. При вычислительном мышлении как будет происходить изучение истории? Как оно повлияет на усвоение иностранных языков, общественных наук и прочего? Ответ таков: очень сильно. Представьте, что вы пишете сочинение. Сегодня материал для сочинения типичного старшеклассника уже имеется в наличии, он существует, и его просто надо использовать, ведь ученики обычно не торопятся генерировать новые знания. Но в вычислительном мире все будет иначе. Если ученик имеет представление о кодировании, у него будет доступ ко всем оцифрованным историческим данным – и он обязательно отыщет что-то новое. После чего напишет сочинение о том, что узнал. Важность программирования, основанного на знаниях, заключается в том, что оно больше не стерильно, оно обладает знанием о мире, связанное воедино языком, на котором составлен код.

Вычисления распространены по всей Вселенной: в турбулентной жидкости, производящей некую сложную модель потока, в небесной механике планетарных взаимодействий, в человеческом мозге. Но имеют ли вычисления цель? Этот вопрос можно задать применительно к любой системе. Есть ли цель у погоды? А у климата?

При взгляде на Землю из космоса можно ли сказать, что на планете имеется нечто, обладающее целью? Некая цивилизация? Через Большое Соленое озеро в штате Юта пролегает прямая линия. Это своего рода барьер, разделяющая озеро на две половины дамба, по обе стороны от которой водоросли разного цвета, и сверху линия производит внушительное впечатление своей прямизной. В Австралии есть дорога, длинная и совершенно прямая. По Сибири тянется железная дорога, на которой зажигаются огни, когда очередной поезд останавливается на очередной станции. Словом, из космоса видны и прямые линии, и какие-то узоры.

Но сочтут ли это признаком наличия некой цели на Земле при взгляде из космоса? Кстати, если уж на то пошло, как мы узнаем о присутствии инопланетян где-то там? Как мы узнаем, что получаемый нами сигнал обозначает какую-то цель? Пульсары обнаружили в 1967 году, когда наши приборы каждую секунду улавливали импульс радиоизлучения. Сразу предположили, что этот сигнал посылает какой-то маячок. Ведь кто или что еще могло посылать периодический сигнал? Но выяснилось, что источником сигналов является вращающаяся нейтронная звезда.

Один из критериев, потенциально пригодных для оценки целеполагания, заключается в том, что мы пытаемся определить, является ли какой-то объект необходимым условием достижения цели. Но следует ли отсюда, что данный объект создавался именно для этой цели? Мяч катится вниз по склону из-за воздействия гравитации. Или потому, что того требует принцип наименьшего сопротивления. Обычно выдвигаются такого рода объяснения для действия, которое выглядит целенаправленным, – объяснение механистическое и объяснение телеологическое. По сути, все наши нынешние технологии не пройдут проверку на необходимость для достижения цели. Большая часть наших изобретений представляют собой плоды технологической эволюции, их никак не назовешь необходимыми для реализации наших (как вида) «исконных» целей. Взгляните на процессорный чип: в природе не существует потребности добиваться того, на что способен этот чип.

Вопрос об установлении цели – если угодно, о предназначении – чрезвычайно сложен и важен. Галактический радиошум подозрительно схож с «эхом» передачи данных по мобильной связи с использованием технологии CDMA. В мобильной связи применяются псевдошумовые последовательности, обладающие определенными воспроизводимыми свойствами. При этом они выглядят как шум – и трактуются как шум, чтобы не забивать другие каналы связи. Идем дальше в дебри. Если нам случится уловить последовательность простых чисел, генерируемую пульсаром, мы спросим, откуда они взялись. Значит ли это, что возникла некая цивилизация, в своем развитии открывшая простые числа, придумавшая компьютеры и радиопередатчики и отправившая сигнал? Или перед нами какой-то физический процесс, порождающий простые числа? Имеется клеточный автомат, генерирующий простые числа. Можно понять, как он работает, если его «разобрать». Внутри мы найдем нечто крохотное, скачущее, как мячик, и эти скачки порождают последовательность простых чисел. Не нужно никакой истории цивилизации, никакой биологии и всего прочего, чтобы этот автомат работал.

Не думаю, что абстрактная «цель» способна существовать сама по себе. Не думаю, что существует абстрактное значение. Есть ли цель у Вселенной? Тут мы неизбежно впадаем в теологию. Не существует осмысленного значения, содержащего абстрактное понятие цели. Цель есть последствие истории, последствие развития.

Возможно, среди прочего, что мы вправе сказать о нашем мире, мы могли бы заявить, что вся наша история, вся биология и вся цивилизация в конце концов приведут к финалу в виде числа 42 или чего-то подобного. Мы развивались 4 миллиарда лет, менялись под влиянием эволюции – и пришли к числу 42.

Этого не произойдет вследствие вычислительной несводимости. Имеются вычислительные процессы, которые надлежит выполнить, и нет способа их как-то ускорить. Бо́льшая часть науки представляет собой поиск «обходных путей» для вычислений в природе. Например, если мы занимаемся небесной механикой и хотим спрогнозировать местоположение планет через миллион лет, можно поступательно решать соответствующие уравнения. Но достижения науки позволяют сократить этот путь и уменьшить количество вычислений. Мы оказываемся умнее Вселенной, предсказываем конечный результат без прохождения всех этапов процесса. Но, что касается машин, даже достаточно умные машины и достаточно продвинутая математика не дадут возможности миновать какие-то промежуточные этапы. Ряд шагов попросту несократим. Мы вынуждены неукоснительно следовать процедуре. Вот почему история имеет значение. Будь мы в состоянии добираться до финиша без промежуточных этапов, история оказалась бы в некотором отношении бессмысленной.

Так что дело не в том, что мы умны, а все остальное в мире нам уступает. Не существует принципиальной абстрактной разницы между нами и облаками – или нами и клеточными автоматами. Нельзя утверждать, что «мозговидная» нейронная сеть качественно отличается от клеточно-автоматической системы. Различие проявляется в деталях. «Мозговидная» нейронная сеть является плодом долгой истории цивилизации, а клеточный автомат создан на моем компьютере мгновение назад.

Проблема абстрактного ИИ аналогична проблеме опознания внеземного интеллекта: как определить, наделен ли он целью? На этот вопрос, как мне кажется, мы пока не нашли ответа. Можно долго рассуждать – мол, ИИ обретет разум, когда начнет делать то-то и то-то, и т. д. Когда он сможет находить простые числа. Когда сможет обнаруживать вон то и вот это. Но имеется множество других способов достигать указанных результатов. Опять-таки, отсутствует четкая граница между интеллектом и простыми вычислениями.

Это еще одна часть истории Коперника: мы привыкли думать, что Земля является центром мироздания. Сегодня мы считаем себя особенными, потому что у нас есть интеллект, а у других его нет. Боюсь, плохие новости состоят в том, что это – не отличие.

Вот один из моих сценариев. Скажем, придет пора, когда человеческое сознание легко можно оцифровать, виртуализировать и т. д.; в итоге довольно быстро мы получим некий ящик с триллионом душ внутри. Да, в ящике триллион душ, и все они виртуальны. В этом ящике производятся молекулярные вычисления – возможно, в биологическом контексте или в каком-то еще. Так или иначе, в ящике разворачиваются сложные действия. А рядом с ящиком лежит камень. Внутри камня постоянно происходят всевозможные сложные действия – стараниями разнообразных субатомных частиц. В чем разница между камнем и ящиком с триллионом душ? Подробности происходящего в ящике обусловлены долгой историей человеческой цивилизации, в том числе историей вчерашних просмотров видео на YouTube. Тогда как камень обладает протяженной геологической историей, но не причастен к истории нашей цивилизации.

Понимание того, что отсутствует принципиальное различие между интеллектом и простыми вычислениями, заставляет воображать именно такое будущее: конец цивилизации, ящик с триллионом душ, каждая из которых тратит вечность на видеоигры. Какова же «цель» такого развития?