Математики и философы всегда боролись с понятием бесконечности. Греки боялись бесконечности и ее противоположности — бесконечно малых величин. Их страх время от времени всплывал на поверхность, особенно это заметно в определениях дифференциального и интегрального исчислений. Наконец в девятнадцатом веке проблема встала в полный рост. Результаты работы многих умов преобразовались во множество различных направлений математики, но сражение с бесконечностью и получившаяся в результате теория множеств была работой одного человека — Георга Кантора. Стимулом к этому стали все увеличивающееся использование бесконечных рядов и сомнения в их обоснованности.

Коши отобразил фундаментальные понятия дифференциального и интегрального исчислений в терминах арифметики, а не геометрии (это называлось арифметизацией исчисления). В отличие от древнегреческой традиции, в которой геометрии предоставлялось почетное место самого точного научного метода, девятнадцатый век поставил своей целью преобразовать математический анализ в арифметические образы. Это в значительной степени достигалось путем все увеличивающегося использования функций многочисленных переменных и функций комплексных переменных, визуальное представление которых часто было невозможно.

В 1822 году Жозеф Фурье (1768–1830) издал свой классический труд «Аналитическая теория тепла». Анализируя тепловой поток, Фурье решил получающееся дифференциальное уравнение способом, который стал известным как ряд Фурье. Согласно Фурье, любая функция может быть представлена бесконечным рядом синусов и косинусов, причем не только непрерывные функции, но даже прерывные или имеющие разрывы. Однако некоторые ученые начали сомневаться, что этот бесконечный ряд всегда сходится к необходимой функции, а немецкий математик Иоганн Петер Лежён-Дирихле (1805–1859) доказал, что это происходит только при наличии определенных ограничений. Дирихле обобщил понятие функции: он заявил, что любое правило, связывающее х и у, и есть функция, — и теперь не было необходимости иметь аналитическое выражение этого соотношения или уравнение. В качестве примера Дирихле построил «дикую функцию», определяя ее следующим образом: у = а, если х рациональное число, и у = b, если х — иррациональное число. Эта функция, которую сейчас математики описали бы как «патологическую», была прерывной в каждой точке и потому не могла быть нигде продифференцирована, но обсуждения сосредоточились на вопросе, можно ли ее интегрировать. Решение этой задачи потребовало определить, что именно следует считать иррациональным числом.

Галилей в своем анализе ускорения говорил, что, взяв бесконечный ряд натуральных чисел — 1, 2, 3… и возведя их в квадрат, вы получаете ряд 1,4, 9… Теперь, каждому числу из второго ряда может быть поставлено в соответствие число из первого ряда, таким образом, два ряда будут иметь одно и то же число членов. Но во втором ряду часть чисел отсутствует, так что в нем должно быть меньше элементов, чем в первом. Или две бесконечности были одинаковыми, или могут существовать различные виды бесконечности.

Бернхард Больцано (1781–1848), священник, живший в Праге, разработал интересные идеи, которые, к сожалению, долгое время оставались не замеченными учеными. Он выполнял арифметизацию дифференциального и интегрального исчислений методами, очень похожими на те, которые применял Коши, который во время своего изгнания бывал в Праге и встречался с Больцано. В своей работе «Paradoxien des Unendlichen», изданной посмертно в 1850 году, Больцано показал, что парадоксы вроде того, что обнаружил Галилей, обычны не только среди натуральных, но и среди действительных чисел. Например, в одном линейном сегменте то же число действительных чисел, что и в линии вдвое большей длины, что кажется алогичным и трудным для понимания. Этот богемский философ, похоже, очень близко подошел к пониманию того, что бесконечность действительных чисел относится к совершенно иному типу, чем бесконечность натуральных чисел. Он также внес свой вклад во все возрастающий список патологических функций, которые нарушали привычные правила исчисления.

Эта двойная проблема со свойствами функций и чисел была не случайной. Если какая-нибудь функция могла быть выражена как бесконечный ряд, скажем ряд Фурье, то было важно проверить, что этот ряд сходится к функции при каждом значении х — так называемая поточечная сходимость. Поскольку проверять это для каждого ряда довольно утомительно, предлагались различные критерии сходимости, каждый из которых требовал очень четкого понимания идеи бесконечной последовательности чисел, сходящейся к определенному числу. Коши, с его эллинистическим отвращением к бесконечностям, соскользнул в закольцованное доказательство, в одном месте определяя иррациональное число как предел последовательности рациональных чисел, а в другом выводя рациональные числа из иррациональных. Карл Вейерштрасс попытался освободить зависимость иррациональных чисел от пределов и постарался определить их не как предел последовательности, но как саму последовательность.

Тем временем Бернхард Риман переформулировал понятие интеграла в то, что сегодня преподается в школе. Функция Дирихле, упомянутая выше, все еще не имела интеграла в определении Римана. Приняв участие в собирании диких функций, Риман нашел еще одну, свою собственную, прерывистую в бесконечном числе точек, однако для этой функции интеграл не только существует, но и определяет непрерывную функцию, которая, в свою очередь, однако, не в состоянии иметь производную для того же самого бесконечного числа точек. Фундаментальная теорема дифференциального и интегрального исчислений была еще раз подвергнута сомнению.

Становилось ясно, что необходимо более четкое понимание того, что же на самом деле представляет собой иррациональное число, и, следовательно, было необходимо более ясное определение действительного числа. К 1850-м годам уже знали, что действительные числа можно разделить на два типа двумя различными способами: на рациональные и иррациональные числа, а также на алгебраические и трансцендентные. Рациональные числа — это любые числа вида m/n, то есть любая положительная или отрицательная дробь, включая целые числа и ноль. Иррациональные числа — это числа, которые не являются рациональными, вроде √2 и π. Алгебраические числа — это те, которые служат решениями конечных полиномиальных уравнений с целочисленными коэффициентами, то есть все числа, включая числа типа √2, но не π. Трансцендентными были числа, которые не были алгебраическими. Мы видим, что иррациональные и трансцендентные числа просто определяются тем, чем они не являются, и было непонятно, есть ли у них хоть какие-то специфические собственные свойства. В 1872 году была опубликована ключевая работа по этой теме — труд Рихарда Дедекинда (1831–1916) и Георга Кантора (1845–1918). В том же году началась их долгая дружба. Оба занимали относительно небольшие должности — Дедекинд в Политехническом института своего родного города Брансвик, Кантор — в Университете Галле, — но их работа оказала огромное влияние на весь математический мир.

Если множество действительных чисел непрерывно, Дедекинд задался вопросом, в чем разница между рациональным и иррациональным числами. Лейбниц, например, считал, что «сплошность» точек на линии связана с их плотностью, то есть для любых двух точек всегда есть некая третья, расположенная между ними. Однако рациональные числа также имеют это свойство, но тем не менее они не непрерывны. Вместо того чтобы продолжать искать способы склеивать точки, чтобы сформировать континуум, Дедекинд встал на противоположную точку зрения и стремился определить непрерывность в терминах определения разрывов в линейном сегменте. Представьте себе числовую ось как бесконечно длинную твердую трубу, набитую упорядоченными рациональными числами. Разрыв разрежет трубу на две части, обозначим их А и В. Образуются два торца трубы, конечные точки А и В. Глядя на открытый торец, мы можем прочитать число. Если на торце не видно никакого числа, то мы сделали разрез на иррациональном числе. Дедекинд определил иррациональные числа в терминах этих множеств А и В, а не в виде последовательности. Таким образом, свойства непрерывности или пределов могли быть формализованы в терминах арифметики, а не в виде остаточных геометрических понятий. Бертран Рассел позже отметил, что каждое из множеств А и В определено через другое и поэтому логически необходимо только одно из них, так что иррациональное число можно определять только в терминах множества А (или В).

Возвращаясь к вопросу о бесконечности, Дедекинд увидел в парадоксах Больцано не аномалию, а определение. Он понял, что множество бесконечно, если оно подобно точному подмножеству самого себя, то есть если может быть установлено некое соответствие между подмножеством и множеством. Например, множество {2,4,6...} — подмножество {1,2,3…}, и между ними можно определить прямое соответствие. Спустя два года после выхода книги Дедекинда, в 1874 году, Георг Кантор женился, и в поездку на медовый месяц он повез жену в Интерлакен, где они встретились с Дедекиндом. В том же году Кантор издал одну из своих самых революционных статей. Он согласился с определением бесконечного множества Дедекинда, но при этом считал, что не все бесконечности равны между собой.

Кантор начал с того факта, что любое множество, для которого может быть установлено некоторое соответствие с рядом натуральных чисел, является исчисляемым. Это очевидно для конечных множеств, но Кантор расширил понятие исчисляемости до бесконечных множеств. Множество всех натуральных чисел — само по себе «счетная бесконечность», и любое бесконечное множество, для которого можно установить некое взаимно однозначное соответствие этому множеству, — также счетная бесконечность. Например, хотя кажется, что целые числа уходят в бесконечность как в положительном, так и в отрицательном направлении, они также являются счетной бесконечностью, поскольку их можно переупорядочить следующим образом: {0, +1, -1, +2, -2…}. Кроме того, так же как в конечных множествах существует величина, известная как количество элементов (по существу, размер множества), так и бесконечным множествам Кантор определил значение степени множества. Два бесконечных множества имеют одну и ту же степень, если можно определить между ними взаимно однозначное соответствие. Выше мы видели, что рациональные числа образуют плотное множество. Целые числа этого не делают, то есть не всегда есть третье целое число, расположенное между любыми двумя другими целыми числами, — например, нет никакого целого числа между 1 и 2. Поэтому казалось вероятным, что множество рациональных чисел будет иметь более высокую степень, чем множество целых чисел. Однако в 1873 году Кантор нашел, что это не так. При помощи хитроумного расположения рациональных чисел он нашел метод, при помощи которого они могли быть поставлены во взаимно однозначное соответствие со множеством натуральных чисел.

Этот результат заставлял думать, что все бесконечные множества чисел на самом деле имеют одинаковую степень. Кантор показал, что это ложное утверждение, при помощи своего знаменитого аргумента диагонализации. Он предположил, что действительные числа между 0 и 1 исчисляемы и могут быть записаны по порядку и выражены как бесконечные десятичные числа: например, 0,2 может быть записано как 0,199 999… Затем он записал число, которое отличалось от первого в первом десятичном знакоместе, отличалось от второго во втором десятичном месте, и так далее. Это новое число отличалось от любого исходного числа, совокупность которых считалась завершенной, и поэтому реальные числа не были исчисляемыми. Множество реальных чисел имеет более высокую степень, чем множество рациональных. Далее Кантор показал, что даже алгебраические числа, которые представляют собой намного более общий класс, чем рациональные, имеют ту же самую степень, что и натуральные числа. Становилось все более очевидно, что континуум реальных чисел «уплотняется» за счет трансцендентных чисел. В определенном смысле большая часть чисел были трансцендентными.

Никто никогда не видел трансцендентное число; их существование было доказано в 1851 году Жозефом Лиувиллем. Лишь в 1882 году Фердинанд Линдеманн доказал, что старое доброе число π — это трансцендентное число, тем самым ответив отрицательно на многовековой вопрос о том, можно ли сделать невозможное, вычислив его с помощью циркуля и линейки. И все же Кантор пришел к еще более ошеломляющим результатам.

В письме к Дедекинду от 1877 года Кантор продолжил доказывать то, что Дедекинд просто принял как данность: то, что степень множества точек на любом линейном сегменте равна степени множества любого другого линейного сегмента. Таким образом, на линии единичной длины находится то же самое число точек, что и на всей числовой оси. Еще более впечатляющим было открытие, что это не зависит от размерности: на линии единичной длины находится такое же число точек, что и на площади со стороной единичной длины, и в кубе со стороной единичной длины — фактически то же самое число точек, как и во всем трехмерном пространстве. Кантор прокомментировал это Дедекинду: «Я вижу это, но я не могу поверить в это». К сожалению, слишком многие разделяли его недоверие.

В 1895 году Кантор письменно изложил свои отточенные представления об изобретении нового вида числа, так называемых трансфинитных кардинальных числах. Он обозначает счетную бесконечность символом אo (произносится как «алеф-ноль»), а первое неисчисляемое множество как אI. Таким образом, это целая бесконечная последовательность трансфинитных чисел, каждое из которых формируется как множество всех множеств предыдущего множества. Кантор также предложил, чтобы набор אI был эквивалентен множеству реальных чисел. Это так называемая Гипотеза Континуума, и она до сих пор не имеет доказательства.

Несмотря на столь новаторскую работу, Кантор так никогда и не реализовал свои амбиции, не сумев получить степень профессора в Берлинском университете. В значительной степени к этому привела открытая враждебность Леопольда Кронекера — его старого профессора. Кронекер активно выступал против новой ветви математики, открытой Кантором, делая заявления вроде «Бог создал целые числа, все остальные — работа человека». Плодотворная дружба с Дедекиндом прекратилась в 1882 году, когда Дедекинд отказался присоединиться к Кантору в Галле, хотя их дружба возобновилась в 1897 году, когда они встретились на конгрессе. Дедекинд, похоже, был вполне удовлетворен уютной провинциальной атмосферой, в которой он жил. Большую часть своего времени он посвящал редактированию собрания сочинений Дирихле и Гаусса — его бывших преподавателей, и Римана — его уважаемого современника. Кантор оставался в университете Галле. В 1884 году он перенес первый приступ умственного расстройства. В более поздние годы депрессии были постоянной темой его писем. Перед самым началом Первой мировой войны он вышел на пенсию и умер в 1918 году в психиатрической больнице в Галле. Конечно, неприятие его работ усугубило его душевное состояние. Но он дожил до того момента, когда его идеи получили законное признание как «самый удивительный продукт математической мысли», по словам Дэвида Гилберта, одного из ведущих математиков начала двадцатого столетия. Гилберт добавил: «Никто не сможет изгнать нас из рая, созданного для нас Кантором». Работа Кантора плодотворно повлияла на многие ветви математики, включая новый вид теории интегрирования в терминах измерения множеств. Это также помогло проинтегрировать функции Дирихле — ответ b.