Эти исследования фундаментальной роли счета как основы для чисел привели к одному из самых нашумевших открытий в математической науке – теории Кантора о трансфинитных числах – разных размерах бесконечности.

Бесконечность, в самых разных ипостасях, неизбежна в математике. Здесь нет самого большого натурального числа – потому что с добавлением единицы мы всегда получаем число еще большее, – а значит, существует бесконечно много натуральных чисел. Геометрия Евклида работает на бесконечной плоскости, и он доказал, что существует бесконечное множество простых чисел. В преддверии исчисления несколько человек, в том числе и Архимед, сочли полезным рассмотреть площадь и объем как сумму бесконечно многих и бесконечно тонких слоев. Когда исчисление изобрели, картина была примерно такой же: применялись эвристические методы для вычисления площадей и объемов, даже если имеющиеся доказательства говорили об ином.

Эти проявления бесконечности можно перефразировать в конечных терминах, чтобы избежать философских споров. Например, вместо того чтобы говорить «натуральных чисел бесконечно много», мы можем сказать «не существует самого большого натурального числа». Второе утверждение логически эквивалентно первому, при этом в нем нет явного упоминания бесконечности. По сути здесь бесконечность рассматривается как процесс, который можно продолжить без всяких конкретных ограничений, но фактически не завершенный. Такую бесконечность философы называют потенциальной. В противовес этому явное использование бесконечности как математического объекта само по себе оказывается актуальной бесконечностью.

Предшественники Кантора обратили внимание на то, что актуальные бесконечности обладают парадоксальными чертами. В 1632 г. Галилей написал свой «Диалог о двух системах мира», в котором два персонажа, проницательный Сальвиати и смышленый мирянин Сагредо, обсуждают причину приливов с геоцентрической и гелиоцентрической точек зрения. По требованию церкви все упоминания о приливах были вычеркнуты, и книга превратилась в гипотетическое словесное упражнение, содержащее мощные доводы в пользу гелиоцентрической теории Коперника. Персонажи между делом обсуждали и некоторые парадоксы, связанные с бесконечностью. Сагредо вопрошал: «Может ли быть чисел больше, чем квадратов?» – и указывал, что, коль большинство целых чисел не являются полными квадратами, ответ должен быть «да». Сальвиати отвечал, что всякое число можно однозначно сопоставить с его квадратом:

Таким образом число целых чисел должно быть таким же, как и число квадратов, и, значит, ответ «нет».

Кантор преодолел эти препятствия, указав, что в диалоге персонажей слово «больше» используется с двумя разными смыслами. Сагредо указывает, что множество всех квадратов является собственным подмножеством множества всех целых чисел. Позиция Сальвиати не столь однозначна: он возражает, что существует однозначное соответствие между множеством квадратов и множеством всех целых чисел. Это два разных утверждения, и оба могут быть верны – без каких-либо выводов.

Так Кантор пришел к изобретению арифметики бесконечности, которая объясняла предыдущие парадоксы и в то же время предлагала новые. Эта работа стала частью более обширной программы, теории множеств, Mengenlehre (от нем. Menge – множество или скопление). Кантор стал размышлять о множествах из-за некоторых сложных вопросов Фурье-анализа, так что его идеи уходят корнями в широко признанные математические теории. Однако полученные им ответы оказались столь странными, что многие из математиков того времени предпочти их проигнорировать. В то же время другие ученые сразу оценили их важность, особенно Давид Гильберт, утверждавший, что «никто не сможет изгнать нас из рая, созданного Кантором».