И через сто лет после кончины Эйлера существовали доказательства только в двух частных случаях Великой теоремы Ферма. Сам Ферма дал математикам фору, оставив им доказательство того, что уравнение

не имеет решений в целых числах. Эйлер используя предложенный Ферма метод бесконечного спуска, доказал, что уравнение

также не имеет решений в целых числах. После Эйлера все еще оставалось необходимо доказать, что бесконечный набор уравнений

не имеет решений в целых числах. И хотя математики продвигались поразительно медленно, ситуация складывалась далеко не так плохо, как могло бы показаться на первый взгляд. Оказалось, что доказательство для случая n=4 остается в силе при n=8, 12, 16, 20…. Дело в том, что любое число, представимое в виде 8-й (а также 12-й, 16-й, 20-й…) степени некоторого числа, представимо и в виде 4-й степени какого-то другого целого числа. Например, число 256 равно 28, но оно равно и 44. Следовательно, любое доказательство, которое «работает» для 4-й степени, остается в силе для 8-й и любой другой степени, кратной 4. На основе того же принципа можно утверждать, что эйлеровское доказательство для n=3 автоматически переносится на n=6, 9, 12, 15…. Тем самым Великая теорема Ферма утратила свой неприступный вид и оказалась верной сразу для многих чисел n.

Особенно ценным было доказательство при n=3, так как число 3 — пример так называемого простого числа. Как мы уже объясняли, простое число обладает тем отличительным свойством, что оно не кратно ни одному целому числу, кроме 1 и самого себя. Помимо уже названного числа 3 простыми также являются числа 5,7,11,13… Все остальные числа кратны простым и называются составными числами. Те, кто занимается теорией чисел, считают простые числа наиболее важными потому, что те представляют собой как бы атомы чисел. Простые числа — «кирпичики», из которых построены все остальные числа, поскольку те можно получить как произведения различных комбинаций простых чисел. Казалось бы, это обстоятельство открывает путь к решению проблемы Ферма. Чтобы доказать Великую теорему Ферма при всех значениях n, достаточно доказать ее для простых значений n. Во всех остальных случаях числа n кратны простым числам, и доказательство следует из уже рассмотренных случаев.

Интуитивно это необычайно упрощает проблему, так как дает возможность исключить из рассмотрения все значения n, которые не являются простыми числами. Резко сокращается число уравнений. Например, при значениях n до 20 доказательство следует провести только для шести уравнений:

x⁵ + y⁵ = z⁵,

x⁷ + y⁷ = z⁷,

x¹¹ + y¹¹ = z¹¹,

x¹³ + y¹³ = z¹³,

x¹⁷ + y¹⁷ = z¹⁷,

x¹⁹ + y¹⁹ = z¹⁹.

Если бы кому-нибудь удалось доказать Великую теорему Ферма для одних лишь простых значений n, то она оказалась бы доказанной для всех значений n. Целых чисел бесконечно много, простые же числа составляют лишь их незначительную долю. Возможно, теорема Ферма станет намного проще, если доказывать ее только для простых чисел?

Интуиция подсказывает, что если вы начнете с какой-то бесконечной величины и изымите из нее бóльшую часть, то у вас останется нечто конечное. К сожалению, интуиция не может служить арбитром истины в математике. Роль арбитра исполняет логика. Оказывается, можно доказать, что перечень простых чисел бесконечен. Следовательно, несмотря на то, что мы можем исключить из рассмотрения подавляющее большинство уравнений при составных значениях n, количество уравнений Ферма с простыми значениями n по-прежнему остается бесконечным.

Доказательство того, что простых чисел бесконечно много, восходит к Евклиду и принадлежит к числу классических рассуждений в математике. Евклид начинает с предположения о том, что перечень известных простых чисел конечен, и доказывает, что в этот перечень придется вносить бесконечно много дополнений. В самом деле, предположим, что в конечный исходный перечень Евклида внесено N простых чисел, которые мы обозначим P₁, P₂, P₃…, P_N . Из них Евклид образует новое число Q_A , такое, что

Q_A = (P₁·P₂·P₃·…·P_N ) + 1.

Какое оно, новое число Q_A , — простое или составное? Если оно простое, то нам удалось построить новое простое число, большее, чем любое простое число, указанное в исходном перечне. Это означало бы, что исходный перечень не полон. С другой стороны, если число Q_A составное, то оно должно без остатка делиться на какое-то из простых чисел. Это простое число-делитель не может быть одним из чисел, включенных в исходный перечень, так как при делении на любое из уже перечисленных простых чисел Q_A дает остаток, равный 1. Следовательно, делителем числа Q_A должно быть какое-то новое простое число, которое мы обозначим P_N+1.

Итак, мы пришли к тому, что либо Q_A само является простым числом, либо делится на какое-то новое простое число P_N+1. И в том, и в другом случае исходный список простых чисел необходимо дополнить. Включив наше новое простое число (Q_A или P_N+1) в перечень, мы можем повторить рассуждение и образовать новое число Q_B . Это новое число либо будет еще одним новым простым числом, либо будет делиться на простое число P_N+2, еще не включенное в наш перечень известных простых чисел. Итогом этого рассуждения служит заключение, согласно которому сколь бы длинным ни был наш перечень простых чисел, его всегда можно дополнить новым простым числом. Следовательно, наш перечень никогда не кончится — он бесконечен.

Но как может быть нечто, явно меньшее бесконечной величины, также быть бесконечным? Немецкий математик Давид Гильберт сказал однажды: «Бесконечность! Ни один вопрос не оказывал столь глубокого воздействия на человеческий дух, ни одна идея не стимулировала столь плодотворно интеллект человека, и тем не менее ни одно понятие не нуждается в прояснении так сильно, как понятие бесконечности». Чтобы разрешить парадокс бесконечности, необходимо определить, что следует понимать под бесконечностью. Георг Кантор, работавший над проблемой бесконечности наряду с Гильбертом, определил бесконечность как длину нескончаемого перечня натуральных чисел (1,2,3,4…). По Кантору, все, что по величине сравнимо с длиной перечня  натуральных чисел, также бесконечно.

Следуя этому определению, нам придется признать, что множество четных натуральных чисел, которое интуитивно кажется меньше, чем множество всех натуральных чисел, также бесконечно. Нетрудно доказать, что всех натуральных чисел столько же, сколько четных натуральных чисел, поскольку каждому натуральному числу можно подобрать пару — соответствующее четное число:

Коль скоро каждому элементу перечня натуральных чисел можно поставить в соответствие элемент перечня четных чисел, то оба перечня должны быть одинаковой длины. Такой метод сравнения приводит к некоторым удивительным заключениям, в том числе к заключению о существовании бесконечно многих простых чисел. Кантор был первым, кто занялся формальным анализом понятия бесконечности, и математическое сообщество подвергло его теорию множеств резкой критике за радикальное определение бесконечности, предложенное им. К концу творческого периода Кантора нападки на него стали принимать все более личный характер и привели к тяжелой душевной болезни и глубокой депрессии Кантора. Его идеи получили признание уже после его кончины как единственно последовательное и эффективное определение бесконечности. Воздавая должное заслугам Кантора, Гильберт сказал: «Никто не может изгнать нас из рая, который Кантор создал для нас».

Гильберту принадлежит пример бесконечности, известный под названием «отель Гильберта» и наглядно иллюстрирующий необычные свойства бесконечности. Этот гипотетический отель обладает отличительным признаком: число номеров в этом отеле равно бесконечности. Однажды в отель прибывает новый гость и к своему разочарованию узнает, что, несмотря на бесконечно большое количество номеров, свободных мест нет. Гильберт, выступающий в роли портье, поразмыслив немного, уверяет нового гостя, что найдет для него свободный номер. Он просит каждого постояльца переселиться в соседний номер: постояльца из номера 1 переселиться в номер 2, постояльца из номера 2 — переселиться в номер 3, и т. д. Каждый из постояльцев, живших в отеле, получает новый номер, а новый гость поселяется в освободившийся номер 1. Это показывает, что бесконечность плюс один равна бесконечности.

 На следующий вечер портье Гильберт столкнулся с гораздо более трудной проблемой. Как и накануне, отель был переполнен, когда прибыл бесконечно длинный лимузин, из которого высадилось бесконечно много новых гостей. Но Гильберта это нисколько не смутило, и он только радостно потирал руки при мысли о бесконечно многих счетах, которые оплатят вновь прибывшие. Всех, кто уже обосновался в отеле, Гильберт попросил переселиться, соблюдая следующее правило: обитателя первого номера — во второй номер, обитателя второго номера—в четвертый номер, и т. д., то есть каждого постояльца Гильберт попросил перейти в новый номер с вдвое большим «адресом». Все, кто жил в отеле до прибытия новых гостей, остался в отеле, но при этом освободилось бесконечно много номеров (все те, «адреса» которых нечетны), в которых находчивый портье расселил новых гостей. Этот пример показывает, что удвоенная бесконечность также равна бесконечности.

Возможно, отель Гильберта наведет кого-нибудь на мысль, что все бесконечности одинаково велики, равны друг другу, и что любые различные бесконечности можно втиснуть в номера одного и того же бесконечного отеля, как это делал находчивый портье. Но в действительности одни бесконечности больше других. Например, любая попытка найти в пару каждому рациональному числу иррациональное число так, чтобы ни одно иррациональное число не осталось без своей рациональной пары, непременно заканчивается неудачей. И действительно, можно доказать, что бесконечное множество иррациональных чисел больше бесконечного множества рациональных чисел. Математикам пришлось создать целую систему обозначений и названий с бесконечной шкалой бесконечностей, и манипулирование с этими понятиями — одна из наиболее острых проблем нашего времени.

Хотя бесконечность количества простых чисел навсегда разрушила надежды на скорое доказательство Великой теоремы Ферма, такой большой запас простых чисел пригодился, например, в таких областях как шпионаж или исследование жизни насекомых. Прежде чем мы вернемся к повествованию о поиске доказательства Великой теоремы Ферма, уместно немного отвлечься и познакомиться с тем, как правильно и неправильно используются простые числа.

Теория простых чисел — одна из немногих областей чистой математики, которые нашли непосредственное приложение в реальном мире, а именно в криптографии. Криптография занимается кодированием секретных посланий с таким расчетом, чтобы декодировать их мог только получатель, а перехватчик расшифровать бы их не мог. Процесс кодирования требует использования ключа к шифру, и по традиции для дешифровки необходимо снабдить получателя этим ключом. При такой процедуре ключ — самое слабое звено в цепи обеспечения безопасности. Во-первых, получатель и отправитель должны условиться о деталях ключа, и обмен информацией на этом этапе сопряжен с определенным риском. Если противнику удастся перехватить ключ при обмене информацией, то он сможет дешифровывать все последующие послания. Во-вторых, для поддержания безопасности ключи необходимо регулярно менять, и при каждой замене ключа существует риск перехвата нового ключа противником.

Проблема ключа вращается вокруг того факта, что применение ключа в одну сторону приводит к шифровке послания, а применение того же ключа в обратную сторону дешифрует послание — дешифровка производится столь же легко, как и шифровка. Но из опыта нам известно, что ныне существуют многие ситуации, когда дешифровка гораздо сложнее, чем шифровка: приготовить яичницу-болтунью несравненно легче, чем вернуть яичницу-болтунью в исходное состояние, разделив белки и желтки.

В 70-е годы XX века Уитфилд Диффи и Мартин Хеллман занялись поиском математического процесса, который было бы легко выполнить в одну сторону, но невероятно трудно — в противоположную сторону. Такой процесс дал бы идеальный ключ. Например, у меня мог бы быть мой собственный ключ из двух частей, и его шифровальную часть я мог бы опубликовать в общедоступном месте. После этого любой желающий мог бы посылать мне зашифрованные послания, но дешифровальная часть ключа была бы известна только мне. И хотя шифровальная часть ключа была бы доступна всем, к дешифровальной части она не имела бы никакого отношения.

В 1977 году Рональд Ривест, Ади Шамир и Леонард Адлеман — группа математиков и специалистов по компьютерам из Массачусеттского технологического института — выяснили, что простые числа являются идеальным базисом для процесса легкой шифровки и трудной дешифровки. Чтобы изготовить мой собственный персональный ключ, я мог бы взять два огромных простых числа, каждое из которых содержит до 80 знаков, и, умножив одно число на другое, получить еще большее составное число. Все, что требуется для кодирования посланий, — это знать большое составное число, тогда как для дешифровки послания необходимо знать два исходных простых числа, которые мы перемножили, т. е. простые множители составного числа. Я могу позволить себе опубликовать большое составное число — шифровальную половину ключа, и сохранить в тайне два простых множителя — дешифровальную половину ключа. Очень важно, что хотя любому известно большое составное число, разложить его на два простых множителя чрезвычайно трудно.

Рассмотрим более простой пример. Предположим, что я выбрал и сообщил всем желающим составное число 589, позволяющее каждому посылать мне шифрованные послания. Два простых множителя числа 589 я сохранил бы в тайне, поэтому расшифровать послания никто, кроме меня, не может. Если бы кому-нибудь удалось найти два простых множителя числа 589, то такой человек также смог бы дешифровывать адресованные мне послания. Но сколь ни мало число 589, найти его простые множители не так-то просто. В данном случае на настольном компьютере в несколько минут можно было бы обнаружить, что простые множители числа 589 равны 31 и 19 (31·19 = 589), поэтому мой ключ не мог бы гарантировать безопасность переписки особенно долго.

Но если бы составное число, которое я опубликовал, содержало более сотни знаков, это делало бы поиск простых множителей практически неразрешимой задачей. Даже если для разложения огромного составного числа (шифровального ключа) на два простых множителя (дешифровального ключа) использовать самые мощные компьютеры, которые только существуют в мире, то и тогда, чтобы найти эти множители, понадобилось бы несколько лет. Следовательно, чтобы сорвать коварные планы иностранных шпионов, мне необходимо всего лишь ежегодно менять ключ. Раз в год я довожу до всеобщего сведения свое новое гигантское составное число, и тогда всякий, кто пожелает попытать счастья и расшифровать мои послания, будет вынужден приступать заново к разложению опубликованного числа на два простых множителя.

Простые числа встречаются и в мире живой природы. У периодических цикад, известных как Magicicada septendecim, самый длинный жизненный цикл из всех насекомых. Их жизнь начинается под землей, где личинки терпеливо сосут соки из корней деревьев. И лишь через 17 лет ожидания взрослые цикады появляются из-под земли, собираются в огромные рои и на какое-то время заполоняют все вокруг. За несколько недель они спариваются, откладывают яйца, а затем умирают.

Вопрос, который не давал биологам покоя, — почему жизненный цикл у цикад такой длинный? Имеет ли какое-нибудь значение для жизненного цикла то, что продолжительность его выражается простым числом лет? Другой вид — Magicicada tredecim — роится через каждые 13 лет. Это наводит на мысль, что продолжительность жизненного цикла, выражающаяся простым числом лет, дает виду определенные эволюционные преимущества.

Согласно одной теории, у цикады имеется паразит, также обладающий длинным жизненным циклом. Цикада, естественно, стремится избавиться от паразита. Если паразит обладает жизненным циклом продолжительностью, скажем 2 года, то цикада стремится избежать жизненного цикла, продолжительность которого в годах делится на 2, так как в противном случае цикада, появляясь из-под земли, и паразит регулярно встречались бы. Аналогично, если бы паразит обладал жизненным циклом продолжительностью 3 года, то цикада стремилась бы избегать жизненных циклов, продолжительность которых в годах выражалась числом, кратным 3. Следовательно, чтобы избежать совпадений с паразитом, лучшей стратегией для цикады было бы иметь жизненный цикл, длящийся простое число лет. Так как ни одно целое число (кроме 1 и 17) не делит число 17, Magicicada septendecim очень редко встречается со своим паразитом. Если продолжительность жизненного цикла паразита составляет 2 года, то цикада встречается с ним только раз в 34 года, а если продолжительность жизненного цикла паразита больше, например, составляет 16 лет, то его встреча с цикадой происходит лишь раз в 272 (= 16·17) года.

«Реванш» для паразита возможен только в двух случаях: при его годичном жизненном цикле и при жизненном цикле продолжительностью 17 лет. Маловероятно, однако, что паразит выживет на протяжении 17 своих поколений подряд, так как первым 16 поколениям будет не на ком паразитировать. С другой стороны, чтобы достичь 17-летней продолжительности жизненного цикла, поколениям паразита необходимо пройти в своей эволюции 16-летний жизненный цикл. Это означало бы, что на каком-то этапе эволюции паразит и цикада не встречались бы на протяжении 272 лет! И в том, и в другом случае большой жизненный цикл продолжительностью в простое число лет способствуют выживанию цикады.

Возможно, именно этим и объясняется, что пресловутый паразит так никогда и не был найден! В гонке на выживание с цикадой паразит, по-видимому, постоянно увеличивал продолжительность своего жизненного цикла до тех пор, пока не наткнулся на 16-летний барьер. После этого паразит на протяжении 272 лет не мог встретиться со своей жертвой и за это время вымер. В результате появилась цикада с жизненным циклом длиной 17 лет. Необходимость в более продолжительном жизненном цикле для цикады отпала, поскольку паразит более не существовал.