После прогресса, достигнутого благодаря работам Софи Жермен, Французская Академия Наук установила серию премий, включая золотую медаль и 3000 франков, тому математику, который сумеет наконец разгадать тайну Великой теоремы Ферма. Того, кто сумеет доказать теорему, ждала не только заслуженная слава, но и значительное материальное вознаграждение. Салоны Парижа полнились слухами относительно того, какую стратегию избрал тот или иной претендент и как скоро объявят результаты конкурса. Наконец 1 марта 1847 года, Академия собралась на самое драматическое из своих заседаний.

В протоколах заседания подробно описывается, как Габриель Ламе, семью годами раньше доказавший Великую теорему Ферма для n=7, взошел на трибуну перед самыми знаменитыми математиками XIX века и заявил, что находится на пороге доказательства Великой теоремы Ферма для общего случая. Ламе признал, что его доказательство еще не полно, но он обрисовал в общих чертах свой метод и не без удовольствия сообщил, что через несколько недель опубликует полное доказательство в журнале, издаваемом Академией.

Аудитория замерла от восторга, но едва Ламе покинул трибуну как слова попросил еще один из лучших парижских математиков Огюстен Луи Коши. Обращаясь к членам Академии, Коши сообщил, что уже давно работает над доказательством Великой теоремы Ферма, исходя примерно из тех же идей, что и Ламе, и также вскоре намеревается опубликовать полное доказательство.

И Коши, и Ламе сознавали, что решающее значение имеет время. Тому, кто сумеет первым представить полное доказательство, достанется самая престижная и ценная награда в математике. Хотя ни Ламе, ни Коши не располагали полным доказательством, оба соперника страстно желали подкрепить свои заявления, и три недели спустя оба представили в Академию запечатанные конверты. В то время так было принято. Это позволяло математикам отстаивать свои приоритет, не раскрывая детали своей работы. Если впоследствии возникал спор относительности оригинальности идей, то в запечатанном конверте хранились убедительные подтверждения, необходимые для установления приоритета.

В апреле, когда Коши и Ламе наконец опубликовали некоторые детали своих доказательств в Трудах Академии, напряжение усилилось. Все математическое сообщество отчаянно жаждало ознакомиться с полным доказательством, причем многие математики втайне надеялись, что состязание выиграет Ламе, а не Коши. Судя по всем отзывам, Коши был самодовольным существом и религиозным фанатиком. К тому же он был весьма непопулярен среди своих коллег. В Академии его терпели только за блестящий ум.

Наконец, 24 мая было сделано заявление, которое положило конец всем домыслам. К Академии обратился не Коши и не Ламе, а Жозеф Лиувилль. Он поверг достопочтенную аудиторию в шок, зачитав письмо от немецкого математика Эрнста Куммера. Куммер был признанным специалистом по теории чисел, но горячий патриотизм, питаемый искренней ненавистью к Наполеону, на протяжении многих лет не позволял ему отдаться своему истинному призванию. Когда Куммер был еще ребенком, французская армия вторглась в его родной город Сорау, принеся с собой эпидемию тифа. Отец Куммера был городским врачом и через несколько недель болезнь унесла его. Потрясенный происшедшим, Куммер поклялся сделать все, что в его силах, чтобы избавить родину от нового вражеского вторжения, — и по окончании университета направил свой интеллект на решение проблемы построения траекторий пушечных ядер. Позднее он преподавал в Берлинском военном училище законы баллистики.

Параллельно с военной карьерой Куммер активно занимался исследованиями в области чистой математики и был полностью осведомлен о происходящем в Французской Академии. Куммер внимательно прочитал публикации в Трудах Академии и проанализировал те немногие детали, которые рискнули раскрыть Коши и Ламе. Ему стало ясно, что оба француза движутся в сторону одного и того же логического тупика, — и свои соображения он изложил в письме к Лиувиллю.

По мнению Куммера, основная проблема заключалась в том, что доказательства Коши и Ламе опирались на использование свойства целых чисел, известного под названием единственности разложения на простые множители. Это свойство означает, что существует только одна возможная комбинация простых чисел, произведение которых дает данное целое число. Например, единственная комбинация простых чисел, произведение которых дает число 18, имеет вид

18 = 2·3·3.

Аналогично, числа 35, 180 и 106260 могут быть единственным образом разложены на простые числа, и их разложения имеют вид

35 = 5·7, 180 = 2·2·3·3·5, 106260 = 2·2·3·5·7·11·23.

Единственность факторизации была обнаружена в IV веке до н. э. Евклидом, который в книге IX своих «Начал» доказал, что это верно для всех натуральных чисел. Единственность разложения на простые множители для всех натуральных чисел — жизненно важный элемент доказательств многих различных теорем и ныне называется основной теоремой арифметики.

На первый взгляд не должно быть никаких причин, по которым Коши и Ламе не могли бы использовать единственность разложения на множители в своих рассуждениях, как это делали сотни математиков до них. Однако, оба представленных Академии доказательства использовали мнимые числа. Куммер обратил внимание Лиувилля на то, что, хотя теорема о единственности разложения на множители выполняется для целых чисел, она не обязательно должна выполняться, если используются мнимые числа. По мнению Куммера, это была роковая ошибка.

Например, если мы ограничимся целыми числами, то число 12 допускает единственное разложение 2·2·3. Но стоит нам допустить в доказательстве мнимые числа, как число 12 можно разложить на множители и так:

12 = (1 + √–11)·(1 + √–11).

Здесь 1 + √–11 — комплексное число, представляющее собой комбинацию действительного и мнимого числа. Хотя умножение комплексных чисел производится по более сложным правилам, чем умножение действительных чисел, существование комплексных чисел порождает дополнительные способы разложения числа 12 на множители. Приведем еще один способ разложения числа 12:

12 = (2 + √–8)·(2 + √–8).

Следовательно, при использовании в доказательстве мнимых чисел речь идет не о единственности разложения, а о выборе одного из вариантов разложения на множители.

Таким образом, утрата единственности разложения на множители нанесла тяжелый урон доказательствам Коши и Ламе, но не уничтожила их полностью. Предполагалось, что доказательства должны продемонстрировать несуществование решений в целых числах у уравнения xⁿ + yⁿ = zⁿ, где n — любое целое число, бóльшее 2. Как мы уже упоминали в этой главе, в действительности Великую теорему Ферма достаточно доказать только для простых значений n. Куммер показал, что, используя дополнительные ухищрения, можно восстановить единственность разложения на множители при некоторых значениях n. Например, проблему единственности разложения можно обойти для всех простых чисел, не превышающих n = 31 (включая само значение n = 31). Но при n = 37 избавиться от трудностей не так просто. Среди других, прочих чисел, меньших 100, особенно трудно доказать Великую теорему Ферма при n = 59 и n = 67. Это так называемые нерегулярные простые числа, разбросанные среди остальных чисел, стали камнем преткновения на пути к полному доказательству.

Куммер отметил, что не существует известных математических методов, которые позволили бы единым махом рассмотреть все нерегулярные простые числа. Но он полагал, что, тщательно подгоняя существующие методы к каждому нерегулярному простому числу в отдельности, удастся справиться с ними «по одиночке». Разработка таких выполненных по индивидуальному заказу методов было бы делом медленным и чрезвычайно трудным, и, что еще хуже, множество нерегулярных простых чисел было бесконечным. Рассмотрение нерегулярных простых чисел по одному силами всего мирового математического сообщества растянулось бы до конца веков.

Письмо Куммера произвело на Ламе ошеломляющее действие. Упустить из виду предположение о единственности факторизации! В лучшем случае такое можно было бы назвать чрезмерным оптимизмом, в худшем — непростительной глупостью. Ламе сознавал, что если бы он не стремился держать подробности своей работы в тайне, то смог бы обнаружить пробел гораздо раньше. В письме к своему коллеге Дирихле в Берлин он признавался: «Если бы только Вы были в Париже, или я был в Берлине, все это никогда бы не произошло». Если Ламе испытывал чувство унижения, то Коши отказывался признать поражение. По его мнению, по сравнению с доказательством Ламе, его собственное доказательство в меньшей степени опиралось на единственность разложения на множители, и до тех пор, пока проведенный Куммером анализ не будет полностью проверен, существует возможность, что в рассуждения немецкого математика где-то вкралась ошибка. В течение нескольких недель Коши продолжал публиковать статью за статьей о доказательстве Великой теоремы Ферма, но к исходу лета замолчал и он.

Куммер показал, что полное доказательство Великой теоремы Ферма лежало за пределами возможностей существовавших математических подходов. Это был блестящий образец логики и в то же время чудовищный удар по целому поколению математиков, питавших надежду, что именно им удастся решить самую трудную в мире математическую проблему.

Резюме подвел Коши, который в 1857 году писал в заключительном отчете, представленном Академии, по поводу премии, назначенной за доказательство Великой теоремы Ферма: «Отчет о конкурсе на премию по математическим наукам. Конкурс был назначен на 1853 год и затем продлен до 1856 года. Секретарю были представлены одиннадцать мемуаров. Ни в одном из них поставленный вопрос решен не был. Таким образом, несмотря на многократную постановку, вопрос остается там, где его оставил г-н Куммер. Однако математические науки вознаграждены трудами, предпринятыми геометрами в их стремлении решить вопрос, особенно г-на Куммера, и члены Комиссии считают, что Академия приняла бы достаточное и полезное решение, если бы, изъяв вопрос из конкурса, присудила бы медаль г-ну Куммеру за его прекрасные исследования по комплексным числам, состоящим из корней из единицы и целых чисел».

Более двух столетий любая попытка открыть заново доказательство Великой теоремы Ферма заканчивалась неудачей. В юношеские годы Эндрю Уайлс изучил труды Эйлера, Жермен, Коши, Ламе и, наконец, Куммера. Уайлс надеялся, что ему удастся извлечь уроки из ошибок, допущенных великими предшественниками, но к тому времени, когда он стал старшекурсником Оксфордского университета, на его пути встала та же каменная стена, перед которой остановился Куммер.

Некоторые из современников Уайлса начали подозревать, что проблема Ферма может оказаться неразрешимой. Не исключено, что Ферма заблуждался, и поэтому причина, по которой никому не удалось восстановить доказательство Ферма, заключается просто в том, что такого доказательства вообще не существовало. Уайлса вдохновляло то, что в прошлом, после упорных усилий на протяжении столетий, для некоторых значений n доказательство Великой теоремы Ферма все же было обнаружено. И в некоторых из этих случаев удачные идеи, позволившие решить проблему, не опирались на новые достижения математики; наоборот, это были доказательства, которые могли быть давно быть обнаружены.

Одним из примеров задачи, упорно не поддававшейся решению на протяжении десятилетий, может служить гипотеза о точках. В ней речь идет о нескольких точках, каждая из которых соединена с другими точками прямыми, как показано на рис. 13. Гипотеза утверждает, что невозможно нарисовать диаграмму такого рода так, чтобы на каждой прямой лежали по крайней мере три точки (диаграмму, на которой все точки лежат на одной и той же прямой, мы исключаем из рассмотрения). Экспериментируя с несколькими диаграммами, мы можем убедиться в том, что гипотеза о точках, по-видимому, верна. На рис. 13а пять точек связаны шестью прямыми. На четырех из этих линий не наберется по три точки, и поэтому ясно, что такое расположение точек не удовлетворяет требованию задачи, согласно которому каждой прямой принадлежит по три точки.

Рис. 13. На этих диаграммах каждая точка связана с каждой из остальных точек прямыми. Можно ли построить такую диаграмму, на которой каждая прямая проходит по крайней мере через три точки?

Добавив одну точку и одну проходящую через нее прямую, мы снизили число прямых, на которых не лежат по три точки, до трех. Но дальнейшее приведение диаграммы к условиям гипотезы (такая перестройка диаграммы, в результате которой на каждой прямой оказалось бы по три точки), по-видимому, невозможна. Разумеется, это не доказывает, что такой диаграммы не существует.

Поколения математиков пытались найти доказательство, казалось бы, нехитрой гипотезы о точках — и потерпели неудачу. Эта гипотеза вызывает еще большее раздражение потому, что когда решение в конце концов было найдено, выяснилось, что для него необходимы лишь минимальные познания в математике и один неординарный поворот в рассуждениях. Ход доказательства намечен в Приложении 6.

Вполне возможно, что все методы, необходимые для доказательства Великой теоремы Ферма, уже имелись в распоряжении математиков, и что единственным недостающим ингредиентом был какой-то остроумный ход. Уайлс не собирался сдаваться: детская мечта о доказательстве Великой теоремы Ферма превратилась в глубокое и серьезное увлечение. Ознакомившись со всем, что можно было узнать о математике XIX века, Уайлс решил взять на вооружение методы XX века.