В чистой форме концепция групп впервые появилась в работе Галуа, хотя и раньше намеки на нее мелькали как в эпических трудах Руффини, так и в элегантных построениях Лагранжа. На протяжении того десятилетия, когда благодаря Лиувиллю идеи Галуа получили широкое распространение, в математике появилась хорошо развитая теория групп. Главным архитектором теории считается Камиль Жордан, чей труд на 667 страницах «Трактат о подстановках и алгебраических уравнениях» был опубликован в 1870 г. Жордан развил всю тему систематически и всеобъемлюще.

Увлечение Жордана теорией групп началось в 1867 г., когда он продемонстрировал ее связь с геометрией явным образом, классифицировав основные виды движения твердого тела в евклидовом пространстве. А главное, он предпринял очень плодотворную попытку объяснить, как эти виды движения могуть быть объединены в группы. Главным его мотиватором стала работа Огюста Браве по кристаллографии, инициировавшего математическое изучение кристаллической симметрии, особенно лежащей в основе атомной решетки. Работа Жордана обобщила труды Браве. Он объявил о своей классификации в 1867 г. и опубликовал детали в 1868–1869 гг.

Технически Жордан работал только с замкнутыми группами, в которых любая конечная последовательность движений внутри группы также является движением в той же группе. Это относится ко всем конечным группам по очевидным причинам, а также к группам, которые подобны всем поворотам окружности вокруг ее центра. Типичным примером незамкнутой группы, не рассмотренной Жорданом, могут служить все повороты окружности вокруг ее центра на углы, кратные рациональному углу 360°/n. Эта группа существует, но не удовлетворяет свойству конечности (потому что, например, она не может включать в себя повороты на 360 × √2 градуса, поскольку √2 – не рациональное число). Незамкнутые группы движений невероятно разнообразны и практически не подлежат разумной классификации. В отличие от них замкнутые, хотя и с трудом, поддаются описанию.

Основные движения на плоскости – параллельные переносы, вращения, отражения и зеркальные отражения. В трехмерном пространстве мы также отмечаем винтовые движения, как у штопора: объект передвигается вдоль фиксированной оси и одновременно вращается вокруг нее же.

Жордан начал с группы параллельных переносов и перечислил десять видов: все сочетания непрерывных параллельных переносов (на любое расстояние) в некотором направлении и дискретных переносов (с целочисленными кратными) от фиксированного расстояния в прочих направлениях. Также он перечислил главные конечные группы для вращений и отражений: циклическая, диэдральная, тетраэдральная, октаэдральная и икосаэдральная. Он выделил группу O(2) всех вращений и отражений, которая сохраняет фиксированную линию в пространстве – ось, и группу O(3) всех вращений и отражений, которая сохраняет фиксированную точку в пространстве и точку пересечения осей.

Позже стало ясно, что список неполон. Например, в нем нет некоторых трудноуловимых кристаллографических групп в трехмерном пространстве. Однако работа стала значительным шагом к пониманию перемещений фигур, сохраняющих их неизменными в евклидовом пространстве, что крайне важно для механики, а равно и для чистой математики.

Книга Жордана получилась действительно огромной. Она начинается с модульной арифметики и полей Галуа, которые наряду с примерами групп служат логическим фундаментом всех дальнейших идей. Средняя часть посвящена группам перестановок, которые Жордан называл подстановками. Он определяет основные идеи о нормальных подгруппах, которые Галуа использовал для демонстрации, что группа симметрии уравнения пятого порядка несовместима с решением в радикалах, и доказывает, что эти подгруппы можно использовать для деления общей группы на более простые части. Он доказывает, что величина этих частей не зависит от того, как именно поделили группу. В 1889 г. Отто Гёльдер развил этот результат, проинтерпретировав части в самостоятельные группы и доказав, что не только их размер, но и структура не зависят от того, как поделили группу. Сегодня этот результат известен как теорема Жордана – Гёльдера.

Группа считается простой, если не делится таким образом. Теорема Жордана – Гёльдера однозначно утверждает, что простые группы соотносятся с общими точно так же, как атомы с молекулами в химии. Простые группы – атомные составляющие всех групп. Жордан доказал, что знакопеременная группа A_n, содержащая все перестановки из n символов, в которой символы попарно переставлены четное число раз, будет простой, если n ≥ 5. Это и есть главная причина, по которой теоретики групп уверены, что уравнение пятой степени не решается в радикалах.

Главным достижением стала теория линейных подстановок Жордана. Здесь преобразования, производимые с группой, не являются перестановками конечного множества: это линейные изменения для конечного списка переменных. Например, три переменные x, y, z можно преобразовать в новые переменные X, Y, Z с помощью линейных уравнений:

где a, b и с с нижними индексами – константы. Чтобы сделать группу конечной, Жордан обычно брал их так, чтобы они являлись элементами поля целых чисел по модулю некоторого простого числа, или, в общем случае, поля Галуа.

Также в 1869 г. Жордан развил свою версию теории Галуа и включил ее в свой трактат. Он доказал, что уравнение разрешимо тогда и только тогда, когда разрешима сама эта группа. Это означает, что все ее элементарные компоненты имеют простой порядок. Жордан применил теорию Галуа к геометрическим задачам.