В «Эрлангенской программе» Клейна особый упор делается на то, что исследуемые группы состоят из преобразований, т. е. элементы группы действуют в некотором пространстве. И большая часть ранних работ по теории групп предполагает такую структуру. Но более поздние исследования потребовали нового уровня абстрагирования: сохранить свойства группы, но отказаться от понятия пространства. Группа состоит из математических объектов, которые могут быть объединены для получения аналогичных объектов, но они не обязательно должны быть преобразованиями.

Это могут быть числа. Два числа (целые, рациональные, действительные, комплексные) могут быть сложены, и результатом также станет число такого же вида. Числа образуют группу с помощью операции сложения. Но число – не преобразование. Несмотря даже на роль групп как преобразований, объединивших геометрии, от понятия связанного с ними пространства лучше отказаться, чтобы объединить теорию групп.

Одним из первых математиков, решившихся предложить такой шаг, стал Артур Кейли в трех своих статьях от 1849 и 1854 гг. Он говорил, что группа содержит набор операторов 1, a, b, c и т. д. Объединение ab двух любых операторов должно быть другим оператором; особый оператор 1 удовлетворяет условию 1a = a и a1 = a для всех операторов a; ассоциативный закон (ab)c = a(bc) должен сохраняться. Но его операторы по-прежнему опирались на что-то еще (множество переменных). Кроме того, он пропустил решающее условие: для любого a должно быть обратное a´, такое, что a´a = aa´ = 1. Так Кейли хотя и подобрался к призу, но промахнулся на волосок.

В 1858 г. Рихард Дедекинд позволил членам группы быть произвольными сущностями, а не только преобразованиями или операторами, однако включил в свое определение коммуникационный закон ab = ba. Эта идея отлично послужила для его цели – теории чисел, но оставляла в стороне самые любопытные группы в теории Галуа, не говоря о более широком математическом мире. Современная концепция абстрактной группы была предложена Вальтером фон Диком в 1882–1883 гг. Он допускал обратимость, но отрицал необходимость закона коммутативности. Полноценный аксиоматичный подход к группам появился позже, в 1902 г., благодаря Эдуарду Хантингтону, Элиакиму Муру (1902) и Леонарду Диксону (1905).

С абстрактной структурой группы отделились от конкретной интерпретации, и их теория стала стремительно развиваться. Ранние исследования по большей части касались частных случаев: ученые, заинтересовавшиеся примерами отдельных групп или каких-то особых их типов, старались выявить их общие черты. Необходимые в этой области основные понятия и методы появились на удивление быстро, и теперь эта тема процветает.