Отступив из Екатеринослава под натиском белых, Махно с основными силами армии отошел в Александровск. 5 января 1920 г. сюда прибыли и части 45-й дивизии РККА. На переговорах с представителями красного командования Махно и представители его штаба потребовали выделить им участок фронта для борьбы с белыми и сохранить за ними контроль над их районом. Махно и его штаб настаивали на заключении формального соглашения с советским руководством. 6 января 1920 г. командарм 14-й армии И. П. Уборевич приказал Махно выдвигаться на польский фронт. Не дожидаясь ответа, Всеукраинский ревком 9 января 1920 г. объявил Махно вне закона под предлогом невыполнения им приказа идти на польский фронт. Красные напали на штаб Махно в Александровой, но он сумел 10 января 1920 г. уйти в Гуляйполе.

На совещании комсостава в Гуляйполе 11 января 1920 г. было решено предоставить повстанцам месячный отпуск. Махно заявил о готовности «идти рука об руку» с РККА, сохраняя самостоятельность. В это время более двух дивизий красных атаковали, разоружали и частично расстреливали махновцев, в том числе больных. Был схвачен и расстрелян брат Махно Григорий, а в феврале — другой брат Савва, занимавшийся в махновской армии снабжением. Махно на время болезни перешел на нелегальное положение.

После выздоровления Махно в феврале 1920 г. махновцы возобновили боевые действия против красных. Зимой — весной развернулась изнурительная партизанская война, махновцы нападали на небольшие отряды, работников большевистского аппарата, склады, раздавая крестьянам запасы хлеба. В районе действий Махно большевики были вынуждены уйти в подполье и открыто выступали только в сопровождении крупных воинских частей. В мае 1920 г. был создан Совет революционных повстанцев Украины (махновцев) во главе с Махно, в который вошли начальник штаба В. Ф. Белаш, командиры Калашников, Куриленко и Каретников. Название СРПУ подчеркивало, что речь идет не об обычном для гражданской войны РВС, а о кочующем органе власти махновской республики.

Попытки Врангеля установить союз с Махно закончились расстрелом эмиссара белых по решению СРПУ и штаба махновцев 9 июля 1920 г.

В марте — мае 1920 г. отряды под командованием Махно сражались с частями 1-й Конной армии, ВОХР и др. силами РККА. Летом 1920 г. армия под общим командованием Махно насчитывала более 10 тысяч бойцов. 11 июля 1920 г. армия Махно начала рейд за пределы своего района, в ходе которого взяла города Изюм, Зеньков, Миргород, Старобельск, Миллерово. 29 августа 1920 г. Махно был серьезно ранен в ногу (всего Махно имел более 10 ранений).

В условиях наступления Врангеля, когда белые заняли Гуляйполе, Махно и его СРПУ были не против заключить новый союз с красными, если те будут готовы признать равноправие махновцев и большевиков. В конце сентября начались консультации о союзе. 1 октября, после предварительного соглашения о прекращении военных действий с красными, Махно в обращении к действующим на Украине повстанцам призвал их прекратить боевые действия против большевиков: «Оставаясь безучастными зрителями, украинские повстанцы помогли бы воцарению на Украине либо исторического врага — польского пана, либо опять царской власти, возглавляемой германским бароном». 2 октября было подписано соглашение между правительством УССР и СРПУ (махновцев). В соответствии с соглашением между махновцами и красной армией прекращались военные действия, на Украине объявлялась амнистия анархистам и махновцам, они получали право на пропаганду своих идей без призывов к насильственному свержению советского правительства, на участие в советах и в выборах на V съезд советов, намеченных на декабрь. Стороны взаимно обязались не принимать дезертиров. Махновская армия переходила в оперативное подчинение советскому командованию с условием, что «сохраняет внутри себя установленный ранее распорядок».

Действуя вместе с РККА, махновцы 26 октября 1920 г. освободили от белых Гуляйполе, где разместился Махно. Лучшие силы махновцев (2400 сабель, 1900 штыков, 450 пулеметов и 32 орудия) под командованием С. Каретникова были направлены на фронт против Врангеля (сам Махно, раненный в ногу, оставался в Гуляйполе) и участвовали в форсировании Сиваша.

После победы над белыми 26 ноября 1920 г. красные внезапно напали на махновцев. Приняв командование армией, Махно сумел уйти из-под удара, нанесенного по его силам в Гуляйполе. Южному фронту РККА под командованием М. В. Фрунзе, опираясь на многократный перевес в силах, удалось окружить Махно в Андреевке у Азовского моря, но 14–18 декабря Махно прорвался на оперативный простор. Однако ему пришлось уйти на Правобережье Днепра, где у махновцев не было достаточной поддержки населения. В ходе тяжелых боев в январе — феврале 1921 г. махновцы прорвались в родные места. 13 марта 1921 г. Махно снова был тяжело ранен в ногу.

22 мая 1921 г. Махно двинулся в новый рейд на север. Несмотря на то, что был восстановлен штаб единой армии, силы махновцев были распылены, Махно смог сосредоточить для действий на Полтавщине лишь 1300 бойцов. В конце июня — начале июля М. В. Фрунзе нанес махновской ударной группе чувствительное поражение в районе рек Сулла и Псел. После объявления НЭПа ослабевала поддержка повстанцев со стороны крестьян. 16 июля 1921 г. Махно на совещании в Исаевке под Таганрогом предложил своей армии пробиваться в Галицию, чтобы поднять там восстание. Но по поводу дальнейших действий возникли разногласия, и с Махно последовало только меньшинство бойцов.

Махно с небольшим отрядом прорвался через всю Украину к румынской границе и 28 августа 1921 г. переправился через Днестр в Бессарабию.