Правление Омейядов закончилось при халифе Марване II. Изначально он был наместником халифа в Закавказье, вел военные действия против Грузии, а также против хазар и аланов. Он приобрел известность как весьма умелый полководец и, опираясь на собственный опыт, занялся реформой армии. Традиционно войско халифата формировалось на клановой основе. Марван переделал его в регулярную армию, служившую не столько по принципу преданности племенному вождю, сколько лично халифу за жалованье. Командование частями было поручено опытным военачальникам.

В 744 году тогдашний халиф Аль-Валид II назначил наследниками престола двух своих сыновей, рожденных невольницей. Это стало причиной недовольства среди родственников и последующего заговора, в результате которого Аль-Валид II был убит. Халифом стал его двоюродный брат Язид III, сын Аль-Валида I от наложницы, знатной персиянки, – недаром он называл себя потомком четырех властителей, в том числе шаха Хосрова. Но и ему недолго удалось удержаться на престоле. В разных концах державы пылали мятежи, один из повстанческих походов привел к гибели правителя. Новым халифом стал сын Аль-Валида II – Ибрахим, но его царствование продлилось меньше двух месяцев. Полководец Марван захватил столицу халифата и провозгласил себя правителем.

Но, несмотря на принятые им жесткие меры, удержать власть силой оказалось и для него невозможно. Начались новые массовые восстания в разных областях халифата. А в 750 году персидский военачальник Абу Муслим повел войска против Марвана II. 25 января 750 года произошло грандиозное сражение у реки Большой Заб. Традиционной главной ударной силе в войсках халифов – коннице – Абу Муслим противопоставил сплошной строй пеших воинов, вооруженных длинными тяжелыми копьями по образцу древнегреческих сарисс. Арабская кавалерия помчалась в атаку, но копьеносцы не дрогнули. Таким образом, первый же натиск армии халифа Марвана оказался неудачным, а последующей контратакой войск Абу Муслима силы Омейядов были полностью разгромлены. Погибли многие родственники халифа, а сам он бежал в Египет, но там был убит в августе того же года. От великой державы Омейядов остался только Кордовский эмират (впоследствии халифат) на территории современной Испании, названный так по имени столицы – города Кордова.