В 638 году капитулировал византийский гарнизон Иерусалима, возглавляемый патриархом Софронием. Халиф арабов Умар ибн аль Хаттаб лично отправился в Святой город обсудить с Софронием условия сдачи города, и в итоге христиане Иерусалима приняли покровительство халифа, получив право исповедовать веру при условии уплаты налогов.
В Иерусалиме Умар посетил место, на котором стоял ранее Иерусалимский Храм и куда совершил чудесное «ночное путешествие» пророк Мухаммад, и заложил на этом месте мечеть Аль-Акса.
Халиф Умар, второй халиф арабов, был одним из самых близких сподвижников пророка Мухаммада и отцом одной из жен пророка, Хафсы. Начиная с Умара, арабский халиф стал именоваться Повелителем мусульман.
Сам Умар ибн аль Хаттаб являлся потомком незнатного рода из Мекки, но при этом был человеком решительным, отважным и жестоким. Для мусульман халиф Умар является одним из четырех «праведных халифов» (кроме Умара, это халифы Абу Бакр, Усман ибн Аффан и Али ибн Абу Талиб).
В 639 году в Сирии и Палестине вспыхнула эпидемия бубонной чумы, которая собрала страшный урожай в 25 тысяч жизней; множество людей бежало от болезни в пустыню, покинув города и селения. Среди погибших от чумы оказался даже арабский военачальник и наместник Сирии Абу Убайда. Умар не побоялся лично посетить пострадавшие от эпидемии области, чтобы навести административный порядок.
В 641 году капитулировала византийская Кесария, последний оплот византийцев в Палестине. После завоевания Палестины территория этой страны вошла в состав арабского халифата в качестве двух военных округов, получивших названиеДжунд-Фалястын и Джунд-Урдуин. Под руководством Умара оказались значительные территории двух древних империй Сасанидской и Византийской. Для управления новыми землями Умар создал развитую административную и налоговую системы. Завоеванные территории были поделены на самостоятельные провинции, управляемые наместниками.
В 644 году Умар вернулся из ежегодного паломничества в Мекку, был ранен в Мединской мечети персом-христианином Абу Лулу, рабом наместника Басры. Рана оказалась смертельной. Умирая, халиф назначил Совет из шести сахабов (соратников Мухаммада) для избрания нового властителя арабского халифата. Скончавшийся 7 ноябя 644 года был похоронен в Медине рядом с Мухаммадом и первым халифом арабов Абу Бакром.
После Умара халифом был избран Усман ибн Аффан, правивший с 644 по 656 год. Он продолжил завоевание новых территорий, начатое при Умаре. В правление Усмана была окончательно разгромлена Сасанидская империя, мусульмане захватили Северную Африку и Закавказье. Халиф Усман выступил инициатором создания сводного текста Корана.
При Усмане наместник Сирии Муавия ибн Абу Суфьян реализовал очень важную Византией задачу создания военного флота. Большой флот для защиты побережья Сирии, Палестины и Египта был построен на сирийских и египетских верфях, бойцами на кораблях стали мусульмане, а управляли судами опытные экипажи восточных христиан коптов и яковитов.
Правление Усмана носило аристократический характер. Всю высшую власть халиф передал в руки родственников и связанных с ними вождей аравийских племен. Росло социальное и имущественное неравенство в мусульманской умме, это вызвало недовольство значительной части арабов. 17 июня 656 года халиф Усман ибн Аффан был убит мятежниками. Смерть Усмана стала причиной долгой гражданской войны в халифате и раскола уммы.
После Усмана халифом был избран Абу аль Хасан Али ибн Абу Талиб аль Муртада (двоюродный брат и зять Мухаммада, женой которого была Фатима, дочь пророка). Али вырос в доме Мухаммада, участвовал во многих битвах и был знаменосцем пророка мусульман, великолепно знал Коран и хадисы. На время правления Али внешние войны арабов прекратились, зато в пределах Халифата беспокойство нарастало.
В январе 657 года Али вместо Медины сделал столицей город Куфу в Ираке (основан на два десятилетия раньше как военный гарнизон).
Сирией продолжал управлять Муавия ибн Абу Суфьян. Он был наместником этой провинции на протяжении уже почти двадцати лет и создал за это время великолепную лояльную армию. Муавия заключил мир с Византией в обмен на дань. Кроме того, советником влиятельного сирийского наместника был Амра ибн аль Аса, бывший наместник Египта и герой арабского завоевания Палестины, который был смещен халифом Усманом. Муавия не признал Али халифом, так началось долгое противостояние Муавии и Али.
Сторонники Али постепенно оформились в политическое, а позже и религиозное направление «шиа» (шииты). Они утверждали, что законным главой мусульманской общины (имамом и эмиром) должен быть зять пророка Али, а ему должны наследовать исключительно Алиды, рожденные от брака Али и Фатимы.
В мае 660 года в Иерусалиме Муавия провозгласил себя халифом, и халифат раскололся надвое. Ираком и Персией по прежнему управлял Али; Сирией, Палестиной и Египтом Муавия. 20 января 661 года Али был убит в мечети Куфы представителем секты хариджитов, призывавших вернуться к «первоначальному исламу» (социальное равенство мусульман, общее владение землей, раздел военной добычи поровну, участие в выборах халифа всей уммы, а не только сподвижников Мухаммада).
Муавия ибн Абу Суфьян стал единоличным правителем огромного арабского халифата и основателем династии Омейядов, которая правила исламским миром до 750 года. Халиф Муавия I переносит столицу халифата в Дамаск. К началу VIII столетия арабы закончили завоевание Северной Африки, Закавказья, Средней Азии и большей части Пиренейского полуострова.
Однако, недовольство широких масс на огромной и разнородной территории халифата росло. Во главе недовольных находились последователи шиитов и хариджитов, а в 20-х годах VIII столетия. возникла ещё одна активная политическая группировка, возглавляемая Аббасидами богатыми землевладельцами Ирака, потомками дяди Мухаммада, Аббаса ибн Абд аль-Мутталиба.
В целях захвата власти Аббасиды решили воспользоваться широким народным протестом. В 747 году вспыхнуло восстание под руководством Абу Муслима, бывшего раба персидского происхождения. После напряженной трёхлетней борьбы омейядские войска были разбиты, последний халиф из Омейядов, Марван II, бежал в Египет, где вскоре погиб. Халифом стал Абу-л-Аббас.
Видя в Абу Муслиме популярного народного лидера, второй халиф из Аббасидов аль Мансур (правил с 754 по775 год) приказал убить Абу Муслима. Убийство народного вождя в 755 году стало сигналом к широкому выступлению народных масс против властей арабского халифата. Аль Мансур был вынужден оставить Дамаск и основать новую столицу Багдад (762 год).
При последовавших за аль Мансуром Аббасидах аль-Махди, Харуне ар-Рашиде, аль-Мамуне на значимые посты в халифате начинают проникать неарабы, новый расцвет переживают национальные культуры. Аль Мамун создает постоянную гвардию из рабов-мамлюков (гулямов).
Пришедший на смену Аль Мамуну халиф Мутасим сделал мамлюков телохранителями, и вскоре мамлюки уже свергали и возводили на престол халифов по своему желанию, как это делали преторианцы в Древнем Риме. Халифы становятся марионетками в руках мамлюкской гвардии.
В IX столетии начинается распад арабского халифата. Возникают независимые государства на востоке Ирана (Саффариды), на южном берегу Каспия (Алиды), в Марокко (Идрисиды), Тунисе и Алжире (Аглабиты). Палестина оказалась под властью египетских правителей из династии Тулунидов, основателем которой стал тюрок из Средней Азии Ахмед ибн Тулун. К середине X века политический распад арабского халифата завершился.
