Ketika Islam datang dan jihad telah disyariatkan, maka setiap muslim adalah tentara. Cinta agama dan syahid di jalan Allah menjadi dorongan terbesar bagi umat Islam untuk bersegera menyambut seruan jihad (Abu Zaid Syalbi dalam Tarikh al-Hadharah al-Islamiyah wa al-Fikr al-Islami, Hal: 150). Rasulullah Saw menjadi pucuk pimpinan tertinggi pasukan Islam. Setelah beliau Saw wafat, kemiliteran Islam mengalami perubahan dan perkembangan. Medan tempur yang semakin banyak. Dan pasukan-pasukan yang berada di tempat berbeda-beda adalah penyebabnya. Tentu tugas para khalifah menjadi semakin berat. Para khalifah menyerahkan kepemimpinan militer pada mereka yang dikenal berani, tangguh, tegas, dan ahli strategi. Mereka wajib ditaati. Biasanya panglima perang menemui pasukannya sebelum perang berkobar. Mengecek pasukan, kemudian berpidato. Menenangkan hati mereka dan memotivasi akan kemenangan. Demikian juga yang dilakukan Nabi Saw. Ketika perang usai, panglima mengecek pasukannya. Kemudian kembali melatih mereka. Dan memperbaiki bekal peperangan yang mereka punya (Abu Zaid Syalbi dalam Tarikh al-Hadharah al-Islamiyah wa al-Fikr al-Islami, Hal: 153). Umar bin al-Khattab termasuk pemimpin yang sangat perhatian dengan keadaan prajurit. Di zamannya mulai disusun kode etik militer untuk mengatur urusan prajurit. Mendata nama-nama para tentara. Membagi tugas-tugas mereka. Dan mengeluarkan gaji untuk mereka. Ketika negara Islam kian luas, ghanimah melimpah, dunia menerima Islam, dan Islam kokoh di berbagai daerah, Umar mulai khawatir pasukannya akan lengah. Dan tidak lagi peka dengan ancaman perang. Umar khawatir militer malah mengadakan pemberontakan. Kemudian ia berusaha mengarahkan mereka untuk berjihad. Dan juga meningkatkan kesejahteraan mereka dan keluarga. Di zaman Umar pula dibangun markas-markas militer dengan bangunan permanen. Yang berfungsi menjadi barak tempat beristirahat saat pasukan dalam perjalanan. Dan juga dibangun benteng-benteng di Basrah, Kufah, Fustat (Kairo), untuk mengantisipasi serangan musuh. Kemudian Bani Umayyah menyempurnakan pembangunan militer yang digagas Umar bin al-Khattab. Mereka menyempurnakan tata aturan dan kode etik militer. Dan memperbesar anggaran militer. Ketika wilayah Islam semakin kokoh dan aktivitas militer menurun, maka Khalifah Abdul Malik bin Marwan menetapkan kebijakan wajib militer (Abu Zaid Syalbi dalam Tarikh al-Hadharah al-Islamiyah wa al-Fikr al-Islami, Hal: 150-151).