Yərmük müharibəsində Xalidin sarığı başından düşmüşdü. Qızğın döyüş getməsinə baxmayaraq, atından enərək sarığı yerdən alıb başına qoydu, amma sarıq bir çox yerindən cırılmışdı. Xalidin nəyə görə sarığı belə axtardığını soruşdular. O da belə cavab verdi:
‒ Rəsulullah Ümrə edərkən mübarək saçlarını kəsdirdi. Hər kəs o saçdan bir az götürdü, mən də alıb bu sarığın içinə qoydum və başıma sardım. Hər döyüşə bu sarıqla qatıldım və mütləq qalib gəldim.[6] Xalidin bağlandığı bir tək şey vardı, o da Allah və Rəsulu adını ucaltmaq üçün mücahidə etmək.
Xalid ibn Vəlid Həzrət Əbu Bəkirin və Həzrət Ömərin xilafəti dövründə də ordu komandiri vəzifəsini davam edərək İslam düşmənlərinin qəlbinə qorxu salırdı. Çünki girdiyi bütün döyüşlərdə qələbə qazanırdı. Müsəlmanlar arasında Xalidlə girdiyimiz hər döyüşdən qələbə ilə ayrılacağıq deyə bir rahatlıq əmələ gəlmişdi. Həzrət Öməri müsəlmanların qəflətə düşüb, Allahın nüsrətini (yardım) unudub, hər şeyin Xalidə görə olduğunu düşünmələrindən narahat idi. Bu səbəblə Həzrət Xalidi ordu komandirliyi vəzifəsindən alıb yerinə Əbu Ubeydə ibn Cərrahı təyin etdi . Xalid bu əmrə heç etiraz belə etmədi və Əbu Ubeydənin əmrinə girdi. Bir müddət əvvəl komandan olduğu orduda o artıq əsgər olaraq döyüşəcəkdi. Onu bu işə vadar edən tək bir əsas vardı: Allah Rəsulunun davası. Bu uğurda əsgər və yaxud ordunun başında komandir olmağın onun üçün heç bir fərqi yox idi. Əsl olan bu davaya bağlılıqdı.