Ketika terjadi Fathul Makkah, Harits bin Hisyam dan Abdullah bin Abu Rabiah datang ke rumah Ummu Hani bin Abi Thalib yang telah memeluk Islam, untuk meminta perlindungan, dan Ummu Hani bersedia. Tak lama berselang datang Ali bin Abi Thalib untuk menjenguk saudaranya itu. Melihat dua orang musyrik ini, ia menodongkan pedangnya tetapi dihalangi oleh Ummu Hani. Setelah melaporkan kepada Nabi SAW, Ummu Hani memberitahukan bahwa keduanya aman dengan jaminan perlindungan darinya, Harits dan Abdullah-pun pulang ke rumahnya masing-masing.
Suatu kali, Harits bin Hisyam dan Abdullah bin Abu Rabiah berada di suatu majelis dengan pakaian yang berbau wangi za'faran. Aneh memang, masih tetap dalam kekafiran dan dalam keadaan “kalah” perang dan selamat karena “budaya” perlindungan yang memang sangat dihormati masyrakat Arab, tetapi tampil di depan umum dengan berlebihan. Kondisi yang cukup ironi ini disampaikan kepada Nabi SAW, dan beliau hanya bersabda, "Tidak ada jalan untuk menyakiti orang itu, karena kita telah memberikan jaminan keselamatan kepadanya."
Sabda Nabi SAW ini sampai ke telinga Harits, dan ia merasa sangat malu kalau-kalau beliau sampai melihat dirinya. Ia masih ingat bagaimana pandangan Nabi SAW kepadanya ketika ia berada di antara orang-orang musyrik yang memusuhi beliau. Dan ia juga ingat bagaimana kebaikan dan kasih sayang beliau. Keadaan ini akhirnya mendorong Harits menuju masjid menemui Nabi SAW, mengucap salam dan mengucapkan syahadat untuk memeluk Islam. Nabi SAW begitu gembira menyambut keislaman Harits ini, dan beliau bersabda, "Segala puji bagi Allah yang telah memberikan hidayah kepadamu, tidak pantas orang seperti kamu tidak mengenal Islam..!”
Harits adalah seorang pembesar Quraisy, keterlambatannya memeluk Islam membuat ia merasa tertinggal begitu jauh dalam amal kebaikan dibanding orang-orang Quraisy yang terdahulu masuk Islam. Ia berkata, "Sungguh, andai gunung-gunung di Makkah berubah menjadi emas dan aku sedekahkan semuanya di jalan Allah, itu tidaklah sebanding dengan satu hari dari hari-hari mereka. Kalau mereka telah mendahului kami di dunia, maka kami harus berusaha menyamai mereka di akhirat." Kemudian ia dan beberapa orang lainnya memutuskan untuk bergabung dengan pasukan muslim yang sedang berjihad di daerah Syam. Penduduk Makkahpun sedih dengan keputusannya. Mereka mengantarkan kepergiannya hingga di luar Makkah, yakni di tempat bernama al Bath-ha, diringi dengan tangisan sedih.
Dalam perang Yarmuk, ketika Ikrimah bin Abu Jahal yang masih keponakannya mengajak berba'iat untuk maut (yakni, berjuang hingga memperoleh syahid), ia segera menyambutnya, begitu juga dengan Dhirar bin Azwar. Mereka bertempur tanpa rasa takut meskipun musuh lebih banyak. Harits bin Hisyam terluka parah dan meminta air. Ketika dibawakan, ia melihat Ikrimah memandangnya, maka ia menyuruh pembawa air itu memberikannya pada Ikrimah. Ketika akan minum, Ikrimah melihat Ayyasy bin Abu Rabiah yang juga kehausan, dan menyuruh membawakannya ke Ayyasy. Sebelum sempat minum ternyata Ayyasy wafat, begitu pembawa air tersebut kembali ke Ikrimah, ia juga wafat, dan ketika air dibawa kembali ke Harits, iapun telah wafat juga. Tiga orang syahid bersamaan, yang Allah tidak rela mereka “berbuka” dengan air dunia, tetapi Dia memberikan kesegaran yang baik untuk “berbuka” mereka di alam akhirat.