Setelah Muhammad hijrah Madinah pada tahun 622, kaum Quraisy menyita barang-barang yang kaum muslim yang tinggalkan. Dari Madinah, kaum muslim kemudian mulai menyerang kafilah-kafilah Quraisy yang berdagang dari Suriah ke Mekkah. Pada tahun 624, Abu Sufyan memimpin sebuah kafilah. Sebuah pasukan muslim ketika itu berusaha untuk mencegatnya, namun ia berhasil meminta bantuan dari Quraisy di Mekkah. Ini adalah penyebab terjadinya Pertempuran Badar, yang kemudian berakhir dengan kemenangan kaum muslim. Di lain pihak, Abu Sufyan berhasil membawa kafilahnya pulang dengan selamat ke Mekkah. Kematian beberapa pemimpin Quraisy dalam pertempuran tersebut menyebabkan Abu Sufyan menjadi pemimpin utama Mekkah. Abu Sufyan selanjutnya berperan sebagai pemimpin militer Mekkah dalam peperangan melawan Madinah, antara lain dalam Pertempuran Uhud tahun 625 dan Pertempuran Khandaq tahun 627, tetapi tidak berhasil mencapai kemenangan yang menentukan. Akhirnya kedua pihak sepakat untuk melakukan gencatan senjata dengan Perjanjian Hudaibiyyah tahun 628, yang memungkinkan umat Islam untuk melakukan ziarah ke Ka'bah.

Kehidupan selanjutnya - Setelah penaklukan Mekkah, Abu Sufyan menjadi salah seorang panglima perang kaum muslim dalam peperangan selanjutnya. Dalam Pengepungan Tha'if, ia kehilangan sebelah matanya. Abu Sufyan sedang bertugas di Najran ketika Muhammad meninggal pada tahun 632. Abu Sufyan juga berperang dalam Pertempuran Yarmuk tahun 636, dimana ia kehilangan mata keduanya. Abu Sufyan meninggal dunia tahun 650 di Madinah pada usia sembilan puluh tahun. Utsman bin Affan yang telah menjadi khalifah ketiga di 644 dan merupakan kerabat Abu Sufyan adalah yang memimpin doa bagi penguburannya. Di kemudian hari, Muawiyah putra Abu Sufyan berhasil mendirikan dinasti Umayyah, yaitu dinasti muslim pertama yang memerintah dunia Islam selama seabad, antara tahun 661-750. Muawiyah berperang melawan Ali bin Abi Thalib, sementara putranya Yazid bin Muawiyah terlibat peperangan yang akhirnya menyebabkan syahidnya Husain bin Ali. Kaum Syi'ah memandang Abu Sufyan sebagai seorang munafik yang memeluk Islam hanya setelah penaklukan Mekkah, dan penyusup di kalangan umat Islam.