Utbah bin Ghazwan adalah sahabat muhajirin, dan termasuk dalam kelompok awal yang memeluk Islam (As sabiqunal awwalin). Ia sempat berhijrah ke Habasyah karena begitu kerasnya tekanan dan siksaan yang dilakukan oleh kaum kafir Quraisy. Walau suasana tenang dan terlindungi untuk beribadah di sana, tetapi ia memilih untuk kembali ke Makkah karena kerinduannya kepada Nabi SAW. Tidak masalah kalau hari-harinya dalam kesulitan, siksaan dan teror asal setiap saat ia bisa bertemu dan bergaul dengan Nabi SAW. Seperti kebanyakan sahabat Nabi SAW dalam kelompok as sabiqunal awwalin, Utbah tidak ingin tertinggal dalam perjuangan menegakkan panji-panji Islam bersama Nabi SAW. Pola hidupnya juga tak jauh berbeda dengan beliau, tekun beribadah, menjauhi kemewahan hidup duniawiah dan tidak mencari jabatan. Dalam kebanyakan pertempuran yang diterjuninya, ia hanyalah seorang prajurit biasa yang mempunyai keahlian dalam memanah dan melemparkan tombaknya.
Tipikal orang-orang seperti Utbah itulah yang dicari oleh khalifah Umar untuk mendukung pemerintahannya. Tidak ayal lagi, Umar memilih Utbah bin Ghazwan untuk memimpin pasukan untuk menaklukan kota Ubullah, sebuah daerah di perbatasan yang sering dijadikan batu loncatan tentara Persia untuk menyerang wilayah Islam. Pada mulanya Utbah menolak keras menjadi pemimpin, dan lebih memilih menjadi prajurit biasa dalam pasukan itu. Tetapi keputusan Umar memang tidak bisa ditawar lagi, sehingga ia berangkat dalam pasukan itu sebagai komandan untuk pertama kalinya. Ternyata tidak terlalu sulit bagi Utbah menaklukan Ubullah, karena penduduknya sendiri lebih banyak mendukung kedatangan pasukan muslim, sehingga lebih mudah mengalahkan dan mengusir pasukan Persia dari wilayah tersebut. Memang, pasukan Persia selama itu lebih banyak menyengsarakan penduduk Ubullah daripada melindunginya. Di tempat tersebut, Utbah dan pasukannya dengan didukung penduduk setempat melakukan pembangunan kota, tentunya dengan bercirikan keislaman dengan masjid besar menjadi pusat kotanya. Kota ini kemudian dikenal dengan nama Bashrah, dan secara otomatis Utbah menjadi wali negerinya.
Setelah pemerintahan berjalan lancar, Utbah bermaksud kembali ke Madinah dan menyerahkan kendali kota kepada sahabat-sahabatnya. Sungguh, jabatan yang dipegangnya itu membuat hidupnya tidak nyaman. Apalagi perkembangan kota yang dipimpinnya makin pesat saja, seolah menjadi "pesaing" kemewahan yang ditampilkan oleh kota-kota lainnya di wilayah Persia. Jiwa zuhud, wara dan sederhana sebagai hasil didikan Nabi SAW seolah memaksanya untuk "melarikan-diri" dari semua itu. Tetapi ketika ia mengajukan pengunduran diri dari jabatannya, khalifah Umar menolak, bahkan menentang keras keputusannya. Terpaksalah Utbah menjalankan lagi tugasnya tersebut. Utbah bin Ghazwan menyibukkan dirinya dengan membimbing penduduk Bashrah tentang kewajiban-kewajiban agama, menjalankan ibadah, menegakkan hukum dengan adil, dan tentu saja yang tidak ketinggalan, menerapkan jiwa zuhud, wara dan sederhana dalam menjalani kehidupan sehari-hari. Tentu saja sikapnya ini tidak seratus persen mendapat dukungan, bahkan penentangan secara terang-terangan kadang terjadi.
Karena itu ia sering berkata, "Demi Allah, sesungguhnya telah kalian lihat aku bersama Rasulullah SAW, sebagai salah seorang dari kelompok tujuh, yang tidak punya makanan kecuali hanya daun-daun kayu, sehingga bagian dalam mulut kami menjadi pecah-pecah dan luka." Ia juga pernah berkata, "Suatu hari aku memperoleh hadiah baju burdah dari Nabi SAW, dan baju itu kupotong jadi dua. Sepotong untuk dipakai Sa'ad bin Malik dan sepotong untukku sendiri…..!!" Begitulah cara Utbah mengajarkan pola hidup yang dipeganginya, semuanya disandarkan dan dikembalikan kepada Nabi SAW. Tentu, bagi pemeluk Islam belakangan yang tidak sempat hidup bersama Rasulullah SAW, dan tidak mengalami masa-masa sulit mempertahankan keimanan dan keislaman, hal-hal tersebut terasa mustahil, seperti dongeng saja dan bukan kenyataan. Bagaimanapun juga, suasana dan pengaruh magnetis yang dipancarkan dari sosok Nabi SAW bisa memotivasi seseorang berbuat sesuatu yang di luar nalar, seolah di bawah kendali kekuatan ghaib yang bernama keimanan.
Orang-orang tersebut terus mendorongnya untuk merubah pola hidupnya, dan seakan ingin menyadarkan kedudukannya sebagai seorang penguasa muslim. Keteguhan sikapnya dalam zuhud dan kesederhanan seolah-olah mencoreng ‘nama-baik’ Islam di antara penguasa lainnya seperti Persia dan Romawi. Tetapi dengan tegas Utbah berkata, "Aku berlindung kepada Allah dari sanjungan orang-orang terhadap diriku karena kemewahan duniawi, yang sesungguhnya nilainya sangat kecil di sisi Allah…!!" Ketika tampak sekali ekspresi wajah-wajah tidak sepakat dengan pendiriannya tersebut, ia berkata lagi, "Besok atau lusa, kalian akan menjumpai dan melihat amir (yang kalian inginkan itu), menggantikan diriku!" Pada suatu musim haji, ia menyerahkan pimpinan pemerintahan Bashrah kepada sahabatnya dan ia pergi ke Makkah untuk melaksanakan ibadah haji. Usai haji, ia pergi ke Madinah dan menghadap Khalifah Umar, dan mengajukan pengunduran dirinya dari jabatan wali negeri Bashrah.
Tetapi seperti bisa diduga, Umar menolak dengan tegas keinginannya tersebut, dengan ucapannya yang sangat terkenal, "Apakah kalian membai'at aku dan menaruh amanat khilafah di pundakku, kemudian kalian meninggalkan aku dan membiarkan aku memikulnya seorang diri? Tidak, demi Allah tidak kuizinkan kalian melakukan itu!!" Kalaulah tipikal amir atau wali negeri itu suka bermewah-mewahan dengan harta duniawiah, tidak perlu diminta, Umar akan segera memecatnya seperti terjadi pada Muawiyah ketika menjabat amir di Syam. Terpaksalah Utbah harus meninggalkan Madinah, kota Nabi SAW yang selalu menjadi kerinduannya, dan kembali ke Bashrah yang justru sangat ingin dihindarinya karena harus memegang jabatan wali negeri di sana. Tampak keresahan dan kegamangan melingkupi wajahnya. Sebelum menaiki tunggangannya, ia menghadap kiblat dan berdoa, "Ya Allah, janganlah aku Engkau kembalikan ke Bashrah, janganlah aku Engkau kembalikan kepada jabatan pemerintahan selama-lamanya….!!"
Ternyata Allah SWT mengabulkan permintaannya. Walaupun ia tidak mengingkari perintah khalifah Umar untuk kembali ke Bashrah, tetapi dalam perjalanan kembali tersebut, Allah berkenan memanggilnya ke haribaan-Nya, menghindarkan dirinya dari kegalauan dan keresahan jiwa karena memegang jabatan wali negeri. Sebagian riwayat menyebutkan ia terjatuh dari tunggangannya ketika belum jauh meninggalkan kota Madinah. Tampaknya ia tidak ingin dipisahkan lagi dari Rasulullah SAW terlalu jauh.