Sebelum Muhammadiyah Cabang Surabaya didirikan, K.H. Ahmad Dahlan sudah sering melakukan tabligh ke daerah ini. Tabligh-tabligh itu dilaksanakan berupa pengajian yang diselenggarakan di Peneleh, Surabaya. Dalam pengajian-pengajian itulah Bung Karno muda dan Roeslan Abdul Gani muda, untuk pertama kalinya mendengarkan penjelasan tentang ajaran Islam dari K.H. Ahmad Dahlan.
Setiap melaksanakan tabligh di Surabaya, K.H. Ahmad Dahlan biasanya bermalam di penginapan. Namun, suatu malam ia didatangi seorang tamu yang memintanya agar setiap K.H. Ahmad Dahlan ke Surabaya bersedia untuk menginap di rumahnya. Tamu itu ialah Kiai Haji Mas Mansur. Mas Mansur selalu mengikuti pengajian yang diberikan oleh K.H. Ahmad Dahlan, dan ia sangat tertarik oleh isi kajian yang diberikannya, serta tertarik juga akan kesederhanaannya.
Mas Mansur juga banyak menghasilkan tulisan-tulisan yang berbobot. Pikiran-pikiran pembaharuannya dimuat di media massa. Majalah yang pertama kali diterbitkan bernama Suara Santri. Kata santri digunakan sebagai nama majalah, karena pada saat itu kata santri sangat digemari oleh masyarakat. Oleh karena itu, majalah Suara Santri mendapat sukses yang gemilang. Majalah Jinem merupakan majalah kedua yang pernah diterbitkan oleh Mas Mansur. Majalah ini terbit dua kali sebulan dengan menggunakan bahasa Jawa dengan huruf Arab (pegon). Kedua majalah tersebut merupakan sarana untuk menuangkan pikiran-pikirannya dan mengajak para pemuda melatih mengekspresikan pikirannya dalam bentuk tulisan. Melalui majalah itu, Mas Mansur mengajak kaum muslimin untuk meninggalkan kemusyrikan dan kekolotan. Selain itu, Mas Mansur pernah menjadi redaktur majalah Kawan Kita di Surabaya.
Tulisan-tulisan Mas Mansur pernah dimuat di majalah Siaran dan majalah Kentungan di Surabaya; Penganjur dan Islam Bergerak di Yogyakarta; Panji Islam dan Pedoman Masyarakat di Medan dan Adil di Solo. Di samping melalui majalah-majalah, Mas Mansur juga menuliskan ide dan gagasannya dalam bentuk buku, antara lain yaitu Hadis Nabawiyah; Syarat Syahnya Nikah; Risalah Tauhid dan Syirik; dan Adab al-Bahts wa al-Munadlarah.
Selain aktif dalam bidang tulis-menulis, dia juga aktif dalam organisasi, meskipun aktivitas organisasi menyita waktunya dalam dunia jurnalistik. Pada tahun 1921, Mas Mansur masuk organisasi Muhammadiyah. Aktivitas Mas Mansur di Muhammadiyah membawa angin segar dan memperkokoh keberadaan Muhammadiyah sebagai organisasi pembaharuan. Tangga-tangga yang dilalui Mas Mansur selalu dinaiki dengan mantap. Hal ini terlihat dari jenjang yang dilewatinya, yakni setelah Ketua Cabang Muhammadiyah Surabaya, kemudian menjadi Konsul Muhammadiyah Wilayah Jawa Timur. Puncak dari tangga tersebut adalah ketika Mas Mansur menjadi Ketua Pengurus Besar Muhammadiyah pada tahun 1937-1943. Mas Mansur dikukuhkan sebagai Ketua Pengurus Besar Muhammadiyah dalam Kongres Muhammadiyah ke-26 di Yogyakarta pada bulan Oktober 1937.
Setiap melaksanakan tabligh di Surabaya, K.H. Ahmad Dahlan biasanya bermalam di penginapan. Namun, suatu malam ia didatangi seorang tamu yang memintanya agar setiap K.H. Ahmad Dahlan ke Surabaya bersedia untuk menginap di rumahnya. Tamu itu ialah Kiai Haji Mas Mansur. Mas Mansur selalu mengikuti pengajian yang diberikan oleh K.H. Ahmad Dahlan, dan ia sangat tertarik oleh isi kajian yang diberikannya, serta tertarik juga akan kesederhanaannya.
Mas Mansur lahir pada hari Kamis tanggal 25 Juni 1896 di Surabaya. Ibunya bernama Raudhah, seorang wanita kaya yang berasal dari keluarga Pesantren Sidoresmo, Wonokromo, Surabaya. Ayahnya bernama K.H. Mas Ahmad Marzuqi, seorang pioneer Islam, ahli agama yang terkenal di Jawa Timur pada masanya. Dia berasal dari keturunan bangsawan Astatinggi Sumenep, Madura. Dia dikenal sebagai imam tetap dan khatib di Masjid Agung Ampel Surabaya, suatu jabatan terhormat pada saat itu.
Masa kecilnya dilalui dengan belajar agama pada ayahnya sendiri. Di samping itu, dia juga belajar di
Pesantren Sidoresmo dengan Kiai Muhammad Thaha sebagai gurunya. Pada tahun 1906, ketika Mas Mansur berusia sepuluh tahun, dia dikirim oleh ayahnya ke Pondok Pesantren Demangan, Bangkalan, Madura. Di sana, dia mengkaji Al-Qur‘an dan mendalami kitab Alfiyah ibn Malik kepada Kiai Khalil. Belum lama dia belajar di sana, kurang lebih dua tahun, Kiai Khalil meninggal dunia, sehingga Mas Mansur meninggalkan pesantren itu dan pulang ke Surabaya.
Sepulang dari Pesantren Demangan pada tahun 1908, oleh orang tuanya disarankan untuk menunaikan ibadah haji dan belajar di Makkah pada Kiai Mahfudz yang berasal dari Pondok Pesantren Termas, Jawa Tengah. Setelah kurang lebih empat tahun belajar di sana, situasi politik di Saudi memaksanya pindah ke Mesir. Penguasa Arab Saudi, Sultan Syarif Hussen, mengeluarkan instruksi bahwa orang asing harus meninggalkan Makkah supaya tidak terlibat sengketa itu. Pada mulanya ayah Mas Mansur tidak mengizinkannya ke Mesir, karena citra Mesir (Kairo) saat itu kurang baik di mata ayahnya, yaitu sebagai tempat bersenang-senang dan maksiat. Meskipun demikian, Mas Mansur tetap melaksanakan keinginannya tanpa izin orang tuanya. Kepahitan dan kesulitan hidup —karena tidak mendapatkan kiriman uang dari orang tuanya untuk biaya sekolah dan biaya hidup— harus dijalaninya. Oleh karena itu, dia sering berpuasa Senin dan Kamis dan mendapatkan uang dan makanan dari masjid-masjid. Keadaan ini berlangsung kurang lebih satu tahun, dan setelah itu orang tuanya kembali mengiriminya dana untuk belajar di Mesir.
Di Mesir, dia belajar di Perguruan Tinggi Al-Azhar pada Syaikh Ahmad Maskawih. Suasana Mesir pada saat itu sedang gencar-gencarnya membangun dan menumbuhkan semangat kebangkitan nasionalisme dan pembaharuan. Banyak tokoh memupuk semangat rakyat Mesir, baik melalui media massa maupun pidato. Mas Mansur juga memanfaatkan kondisi ini dengan membaca tulisan-tulisan yang tersebar di media massa dan mendengarkan pidato-pidatonya. Ia berada di Mesir selama kurang lebih dua tahun. Sebelum pulang ke tanah air, terlebih dulu dia singgah kembali ke Makkah selama satu tahun, dan pada tahun 1915 dia pulang ke Indonesia.
Sepulang dari belajar di Mesir dan Makkah, ia menikah dengan puteri Haji Arif yaitu Siti Zakiyah yang tinggalnya tidak jauh dari rumahnya. Dari hasil pernikahannya itu, mereka dikaruniai enam orang anak, yaitu Nafiah, Ainurrafiq, Aminah, Muhammad Nuh, Ibrahim dan Luk-luk. Disamping menikah dengan Siti Zakiyah, dia juga menikah dengan Halimah. Dia menjalani hidup dengan istri kedua ini tidak berlangsung lama, hanya dua tahun, karena pada tahun 1939 Halimah meninggal dunia.
Langkah awal Mas Mansur sepulang dari belajar di luar negeri ialah bergabung dalam Syarikat Islam. Peristiwa yang dia saksikan dan alami baik di Makkah, yaitu terjadinya pergolakan politik, maupun di Mesir, yaitu munculnya gerakan nasionalisme dan pembaharuan merupakan modal baginya untuk mengembangkan sayapnya dalam suatu organisasi. Pada saat itu, SI dipimpin oleh HOS. Cokroaminoto, dan terkenal sebagai organisasi yang radikal dan revolusioner. Ia dipercaya sebagai Penasehat Pengurus Besar SI.
Selain itu, Mas Mansur juga membentuk majelis diskusi bersama Abdul Wahab Hasbullah yang diberi nama Taswir al-Afkar(Cakrawala Pemikiran). Terbentuknya majelis ini diilhami oleh keadaan masyarakat Surabaya yang diselimuti kabut kekolotan. Masyarakat sulit diajak maju, bahkan mereka sulit menerima pemikiran baru yang berbeda dengan tradisi yang mereka pegang. Taswir al-Afkar merupakan tempat berkumpulnya para ulama Surabaya yang sebelumnya mereka mengadakan kegiatan pengajian di rumah atau di surau masing-masing. Masalah-masalah yang dibahas berkaitan dengan masalah-masalah yang bersifat keagamaan murni sampai masalah politik perjuangan melawan penjajah.
Aktivitas Taswir al-Afkar itu mengilhami lahirnya berbagai aktivitas lain di berbagai kota, seperti Nahdhah al-Wathan(Kebangkitan Tanah Air) yang menitikberatkan pada pendidikan. Sebagai kelanjutan Nahdhah al-Wathan, Mas Mansur dan Abdul Wahab Hasbullah mendirikan madrasah yang bernama Khitab al-Wathan (Mimbar Tanah Air), kemudian madrasahAhl al-Wathan (Keluarga Tanah Air) di Wonokromo, Far’u al-Wathan (Cabang Tanah Air) di Gresik dan Hidayah al-Wathan(Petunjuk Tanah Air) di Jombang. Kalau diamati, dari nama yang dimunculkan, yaitu wathan yang berarti tanah air, maka dapat diketahui bahwa kecintaan mereka terhadap tanah air sangat besar. Mereka berusaha mencerdaskan bangsa Indonesia dan berusaha mengajak mereka untuk membebaskan tanah air dari belenggu penjajah. Pemerintahan sendiri tanpa campur tangan bangsa lain, itulah yang mereka harapkan.Taswir al-Afkar merupakan wadah yang diskusinya, mau tidak mau permasalahan yang mereka diskusikan, merembet pada masalah khilafiyah, ijtihad dan madzhab. Terjadinya perbedaan pendapat antara Mas Mansur dengan Abdul Wahab Hasbullah mengenai masalah-masalah tersebut yang menyebabkan Mas Mansur keluar dari Taswir al-Afkar.
Mas Mansur juga banyak menghasilkan tulisan-tulisan yang berbobot. Pikiran-pikiran pembaharuannya dimuat di media massa. Majalah yang pertama kali diterbitkan bernama Suara Santri. Kata santri digunakan sebagai nama majalah, karena pada saat itu kata santri sangat digemari oleh masyarakat. Oleh karena itu, majalah Suara Santri mendapat sukses yang gemilang. Majalah Jinem merupakan majalah kedua yang pernah diterbitkan oleh Mas Mansur. Majalah ini terbit dua kali sebulan dengan menggunakan bahasa Jawa dengan huruf Arab (pegon). Kedua majalah tersebut merupakan sarana untuk menuangkan pikiran-pikirannya dan mengajak para pemuda melatih mengekspresikan pikirannya dalam bentuk tulisan. Melalui majalah itu, Mas Mansur mengajak kaum muslimin untuk meninggalkan kemusyrikan dan kekolotan. Selain itu, Mas Mansur pernah menjadi redaktur majalah Kawan Kita di Surabaya.
Tulisan-tulisan Mas Mansur pernah dimuat di majalah Siaran dan majalah Kentungan di Surabaya; Penganjur dan Islam Bergerak di Yogyakarta; Panji Islam dan Pedoman Masyarakat di Medan dan Adil di Solo. Di samping melalui majalah-majalah, Mas Mansur juga menuliskan ide dan gagasannya dalam bentuk buku, antara lain yaitu Hadis Nabawiyah; Syarat Syahnya Nikah; Risalah Tauhid dan Syirik; dan Adab al-Bahts wa al-Munadlarah.
Selain aktif dalam bidang tulis-menulis, dia juga aktif dalam organisasi, meskipun aktivitas organisasi menyita waktunya dalam dunia jurnalistik. Pada tahun 1921, Mas Mansur masuk organisasi Muhammadiyah. Aktivitas Mas Mansur di Muhammadiyah membawa angin segar dan memperkokoh keberadaan Muhammadiyah sebagai organisasi pembaharuan. Tangga-tangga yang dilalui Mas Mansur selalu dinaiki dengan mantap. Hal ini terlihat dari jenjang yang dilewatinya, yakni setelah Ketua Cabang Muhammadiyah Surabaya, kemudian menjadi Konsul Muhammadiyah Wilayah Jawa Timur. Puncak dari tangga tersebut adalah ketika Mas Mansur menjadi Ketua Pengurus Besar Muhammadiyah pada tahun 1937-1943. Mas Mansur dikukuhkan sebagai Ketua Pengurus Besar Muhammadiyah dalam Kongres Muhammadiyah ke-26 di Yogyakarta pada bulan Oktober 1937.
Banyak hal pantas dicatat sebelum Mas Mansur terpilih sebagai Ketua Pengurus Besar Muhammadiyah. Suasana yang berkembang saat itu ialah ketidakpuasan angkatan muda Muhammadiyah terhadap kebijakan Pengurus Besar Muhammadiyah yang terlalu mengutamakan pendidikan, hanya mengurusi persoalan sekolah-sekolah Muhammadiyah, tetapi melupakan bidang tabligh (penyiaran agama Islam). Angkatan muda Muham-madiyah berpendapat bahwa Pengurus Besar Muhammadiyah hanya dikuasai oleh tiga tokoh tua, yaitu K.H. Hisyam (Ketua Pengurus Besar), K.H. Mukhtar (Wakil Ketua), dan K.H. Syuja’ sebagai Ketua Bahagian PKO (Penolong Kesengsaraan Oemoem).
Situasi bertambah kritis ketika dalam Kongres Muhammadiyah ke-26 di Yogyakarta pada tahun 1937, Ranting-ranting Muhammadiyah lebih banyak memberikan suara kepada tiga tokoh tua tersebut. Kelompok muda di lingkungan Muhammadiyah semakin kecewa. Namun setelah terjadi dialog, ketiga tokoh tersebut ikhlas mengundurkan diri.
Setelah mereka mundur lewat musyawarah, Ki Bagus Hadikusumo diusulkan untuk menjadi Ketua Pengurus Besar Muhammadiyah, namun ia yang menolak. Kiai Hadjid juga menolak ketika ia dihubungi untuk menjadi Ketua Pengurus Besar Muhammadiyah. Perhatian pun diarahkan kepada Mas Mansur (Konsul Muhammadiyah Daerah Surabaya). Pada mulanya Mas Mansur menolak, tetapi setelah melalui dialog panjang ia bersedia menjadi Ketua Pengurus Besar Muhammadiyah.
Pergeseran kepemimpinan dari kelompok tua kepada kelompok muda dalam Pengurus Besar Muhammadiyah tersebut menunjukkan bahwa Muhammadiyah saat itu sangat akomodatif dan demokratis terhadap aspirasi kalangan muda yang progresif demi kemajuan Muhammadiyah, bukan demi kepentingan perseorangan. Bahkan Pengurus Besar Muhammadiyah pada periode Mas Mansur juga banyak didominasi oleh angkatan muda Muhammadiyah yang cerdas, tangkas, dan progresif.
Sebagai Ketua Pengurus Besar Muhammadiyah, Mas Mansur bertindak disiplin dalam berorganisasi. Sidang-sidang Pengurus Besar Muhammadiyah selalu diadakan tepat pada waktunya. Demikian juga dengan para tamu Muhammadiyah dari daerah-daerah. Berbeda dari Pengurus Besar Muhammadiyah sebelumnya yang seringkali menyelesaikan persoalan Muhammadiyah di rumahnya masing-masing, Mas Mansur selalu menekankan bahwa kebiasaan seperti itu tidak baik bagi disiplin organisasi, karena Pengurus Besar Muhammadiyah telah memiliki kantor sendiri beserta segenap karyawan dan perlengkapannya. Namun ia tetap bersedia untuk menerima silaturrahmi para tamu Muhammadiyah dari daerah-daerah itu di rumahnya untuk urusan yang tidak berkaitan dengan Muhammadiyah.
Kepemimpinannya ditandai dengan kebijaksanaan baru yang disebut Langkah Muhammadiyah 1938-1949. Ada duabelas langkah yang dicanangkan. Mas Mansur juga banyak membuat gebrakan dalam hukum Islam dan politik ummat Islam saat itu. Yang perlu juga dicatat, Mas Mansur tidak ragu mengambil kesimpulan tentang hukum bank, yakni haram, tetapi diperkenankan, dimudahkan, dan dimaafkan, selama keadaan memaksa untuk itu. Ia berpendapat bahwa secara hukum bunga bank adalah haram, tetapi ia melihat bahwa perekonomian ummat Islam dalam kondisi yang sangat memprihatinkan, sedangkan ekonomi perbankan saat itu sudah menjadi suatu sistem yang kuat di masyarakat. Oleh karena itu, jika ummat Islam tidak memanfaatkan dunia perbankan untuk sementara waktu, maka kondisi perekonomian ummat Islam akan semakin turun secara drastis. Dengan demikian, dalam kondisi keterpaksaan tersebut dibolehkan untuk memanfaatkan perbankan guna memperbaiki kondisi perekonomian ummat Islam.
Dalam dunia politik ummat Islam saat itu, Mas Mansur banyak melakukan gebrakan. Sebelum menjadi Ketua PB Muhammadiyah, Mas Mansur sebenarnya sudah banyak terlibat dalam berbagai aktivitas politik ummat Islam. Setelah menjadi Ketua PB Muhammadiyah, ia mulai melakukan gebrakan politik yang cukup berhasil bagi ummat Islam dengan memprakarsai berdirinya Majelis Islam A’la Indonesia (MIAI) bersama K.H. Ahmad Dahlan dan K.H. Wahab Hasbullah yang keduanya dari Nahdlatul Ulama (NU). Ia juga memprakarsai berdirinya Partai Islam Indonesia (PII) bersama Dr. Sukiman Wiryasanjaya sebagai perimbangan atas sikap non-kooperatif dari Partai Syarikat Islam Indonesia (PSII). Demikian juga ketika Jepang berkuasa di Indonesia, Mas Mansur termasuk salah seorang dari empat orang tokoh nasional yang sangat diperhitungkan, yang terkenal dengan sebutan empat serangkai, yaitu Soekarno, Mohammad Hatta, Ki Hajar Dewantara, dan Mas Mansur.
Keterlibatannya dalam empat serangkai mengharuskannya pindah ke Jakarta, sehingga jabatan ketua PB Muhammadiyah diserahkan kepada Ki Bagus Hadikusumo. Namun, kekejaman pemerintah Jepang yang luar biasa terhadap rakyat Indonesia menyebabkannya tidak tahan dalam aktivitas empat serangkai tersebut, sehingga ia memutuskan untuk kembali ke Surabaya, dan kedudukannya dalam empat serangkai digantikan oleh Ki Bagus Hadikusumo.
Ketika pecah perang kemerdekaan, Mas Mansur belum sembuh benar dari sakit. Namun, ia tetap ikut berjuang memberikan semangat kepada barisan pemuda untuk melawan kedatangan tentara Belanda (NICA). Akhirnya, ia ditangkap oleh tentara NICA dan dipenjarakan di Surabaya. Di tengah pecahnya perang kemerdekaan yang berkecamuk itulah, Mas Mansur meninggal di tahanan pada tanggal 25 April 1946. Jenazahnya dimakamkan di Gipo Surabaya.Atas jasa-jasanya, oleh Pemerintah Republik Indonesia ia diangkat sebagai Pahlawan Nasional bersama H. Fakhruddin.