Nama lengkapnya adalah Syekh Haji Muhammad Waly Al-Khalidi bin Haji Muhammad Salim. Dilahirkan di Gampong (Desa) Blang Poroh kecamatan Labuhan Haji kabupaten Aceh Selatan. Beliau lahir pada tahun 1917 dan wafat pada tahun 1961 M. Muda Waly berasal dari keluarga yang taat beragama, ayahnya bernama Haji Muhammad Salim berasal dari Midang (Sumatra Barat) dan ibunya bernama Jamadat berasal dari keturunan bangsawan di daerah Labuhan Haji.
Semasa kecil Muhammad Waly, pendidikan agama diterimanya dari asuhan dan bimbingan langsung ayah kandungnya. Kemudian dimasukkan pada pasantren Tgk. Lampisang di gampong Lampisang Labuhan Haji Aceh Selatan yang tidak terlalu jauh dari desa kelahirannya. Setelah empat tahun mendapat pendidikan di pasantren ini, beliau berangkat ke Blang Pidie (dahulu Blang Pidie termasuk dalam kabupaten Aceh Selatan, sekarang sudah masuk dalam daerah kabupaten Aceh Barat Daya). Di Blang Pidie beliau belajar di pasantren Bustanul Huda di bawah pimpinan Syekh Mahmud.
Setelah menimba ilmu di pasantren Bustanul Huda, beliau bersangkat menuju Banda Aceh (Kuta Raja) dan singgah di pasantren Tgk. Haji Krueng Kalee. Di pasantren ini beliau belajar dan tinggal satu hari saja. Dari Pasantren Krueng Kalee beliau menuju Indrapuri menjumpai seorang ulama yang cukup masyur zaman itu, yaitu Tgk. Hasballah Indapuri. Di Indrapuri Muhammad Waly hanya belajar ilmu Qiraat, disamping belajar ilmu-ilmu al-Qur’an lainnya. Di Indrapuri disamping sebagai murid, beliau juga diminta oleh Tgk. Hasballah untuk mengajar santri.
Tiga bulan lamanya beliau juga belajar dengan Tgk. Hasballah Indrapuri, seterusnya beliau melanjutkan perjalanannya menuju Normal Islam di Padang, Sumatra Barat. Normal Islam saat itu cukup termasyhur dan muridnya datang dari berbagai penjuru tanah air di bawah pimpinan Mahmud Yunus. Namun pada Normal Islam beliau hanya belajar tiga bulan saja, karena menurut pandangannya sekolah itu lebih banyak muatan ilmu umum, sementara beliau datang ke sana hanya untuk bercita-cita mendalami ilmu-ilmu syari’at dan lainnya yang sifatnya pendalaman pengetahuan agama Islam.
Setelah keluar dari Normal Islam, Muda Waly berkenalan dengan seorang ulama terkenal bermazhab Syafi'i pembela paham Ahlussunah wal Jama’ah, bernama Syekh Khatib Ali. Syekh Khatib ini pemimpin pengajian di Parak Gadang dan melihat ilmu yang dimiliki Muda Waly, Khatib Ali memberikan kesempatan untuk memajukan pengajian yang dipimpinnya itu. Dari hubungan dengan syekh ini akhirnya Muda Waly dinikahkan dengan seorang gadis, cucu dari Syekh Khatib Ali bernama Rasimah binti Yahya. Saat itu usia Muda Waly masih sekitar dua puluh tahun. Karena kedalaman ilmunya dan aktif ceramah diberbagai tempat di kota ini, maka beliau pun mendapat panggilan Tgk. Muda Waly.
Selama tiga tahun di Padang, Muda Waly selalu saja sibuk dengan berbagai kegiatan, ceramah, memberi pengajian dan diskusi. Ia memperdalam pengetahuan syari’at Allah dengan ulama-ulama terkenal melalui diskusi. Dari aktivitasnya itu beliau banyak bertemu dengan ulama di daerah ini. Karena Muda Waly dikenal dengan orang yang memeliki ilmu pengetahuan yang cukup dalam beliau sering mendapat undangan untuk menyampaikan ceramah.
Pada masa inilah Muda Waly berkenalan dengan seorang ulama karismatik dan cukup terkenal, Syekh Jamil Jaho di Padang Panjang. Ia bertukar pikiran dengan syekh ini. Karena kepintaran dan kedalaman ilmu Muda Waly, syekh ini memberi perhatian khusus kepadanya. Dari hubungan ini, Muda Waly dinikahkan dengan putri kesayangannya bernama Rabi’ah binti Jamil. Kemudian mereka berangkat ke tanah suci, Makkah untuk melaksanakan ibadah haji.
Selama berada di tanah suci, Muda Waly selain melaksanakan ibadah, juga menggunakan kesempatan memperdalam ilmu pengetahuannya. Pada saat inilah sambil belajar, beliau berkenalan dengan ulama besar dan terkenal, yaitu Syekh Ali al-Malik dan Syekh Yasin al-Padani. Manakala berziarah ke makam Nabi Muhammad SAW di Madinah, Muda Waly sempat beramah tamah dengan ulama-ulama Syafi'iyah dari Mesir. Dari ramah tamah itu Muda Waly mendapat informasi tentang perkembangan dan kemajuan pendidikan di sana. Muda Waly sangat tertarik dan sangat berkeinginan untuk berangkat guna memperdalam ilmu ke Mesir. Tetapi hasratnya itu tidak dapat terlaksana, karena ia sendiri membawa keluarga.
Dalam masa tiga bulan di tanah suci hampir tidak ada peluang untuk aktifitas belajar. Baik di Mekkah maupun di Madinah banyak ilmu yang ia peroleh dan banyak pengetahuan yang didalami. Pada akhirnya dia pun pulang kembali ke Padang, bertemu dengan anak dan keluarga. Pada masa itu ia sudah mempunyai putra, Muhibbudin Waly dan seorang putri Halimah Waly. Tepatnya pada tahun 1939 Muda Waly kembali menuju kampung kelahirannya Labuhan Haji di Aceh Selatan. Di kampung halamannya itu dengan bekal ilmu yang sudah cukup banyak, ia mendirikan lembaga pendidikan yang diberi nama pasantren Darussalam.
Selain memimpin Pasanten Darussalam di Labuhan Haji Aceh Selatan, pada sekitar tahun 1940 beliau mendirikan organisasi Persatuan Tarbiayah Islamiyah (PERTI) di Daerah Istimewa Aceh (sekarang Nanggroe Aceh Darussalam) yaitu sebagai cabang dari organisasi yang sudah berdiri di Bukit Tinggi Sumatera Barat. Selain beliau mendirikan pasantren Darussalam dan Persatuan Tarbiyah Islamiyah (PERTI), beliau juga bertindak sebagai pengembang tarikat Naqsyabandiyah. Untuk daerah Nanggroe Aceh Darussalam, beliau bertindak sebagai saidul mursyid dalam tarikat ini dan posisi ini akhirnya diwariskan kepada anak sulungnya Prof. Dr. H. Muhibbudin Waly. Muhibbudin Waly bersama adiknya Drs. K.H. Djamaluddin Waly (juga mursyid) mendirikan Jami’atul Waliyah, yang sekarang pengurus pusatnya berkedudukan di Banda Aceh. Sementara anaknya H. Amran Waly mendirikan Lembaga Tauhid Tashawuf, yang juga pengembangan dari ajaran tarikat Naqsyabandiyah. Pengurus pusatnya juga berkedudukan di Banda Aceh.
Banyak karya yang telah dibuat dan hingga sekarang karyanya itu masih dapat dilihat. Akhirnya pada tahun 1961 dalam usia 43 tahun, beliau dipanggil oleh Allah SWT. Beliau meninggal dunia di desa kelahirannya dan dimakamkan pada komplek pasantren Darussalam di Gampong Blang Poroh Kecamatan Labuhan Haji Aceh Selatan. (Penulis Damanhuri Basyir, Alumni Pasantren Darul Hasanah Syekh Abdurrauf Singkil, Aceh Singkil).