Dengan penuh pertimbangan, akhirnya Mbah Munawwir pun setuju dengan saran tersebut. Ia berhijrah dari Kauman menuju Krapyak. Di sana, ia membeli sebidang tanah di sebelah selatan Keraton Yogyakarta, milik seorang penjaga gedung. Dari tanah inilah, Mbah Munawwir mulai merintis pondok yang diberi nama Pesantren Krapyak Yogyakarta di akhir tahun 1909 M. Kemudian pesantren tersebut mulai ditempati para santri pada tahun 1910 M. (LPMQ, Para Penjaga Al-Qur’an, hal. 25).
Pendidikan dan pengajaran pada masa Mbah Munawwir tetap menekankan pada bidang Alquran, sesuai dengan keahliannya. Meskipun, tetap dilakukan pengajaran lainnya seperti kitab kuning, fikih, tafsir, hadis, dan lain-lain, tapi hanya sebagai pelengkap saja.
Metode pendidikan dan pengajaran Alquran pada masa itu langsung diasuh oleh Mbah Munawwir. Materi yang disampaikan kepada santri ada dua jenis; pertama, santri yang mengaji Alquran dengan cara membaca mushaf, disebut bin-nadzar; kedua, santri yang mengaji dengan cara menghafalkan mushaf, disebut bil-gaib (LPMQ, Para Penjaga Al-Qur’an, hal. 29).
Dalam pengajarannya, Mbah Munawwir memakai metode musy?fahah, yaitu santri membaca Alquran satu persatu di hadapannya. Jika terjadi kesalahan dalam membaca, ia langsung membenarkannya, kemudian santri langsung mengikuti. Jadi, antara keduanya saling menyaksikan secara langsung. Selain itu, Mbah Munawwir sering kali menyuruh santri senior untuk membenarkan bacaan santri baru dengan cara minta petunjuk kepada temannya yang lebih pandai di luar majelis. Hal ini dapat membawa manfaat bagi santri agar lebih cepat dan lancar di dalam belajar membaca Alquran.