Sejak kecil, Fahmi sudah merasakan kerasnya masa perjuangan, termasuk saat hampir terpisah dari keluarganya dalam peristiwa Agresi Militer II. Pengalaman itu membentuk karakter tangguh sekaligus pengabdiannya di kemudian hari.
Perjalanan intelektualnya dimulai dari pesantren hingga masuk Fakultas Kedokteran Universitas Indonesia. Di masa mahasiswa, ia aktif di Pergerakan Mahasiswa Islam Indonesia (PMII) dan menjadi Ketua PC PMII pertama di Jakarta.
Tak hanya aktif berorganisasi, Fahmi juga dikenal sebagai dokter dengan jiwa sosial tinggi. Ia kerap menggratiskan biaya pengobatan bagi kader PMII, bahkan membantu biaya obat dan kegiatan mereka.
Fahmi menjabat sebagai Ketua PBNU selama tiga periode (1984–1999) di bawah kepemimpinan Gus Dur. Ia ikut terlibat dalam momentum penting kembalinya NU ke Khittah 1926, yang menandai transformasi NU dari partai politik menjadi organisasi sosial-keagamaan.
