Sejak tahun 1919 cikal bakal pondok pesantren
al – Arifin telah dirintis oleh KH.Ahmad bin KH. Kohar dalam bentuk Madrasah Diniyah dengan nama
Miftahul Ulum. Madrasah pada waktu itu merupakan tempat pengajian para remaja
yang berasal dari daerah sekitar. Setelah berjalan selama delapan tahun, jumlah
santri semakin banyak dan diantaranya berdatangan dari daerah jauh. Karena santri memerlukan tempat
domisili, maka didirikanlah bangunan pesantren sederhana tidak permanen yang
terbuat dari bambu dan kayu. Pada saat itu pesantren ini bukan hanya tempat
belajar mengajar santri, tetapi sekaligus sebagai basis perjuangan melawan
penjajah baik Belanda maupun Jepang. Para tokoh masyarakat sering mengadakan rapat di pesantren ini yang
dipimpin langsung oleh KH. Ahmad. Karenanya daerah di mana pesantren ini
berada, disebut Serambi Mekkah yang
mengandung makna daerah basis agama.
KH. Ahmad wafat tahun 1940. Semenjak itu
pengelolaan pesantren dilakukan bersama-sama oleh putra-putra Kiyai yang sudah
bermukim di masyarakat, yakni KH. Misbah, KH. Zaenal Arifin dan K. Saaduddin. Semasa pengelolaan
pesantren di bawah putra-putra kiyai itu yaitu antara tahun 1940 sampai 1964
telah dibangun kembali bangunan yang labih luas namun sederhaana dan tidak
permanen. Tepat pada tahun 1965, putra-putra kiyai dibunuh secara kejam oleh partai komunis
indonesia (PKI). Kejadian tersebut mengakibatkan vakumnyaa pesantren selama
lebih dari dua tahun. Namun alhamdulillah pada pertengahan tahun 1967, putra
bungsu kiyai (KH. Hasan Maehi) pulang dari menuntut ilmunya di berbagai
pesantren dan selanjutnya beliaulah yang melanjutkan kembali aktivitas
kepesantrenan.
Pada akhir tahun 1967 didirikanlah bangunan
pesantren dua lantai dengan semi permanen, lantai dasar dibangun dari tembok
sedangkan lantai atas dari bambu dan kayu. Setelah berdirinya bangunan ini yang
selesai tahun 1970, pendidikan kepesantrenan terus berkembang dan para santri
pun berdatangan dari berbagai daerah
Jawa Barat dan Jawa Tengah. Kini alumni pesantren telah berjumlah ribuan orang
yang tersebar di berbagai daerah dengan profesi yang beragam terutama banyak
yang telah menjadi kiyai dan guru agama.
Sejak tahun 1990 pesantren mengalami
kemunduran jumlah santri semakin berkurang dan itu pun hanya berasal dari
daerah sekitar. Hal ini disebabkan oleh kondisi bangunan yang sudah tidak layak
pakai, saat itu lantai atas sudah tidak bisa digunakan karena sudah sedemikian
lapuk. Akhirnya pada tahun 1995 seluruh bangunan pesantren dipugar dan dibangun
kembali dengaan bangunan permanen dua lantai. Tahun 2000 pembangunan selesai
tediri dari kobong santri; ruangan belajar dan sekretariat, kegiatan
kepesantrenan kembali berjalan normal dan pada 2008 pengasuh pesantren al
maghfurlah KH. Hasan Maehi wafat. Sejak itu sampai sekarang kegiatan pesantren
dikelola oleh para putra almarhum. Dari tahun ketahun pesantren mengalami perkembangan yang
signifikan, mulai dari sarana prasarana sampai jumlah santri yang semakin
bertambah.
Para santri selain dari lingkungan
pesantren, juga didominasi oleh siswa/i dan mahasiswa/i yang menuntut ilmu di
berbagi lembaga pendidikan formal yang berada di sekitar Ciamis, yaitu SMA N 2
Ciamis, MA N 2 Ciamis, SMKN 1 Ciamis,
STIKes Muhammadiyah Ciamis dan Universitas Galuh Ciamis.