Dalam catatan sejarah diterangkan bahwa sejarah pertumbuhan dan perkembangan pesantren di Indonesia dimulai dari masuknya agama Islam ke Indonesia. Pondok pesantren yang dianggap paling tua adalah yang berada di daerah Aceh.
Menurut catatan lain diterangkan bahwa bangsa Indonesia telah mempunyai pendidikan sendiri pada waktu orang barat datang pada abad ke-16. Pendidikan itu dalam bentuk pesantren. Sistem pendidikan ini serupa bentuknya dengan sistem pendidikan pada zaman Hindu. Pada abad tersebut banyak bangsa Hindu memeluk agama Islam. Mungkin agama Islam mereka telah disesuaikan dengan keadaan dan adat istiadat dan mungkin pula dengan kebudayaan Hindu.
Pada sistem pendidikan tersebut murid datang kepada guru dan tinggal bersama-sama guru sambil bekerja membantu keluarga guru di rumah, sawah, atau ladangnya. Di luar kerja, murid itu mengikuti pelajaran yang diberikan oleh guru. Sistem pendidikan seperti ini pada zaman Hindu dinamakan sistem guru kula. Pendidikan dan pengajaran yang diberikan itu bukan di sekolah-sekolah seperti sekarang ini. Akan tetapi ditempatkan di pedesaan yang berlokasi di surau dan pendopo rumah. Surau menurut bahasa Minangkabau adalah tempat belajar, tempat sembahyang dan sekaligus tempat tinggal para pelajar.
Di pulau Jawa keadaanya berbeda. Di setiap desa ada langgar sebagai tempat sembayang dan tempat memberikan pelajaran agama yang mula-mula untuk mengaji Al Quran. Jika murid hendak melanjutkan pelajarannya untuk memperdalam agama, ia mencari pesantren yang terdekat atau yang terkenal. Di pesantren, tempat belajar biasanya berupa sebuah masjid atau langgar atau suatu gedung sekolah khusus terpisah dari tempat tinggal para santri dan guru (kyai). Adapun keluarga guru tinggal di gedung yang lain. Sedangkan tempat tinggal para santri disebut pondok. Seluruh komplek tempat belajar dan tempat tinggal kyai dan santri dinamakan pesantren atau pondok pesantren.
Hal ini berarti sistem pendidikan pondok pesantren hampir serupa dengan sistem pendidikan zaman Hindu. Semua komplek aktivitas belajar serta tempat tinggal para santri dan guru (kyai) disebut pondok pesantren. Jadi ringkasnya sistem pesantren atau pondok pesantren asalnya bukan dari tanah Arab tetapi dari tanah Hindu.
Tokoh yang berhasil mendidik ulama dan mengembangkan pondok pesantren adalah Sunan Ampel. Setelah diperkenankan menyiarkan agama Islam di Surabaya pada waktu Brawijaya V bertahta di Majapahit, Sunan Ampel mendirikan pesantren di Kembang Kuning, Surabaya. Pada waktu pertama kali didirikan hanya memiliki tiga orang santri yaitu Wiryo Suroyo, Abu Hurairah dan Kyai Bangkuning. Selanjutnya Sunan Ampel mendirikan sebuah pondok lagi di Denta Surabaya yang kemudian dikenal sebagai pondok Sunan Ampel. Para alumnus pondok pesantren itu kemudian mendirikan pesantren-pesantren baru di berbagai tempat, misalnya di Giri oleh Sunan Giri Gresik, di Tuban oleh Sunan Bonang, di Lamongan oleh Sunan Darajad, dan di Demak oleh Raden Patah.
Dari sanalah kemudian tumbuh beberapa pondok pesantren di mana-mana dengan ciri-ciri tertentu menurut situasi dan kondisi sosial budaya yang ada. Itulah sebabnya menurut Zamakhsarie Dhofier, dewasa ini keberadaan pondok pesantren mengalami perkembangan sedemikian rupa hingga komponen-komponen yang dimaksud semakin lama semakin bertambah dan dilengkapi. Dalam sejarah pertumbuhannya, pondok pesantren telah mengalami beberapa fase perkembangan, termasuk dibukanya pondok pesantren khusus putri dengan peraturan yang cukup ketat.
Meskipun memiliki ciri-ciri khas tertentu fungsi pondok pesantren adalah menyebarkan agama Islam secara utuh. Oleh karena itu sejak semula pertumbuhannya hingga dewasa ini, fungsi pondok pesantren adalah sebagai alat islamisasi, yang sekaligus berfungsi memadukan tiga unsur pendidikan dan pengajaran, yaitu: (1) Ibadah untuk menanamkan iman; (2) Tabligh untuk menyebarkan ilmu dan amal; (3) Muamalah untuk mewujudkan kegiatan kemasyarakatan dalam kehidupan sehari-hari.
Dengan demikian dapat dimengerti bahwa pondok pesantren yang lahir di Indonesia itu berasal dari tanah Hindu. Mula-mula sistem pendidikan dan pengajarannya adalah sistem non klasikal (sistem pesantren) dengan subjek didik khusus santri putra. Kemudian dalam pertumbuhan dan perkembangan berikutnya, dibuka pesantren putra-putri dengan peraturan yang cukup ketat. Akan tetapi hingga dewasa ini fungsi utamanya masih tetap yaitu sebagai lembaga pendidikan agama Islam.