Sekolah Menengah Agama Al-Falah diasaskan dengan kerjasama dari orang-orang kampung. Dari sini terbentuknya sebuah jawatankuasa untuk mendirikan sekolah ini. Derma-derma dikutip daripada orang ramai bertujuan untuk mendirikan bangunan sekolah. Jawatankuasa ini diketuai oleh Dato' Khalid bin Haji Abdul Rahman dan beberapa ahli jawatankuasa, antaranya ialah Sheikh Omar, Pak Su Kar, Haji Wan Yahya dan lain-lain. 

Melalui sepakat yang padu, jawatankuasa bersetuju membeli sebuah rumah dari Kampung Patoh, Hulu Kemaman untuk dijadikan sekolah. Setelah rumah itu dialih, ia dibawa ke tapak sekolah melalui Sungai Kemaman. Perjalanan melalui sungai ini mengambil masa selama satu hari. Tapak asal sekolah ini merupakan kawasan hutan paya dan semak samun.

 Setelah selesai didirikan semula rumah ini, sekolah ini diberi nama "Madrasah Al-Falah". Pada awal penubuhan sekolah ini, hanya terdapat seorang sahaja guru iaitu Ustazah Hajjah Sepiah binti Abas dari Sumatera(Kini berada di Kuala Terengganu). Sambutan pada peringkat awal adalah sangat menggalakkan dari kaum ibu menghantar anak-anak mereka ke sekolah ini. Pada tahun pertama, lebih kurang enam puluh orang murid yang kesemuanya perempuan. Bahasa pengantar pada masa itu ialah Bahasa Arab. 

Guru yang pertama merupakan seorang guru yan berpengalaman kerana beliau pernah bertugas di Pasir Mas, Kelantan. Setelah sebelas tahun berada di Kelantan, beliau berhajat untuk pulang ke Sumatera tetapi belum sempat berbuat demikian, beliau bertemu dengan Dr. Burhanuddin Helmi. Dr. Burhanuddin Helmi telah memujuknya supaya tinggal di Terengganu dan mengajar di sini. Beliau bersetuju untuk mengajar

 dan telah ditempatkan di Madrasah Al-Falah. 
               Melalui kesedaran yang mendalam di kalangan penduduk terhadap agama, maka ramailah anak-anak mereka dihantar ke sekolah ini. Setelah beberapa tahun sekolah ini ditubuhkan barulah pelajar lelaki diambil belajar di sini. Ramai di antara bekas pelajar telah berjaya dalam pelajaran dan bertugas dengan pemerintah. 
               Perkembangan sekolah ini terus maju ke hadapan dan pada 8 Februari 1944 sekolah ini dibuka dengan rasminya. 

Pada hari ini, SMAAK terus menjadi pilihan utama masyarakat Daerah Kemaman. Setiap tahun beratus- ratus permohonan untuk kemasukan ke tingkatan satu diterima. Pada tahun ini, SMAAK mempunyai kira- kira 900 orang pelajar yang terdiri daripada 33 buah kelas dari tingkatan satu hingga ke tingkatan enam. Terdiri daripada 8 blok yang memuatkan bilik darjah,

Sekolah Menengah Agama Al-Falah sehingga September 2000, terdapat seramai 894 orang pelajar dan 66 orang guru. Berikut adalah statistik pelajar dan kelas mengikut tingkatan sehingga bulan September 2000.