Sekolah ini ditubuhkan pada 1 April 1925 dengan nama Sekolah Melayu Kemahang.Lokasi asal Sekolah Melayu Kemahang bertempat di Tanjong Peradong. Pengasas sekolah ini ialah Tuan Haji Ab.Rahman bin Ali bersama-sama dengan Tuan Haji Selong bin Bilal Sah dan Tuan Haji Muhamad bin Md.Saman. Mereka telah menulis surat kepada Ketua Pegawai Pelajaran Pahang memohon didirikan sebuah sekolah di Kampung Kemahang dengan alasan murid-murid terpaksa berulang jauh ke Sekolah Melayu Tanjung Besar. Pihak Pegawai Pelajaran Pahang bersedia menghantar seorang guru tetapi bangunan sekolah perlu disediakan oleh penduduk kampung.
Semasa pendudukan Jepun di Malaya, Sekolah Melayu pada ketika itu tidak mempunyai peraturan tertentu. Guru Besar ketika itu ialah Encik Abu Bakar bin Ab Ghani. Pada bulan Oktober 1942 sekolah ini dibuka semula, murid-muridnya belajar Bahasa Jepun selama lebih kurang 3 tahun sehinggalah Jepun menyerah kalah pada tahun 1957.
Sekolah Melayu Kemahang ditukar namanya kepada Sekolah Umum Kemahang mulai 1.1.1957 dan mulai 1.1.1959 Sekolah Umum Kemahang sekali lagi ditukar nama kepada Sekolah Kebangsaan Kemahang sehinggalah diguna pakai sekarang.
