Kolej Vokasional Temerloh yang dahulunya dikenali sebagai Sekolah Menengah Vokasional/Teknik Temerloh telah dibina pada akhir tahun 1975, di atas sebuah tapak seluas 10 hektar dimana kawasan yang asalnya berbukit dan dipenuhi oleh hutan. Sekolah ini terletak di sebelah kiri jalan menuju ke Jerantut, jaraknya dari bandar Temerloh ialah 13 kilometer.

 

Kos keseluruhan sebanyak RM 3,608,421.19 di bawah Projek Rancangan Malaysia Kedua. Pada 03 Januari 1976 sekolah ini dibuka untuk kumpulan pertama pelajar-pelajar dari sekitar negeri Pahang Darul Makmur seramai 244 orang . Dari keadaan serba kekurangan ia berkembang serta mengukuhkan kedudukan dari setahun ke setahun.

 

Tanggal 16.06.1982, merupakan hari bersejarah bagi sekolah ini apabila ke bawah Duli Yang Maha Mulia Pemangku Raja Pahang berkenan merasmikan sekolah ini. 

​

Pembukaan rasmi oleh ke bawah Duli Yang Maha Mulia Pemangku Raja Pahang, Tengku Mahkota Tengku Abdullah Ibni Sultan Haji Ahmad Shah Al-Mustain Billah, D.K, S.I.M.P.K (Terengganu) pada 16.6.1982 bersamaan 24 Syaaban 1402.

​

Perubahan struktur sekolah seperti bangunan-bangunan telah berubah .

Pertambahan kursus-kursus iaitu kursus Seni Bina, Seni Reka Tanda dan Lukisan Kejuruteraan awam pada tahun 1993.

​

Pada tahun 2013, institusi pendidikan ini telah dinaik taraf daripada Sekolah Menengah Vokasional kepada kolej vokasional yang menawarkan Sijil Vokasional Malaysia dan juga Diploma Vokasional Malaysia. Tempoh pengajian untuk SVM adalah 2 tahun dan DVM juga adalah 2 tahun. Sebelum layak bergelar graduan Diploma Vokasional, para pelajar perlu menjalani On Job Training selama 6 bulan di pusat latihan terpilih.