Pada 1861, unit sukarela tentera darat negeri-negeri Selat telah ditubuhkan di Pulau Pinang dengan nama Penang Volunteers. Unit sama juga telah ditubuhkan di Singapura. Pada 1902, Negeri-negeri Melayu Bersekutu (FMS) yang terdiri daripada Perak, Selangor, Negeri Sembilan dan Pahang telah mula menubuhkan unit sukarelanya sendiri yang dikenali sebagai Malay State Volunteer Rifles (MSVR).
Pasukan sukarela ini kemudian terus berkembang dengan penubuhan beberapa pasukan baru seperti Malay Federated Malay States Volunteer Force (FMSVF), ‘Unfederated Malay States Volunteer Force (UFMSVF) dan Straits Settlement Volunteer Force (SSVF). Setelah tercetusnya Perang Dunia II, kesemua unit-unit sukarela ini telah diaturgerak dan berganding bahu bersama-sama pasukan tentera tetap dari Britain, India dan Australia untuk mempertahankan Tanah Melayu dan Singapura.
Selepas Perang Dunia II tamat, pasukan-pasukan sukarela yang telah wujud sebelum ini telah dihidupkan semula. Semasa berlakunya Darurat Tanah Melayu pada 1948, satu pasukan sukarela iaitu Pasukan Kawalan Kampung (Home Guard) telah ditubuhkan. Pasukan Kawalan Kampung ini telah memainkan peranan yang penting sepanjang masa darurat tersebut.
Pada 1958, Pasukan Kawalan Kampung ini telah dibubarkan setelah keadaan keselamatan telah berjaya dikawal dan dipulih semula. Bagaimanapun, memandangkan ramai bekas anggota Pasukan Kawalan Kampung mahu terus menyumbang khidmat sukarela, Kerajaan Persekutuan Tanah Melayu telah mengambil keputusan untuk menyusun semula pasukan sukarela supaya ia lebih tersusun dan berkesan. Oleh itu, Ordinan Tentera Darat Simpanan telah digubal pada 1958. Dengan kuasa ordinan ini, sebuah pasukan sukarela yang baru yang dikenali dengan nama Askar Wataniah telah ditubuhkan secara rasmi pada 1 Jun 1958.