Kuruluş yıllarında Osmanlı Devleti'nin düzenli askerî birlikleri yoktu. Osman Gazi zamanında eli silah tutanlar savaşa katılır, muharebe bitince herkes işinin başına dönerdi. İlk düzenli askerî birlikler Orhan Bey zamanında kuruldu. Yaya ve müsellem (atlı) denilen ve Türk gençlerinden toplanan bu kuvvetler biner kişilik birliklerden oluşuyordu.
Bunlar sadece savaş halinde iken ücret alırlar, barış zamanında kendi işleriyle meşgul olurlardı. Kumandanları onbaşı, yüzbaşı ve binbaşı ünvanlarıyla anılan bu geçici askerler, gittikçe büyüyen bir devletin ihtiyacını karşılayamaz hale gelince başka ve daimî bir ordunun kurulması kararlaştırılmıştır.