日本武士最高的是征夷大將軍。以下是大老、老中、御家老、守護代、大名、家老、部將、侍大將、足輕大將、足輕頭、足輕。武士的雛形是在日本平安時代律令體制下產生的武官，最初是日本恒武天皇為了鞏固政權而設立的。在平安時代以前，除了奴隸，所有的的壯丁都有責任和義務成為被天皇募兵的對象。
這種形式的士兵并不是真正意義上的武士。平安時代早期(8世紀末—9世紀初)，恒武天皇想要在北本州島鞏固和擴張自己的統治范圍。天皇所派遣的針對本州北部土著(Emishi)的討伐軍缺乏士氣和紀律，很難在戰場上取勝。