明治以降は徴兵制度があったから普通の人が軍隊に入ってたよ。
日本には陸軍と海軍があって、そのどちらかに入る。昔は今のように人権が重視されてなかったから、訓練は今より過酷だったと思う。
ただ戦時でなければ徴兵の多くは予備役（戦争の時だけ招集される補欠要員）で、実際に軍隊で活動してたのは志願兵だったんじゃないかと思う（詳しくは知らない）。でも第二次大戦の後半は兵士不足に陥って予備役でも足りなくなり、学生の徴兵猶予もなくなって、無差別に赤紙（召集令状）で若者を駆り立てては、ろくな訓練をする暇もなく最前線で使い捨てられてたわけだけどね。

今は防衛省があって防衛大臣がいるけど、昔は陸軍省と海軍省とが別々にあって、陸軍大臣と海軍大臣がいた。対米開戦したときの首相の東条英機はもともと陸軍大臣だった。今は文民統制で、防衛大臣は自衛隊員じゃないけど、当時は軍人が陸軍大臣・海軍大臣になってた。
ちなみに昔から陸軍と海軍は仲が悪くて連携がとれてなかった。たとえば有名なゼロ戦は海軍の戦闘機だけど、非常に優秀だったから陸軍でも使おうと思えば使えたのに、陸軍は全く別の戦闘機を使ってた。その結果ムダに飛行機の種類が多くなって生産効率が悪くなってた。

敗戦後、日本軍は解体されて消滅したけど、数年後には警察予備隊として復活し自衛隊になって現在に至る。空自はともかく陸自と海自はそれぞれ陸軍と海軍の流れを受け継いでいる。そのせいもあって、いまだに陸自と海自は連携がイマイチらしい。