日本国内においては、一般に明治4年(1871年)に設立され昭和20年(1945年)に解体された大日本帝国の大日本帝国陸軍と大日本帝国海軍の総称として使われる。
自衛隊は軍隊ではないという公式見解を示している日本には軍隊は存在せず、また江戸時代までは封建体制に基づいて各地の領主がそれぞれに軍備を敷いていたため国軍と言う概念がなかったためである。
ただし、飛鳥時代の百済救援、元寇、豊臣秀吉の朝鮮出兵など、数は多くないものの対外戦争はあり、その際の日本側兵力は便宜的に日本軍と呼ばれることもある。
歴史
明治維新後、政府は武士に代わる徴兵制による近代的な軍隊を編成していき、西南戦争を鎮圧し、日清・日露両戦役に勝利。後には第一次世界大戦に連合国側で参戦し、戦勝国ひいては「五大国」となった。
しかし昭和時代に入ると、軍部は政府の統制を外れていき軍閥化していった。
資本主義の発達と産業革命による工業化に伴う社会の変化は、科学力の発展による生産力と軍事力の格差と、植民地に代表される地球上の国家間の格差、そして足元では3セクターモデルに代表される「労働者と経営者」の「貧富の差」という断絶を齎した。
一部の軍人は待遇への不満や、出生地域における貧困の記憶から「世直し」思想を抱いて右翼テロリズムに同調し、五・一五事件や二・二六事件、血盟団事件、神兵隊事件といったクーデター未遂やテロ攻撃を引き起こした。
また、第一次世界大戦によって明らかとなった総力戦を実現するため、「軍部大臣現役武官制」を盾にして、政治のコントロールを国民が選んだ政府ではなく軍人が行おうとする増長も見られるようになった。
特に中国方面に駐屯していた関東軍は独走が激しく、中央からの制止にもかかわらず満州国の成立にかかわった。
第二次世界大戦では、中国大陸での戦争（日中戦争）が泥沼化する中で米英蘭などにも宣戦布告し、太平洋戦争に突入した。開戦当初こそ戦果を挙げるも、もとより工業能力の高いアメリカ軍には物量的に歯が立たず、徐々に後退。日本本土が直接爆撃を受ける非勢に陥る。大戦末期にはソ連が中立条約を破棄して参戦。敗戦へと至り、降伏から間もなくして復員・恩給・掃海担当の部署を残して解体された。
組織
人員数では陸軍が遥かに多かったが、予算は陸海軍ほぼ同じだったため、人数比の少ない物資・待遇面では海軍が恵まれており、陸軍の下級士官は総じて予算難であった。
徴兵制だった陸軍は徴集を担当し、海軍は志願兵だったために一部の人員を適当に海軍に回していた。
※人員比が少ない海軍の予算が多いのは、軍艦が「一品物」で大変高価な装備であることも大きい。国土の周囲全てを海で囲まれた我が国の防衛は何時でもおカネがかかるのだ。
そして陸軍の場合は「数が命」なので、必要な兵数や兵器（戦車・銃・砲）の数とそれを維持するための糧食・弾薬等は、海軍とは比較にならない物量になる。
そういう訳で、「陸軍の兵力+兵器+維持費」と「海軍の兵力+兵器+維持費」は均等に分配されていた。
指揮系統
日本は国土状況から明治維新以前より陸軍が主力であり、陸軍参謀本部設立による軍政と軍令の分離以来、日露戦争直前まで内閣から独立して大元帥たる天皇の直属である「陸軍が海軍より上位」だった。
後に海軍軍令機関の長たる軍令部長（軍令部総長）は国務大臣と同等の地位になったが、軍の主導権争いはこの時代から始まっている。
それに加え、憲法上は天皇陛下が陸軍及び海軍の最高指揮官ということになっていたが、多分に形式的なものであり、それに次ぐ三長官職が横並びに存在したため、陸海軍共に他国の軍隊にあるような実質的に全軍を指揮統率する役職が不明瞭であり、戦争勃発時に大本営を設置して対処していた。
特徴
- 帝国憲法下の日本軍は内閣から独立しており、内閣は軍の指揮に関与できなかった。さらに内閣の首班たる内閣総理大臣も、天皇をも凌ぐ権力集中を防ぐためにあくまで他の大臣と同等の地位とされたため、軍部大臣含め内閣の一員である国務大臣を支配することが出来なかった。（ただし予算決定は議会の権限であり、政治家が予算を通じて間接的に軍を統制する事は可能だった）
- 陸軍省・海軍省が人事や予算などの軍政を担当し、参謀本部・軍令部が編制や作戦・指揮などの軍令を担当した。
- 元帥府は日本の場合は、天皇の軍事上の補佐をする人々であり、陸軍・海軍大臣を退役した武官が元帥になることが多かった。
帝国陸海軍
これまで述べた通り、陸海軍(上層部の)仲の悪さは未だに語りぐさで、先の大戦時には「陸海軍相争い、余力をもって米英と戦う」と言う言葉があったとされているほどである。例えば以下のように、無意味な意地の張り合いのような事があった（ただし、※印は実情と異なる）
- 同じ国の軍で用語が統一されておらず、同じエンジンの呼び名さえ違っていた(大戦後期になってようやく統一)。
- 同じ外国製兵器の生産権を、陸海軍で個々に買い付けてライセンス生産(※)
- 陸軍が空母や揚陸艦、潜水艦を独自開発(※)
- 海軍が大型爆撃機や自走砲を独自開発（※）
ただし、これらは以下のような事情もある。
- エンジンのライセンスは、陸軍と海軍がそれぞれ別の企業に製造させたので必要になったもので、仲が悪いから別々に買ったというものではない点に注意。経緯としては海軍が先に買わせた企業（愛知航空機）が小さかったため、生産体制確保のために後から陸軍が大企業（川崎重工）に担当させるために買ったという至極真っ当な取引の結果である。
- 陸海軍の独自兵器開発も、双方の軍事戦略において必要と判断したので開発したまでである。例えば、陸軍船舶は便宜上空母や潜水艦などと呼ばれることもあるものの、陸軍の独自戦略の必要性から発案・開発されており、海軍には代用できる艦は存在しなかった。また、最初は陸軍のみで設計したが、協力を求められた海軍が基本概念を元に修正して設計・開発を行い、進水以降も改善に協力している。
- 海軍の自走砲は、独自開発というよりも単なる大戦末期のありものの再利用であるし、大型爆撃機はそもそも陸海軍が戦闘するエリアを厳密に分けていた為、洋上での対艦攻撃に使用する爆撃機が必要という意向から開発されており、他国の陸軍が持つ戦略爆撃機とは開発用途が大きく異なっている。
大戦末期、統合参謀本部の設立構想があったが、陸軍と海軍では末期戦の対応方針が全く異なり、まとまらないまま終戦を迎えた。
これらは日本に限ったことではなく、例えば世界初の戦車を開発したのはイギリス海軍であり、アメリカ陸軍も多数の輸送船を建造していた。
また、他国の陸海軍も陸海軍の仲の悪さやメンツの張り合い、階級や用語の違いは似たり寄ったりであり、ある面では日本以上に非協力的、敵対的な面も見られる程である。
空軍
また、日本軍では欧州の幾つかの軍に見られるような空軍は編成されなかった。陸海軍双方で独自に航空部隊を編成・強化していたが、最後まで陸海別個に航空戦力の強化を行い、独立機関は解体されるまで設けられなかった。
陸海軍による主導権争い、憲法の改正、戦力の伝統性などの問題等も挙げられるが、実務上の問題は全く別で、単に「航空兵器の運用法や性質が異なるので統一できなかった」という話である。
- 陸軍の場合、味方陣地から敵陣地への攻撃に向かう際、地形や建造物を確認して目標までの進路を判断する「地文航法」を用いていたが、海の上では「何も目標物がない」ので「推測航法」という全く異なる方法を用いている。
- 陸軍では陣地・戦車・兵隊等への攻撃方法として、ある程度の高度を保って爆弾を投下して広範囲にダメージを与える「水平爆撃」という方法を用いたが、海軍の場合は敵艦船の至近まで低空で接近し、目標の移動方向を推定して魚雷を投下しなければ、躱されてしまって命中させられなかった。
第二次大戦時の米軍も陸軍の航空部隊が地上軍とは独立した作戦指揮権を持っていたため、独立した空軍を持っていなかったが、戦後に独立して空軍が設立された。
しかし… その後は「陸海空軍の三竦み状態」となり、挙句の果てに海軍の計画に反対する空・陸軍との調整で疲弊した国防長官が辞職した後に自らに銃を向け、計画中止後に海軍長官も辞職するという事件が起きている。
ただし、欧州の軍には日米のような空母機動部隊が少ない、又は存在しないという違いもあり、空軍が設置されなかった点は間違っていたとはされていない。例えば英軍は、一度陸海軍の航空隊を統合して空軍を結成したが、その後に海軍航空隊を復活させている。
戦後
GHQの政令により、旧日本軍は完全に解体された。
だが、戦後に陸海自衛隊が設立された際はその人材の受け皿として重宝され、実際に初期の人員の大半は日本軍の元職業軍人達が過半数を占めていた。
元々、再軍備の暁には旧軍出身の軍人の排除を狙っていた吉田茂の思惑とは裏腹に、当初の主導権を握っていた警察官僚出身者が軍事に無理解であった事、彼らの驕り高ぶりがGHQの憤激を買い、GHQが旧日本軍人の復権を認めたからでもあった。これは海自の設立委員会『Y委員会』で顕著となって、旧日本軍人たちが会議の主導権を終始握り、再建日本海軍と言える海自を設立させた逸話もあるように、旧軍人達の全てが戦後の首脳陣に忌避されたわけではない。むしろ、朝鮮戦争後は実務経験のある人材を活用するべく、積極的に旧軍人の実務での復権を押し進めていたのである。
その関係上、陸上自衛隊が日本陸軍とは組織上では繋がっていないのに対し、日本海軍の掃海部隊は海上保安庁を経て、そのまま海上自衛隊に引き継がれた。Y委員会の事もあり、海上自衛隊は海軍の伝統を受け継ぐ後継組織を自認している。ただし、初期世代の生え抜き海上自衛官は幹部層を占めていた経験者らへ強く反発していたと伝えられている。だが、世間的に大日本帝国海軍の往時の栄光への郷愁が残った空気も影響したか、一過性の反発で終わったようで、現在では組織ぐるみで日本海軍の継承者を公言している。
なお、組織上は繋がっていない事になっている陸自も、師団編成等に陸軍の伝統をある程度は受け継いでおり、習志野の第1空挺団などが例とされる。
自衛隊発足まで
戦後、GHQより航空機の使用・開発を全面的に禁止された日本は、早急な海上での警察活動や貿易の再開と、国内海運の復活のため、連合軍が戦時中に瀬戸内海や日本海に敷設した数万個の機雷を除去するための海上作戦部隊が必要とされ、海上保安庁が設立される。同時期、双方の海軍将官が交流を始め、徐々に信頼関係が構築されていく。
1950年に朝鮮戦争が勃発、米国(GHQ)は国内の安定維持の為に総理府配下に「警察予備隊」（陸自の前身）を設立させる。
翌1951年、サンフランシスコ平和条約締結によって日本は再独立すると共に、「旧日米安全保障条約」の締結によって自国防衛組織の確立が必要となる。その後、吉田に対し米国から余剰軍艦の貸与の申し出があり、これを快諾して米海軍と『Y委員会』による検討開始。
1952年、運輸省配下の海上保安庁に「海上警備隊」（海自の前身）を設立、後に総理府の外局として発足した「保安庁」（防衛庁の前身）に移管され「警備隊」になると共に、警察予備隊は「保安隊」となった。
そして1954年に「防衛庁」と「自衛隊」が発足、保安隊は「陸上自衛隊」、警備隊は「海上自衛隊」となる。この時点までに旧軍人の多くが復権し、元の職務を再開している。一定以上の階級の旧軍人(下士官以上)は現役時代の最終階級に則って遇するという了解もあったらしく、この方法で幹部自衛官の定数を短期間に満たしている他、非公式ながら、元の将官クラスが存命中の頃は彼らの意向が自衛隊の人事を左右したとも伝わるので、日本軍の存在なくして、自衛隊の組織は成立しえなかったといえる。
