陸軍の作戦・用兵、すなわち統帥(軍令)事項を掌る中央統轄機関。軍政機関である陸軍省とは独立して天皇に直隷していた。長は参謀総長。海軍においては軍令部(海軍軍令部)がこれにあたる。
参謀本部は天皇の持つ統帥大権を補佐する官衙であり、国防・用兵計画の策定、参謀職にある陸軍将校の統轄と教育の任があった(陸軍には教育総監部という参謀本部とは独立して軍事教育を担当する中央機関が存在していたが、陸軍大学は参謀養成学校であったので、参謀本部が管轄した)。
その歴史は1871(明治4)年7月に兵部省参謀局が設置されたことにはじまる。1872(明治5)年に兵部省が陸軍省に発展解消すると、参謀局は陸軍省第六局(情報資料担当)となり、1874(明治7)年2月には陸軍省布達第106条によって、陸軍省の外局としての参謀局となる。西南の役で西郷隆盛が没した後の陸軍トップてであった山県有朋は西南の役での経験から、ドイツ流に陸軍省から独立した軍令機関を設置することにした。これが参謀本部であり、1878(明治11)年12月に太政官達第50号 参謀本部条例によって設置された。山県の判断の裏には、陸軍省第六局に務めた後、1878(明治11)年までドイツに派遣されていた桂太郎(日露戦争時の首相)の意見があったとされる。この時の参謀本部の長は参謀本部長で、陸軍卿であった山県有朋が初代参謀本部長に就き、陸軍卿には西南の役で陸軍卿代理を務めていた西郷従道を据えた。すなわち、陸軍卿(陸軍大臣)よりも参謀本部長(参謀総長)の方が地位が高く、それは第二次世界大戦の敗戦により両組織が消滅するまで変わらなかった。また、その組織は東日本を管理する管東局及び西日本を管理する管西局(局長 大中佐。局員 佐尉官数名)、それと総務局(議長副官 中少佐1名、伝令使 佐尉官数名、次副官 尉官1名、課僚数名) の3局から成り立っていた。
陸軍に独立した軍令機関が設立されたのを受けて、川村純義海軍卿は海軍も独立した軍令機関を設置することを主張した。しかし、山県と西郷は反対した。三人は何れも参議で中将(しかも川村が末席)だったため、川村の主張は受け入れられなかった。ところが、自体は思わぬ方向へと発展する。軍令は軍令で陸海軍統一した機関を設けた方が良いということで、1886(明治19)年3月、参謀本部が改編され、従来の参謀本部は参謀本部陸軍部とし、新たに海軍部が設けられた。トップの参謀本部長には皇族を戴くこととなり、戊辰の役や西南の役で総督に任じられていた有栖川宮熾仁親王が就任した。その本部長の補佐役に各々の部に次長が置かれ、陸軍部次長は曽我祐準中将、海軍部次長には仁礼景範中将が任じられた。曽我は参謀本部次長経験者であったし、仁礼は海軍省内で軍令を管轄していた軍事部の部長であったため陸海軍のバランスは取れているように一見見える。しかし、有栖川宮は陸軍大将であった。制度の上では海軍大将の皇族が参謀本部長に就任することは可能であったが、それに該当するような人間は居らず(初の皇族の海軍大将は、1904(明治37)年6月28日に海軍大将となった有栖川宮威仁親王であり、当時は未だ海軍大尉であった)、少なくとも当面は陸軍大将が本部長に就任することとなる。すなわち陸主海従になるのである。これは当然海軍側の反発を招き、設立からわずか2年後の1888(明治21)年5月に改編が行なわれ、参謀本部長は参軍となり、陸海軍部が各々陸軍参謀本部、海軍参謀本部となった。しかし、実態には何らの変化も無かったため、1年も経たない1889(明治22)年3月に陸軍参謀本部は参謀本部に、海軍参謀本部は海軍参謀部となり海軍大臣の管轄下に入った。すなわちもとの鞘に戻ったわけである。海軍の独立軍令機関問題はその後ももめ続けたが、以降陸海軍の統合された軍令機関が設立されることは無く、内部組織の改編は頻繁に行なわれたが組織そのものの改編は以後終戦から2ヶ月後の1945(昭和20)年10月15日に参謀本部が廃止されるまで行なわれなかった。