階級としての大元帥は元帥とともに1871(明治4)年7月に制定された。このときから大元帥とは全軍の総裁という立場であったようであり、いわゆる「お飾り大将」として、皇族が当てられることになっていた。また、天皇が大元帥となることも想定され、同年9月に太政官達示で、大元帥の軍服が制定された際にその場合の特別な大元帥服もともに制定されている。しかし、大元帥に任官する者は無いまま、制定からわずか2年弱後の1873(明治6)年5月に廃止されてしまう。
「大元帥」という言葉が再度登場するのは1882(明治15)年1月4日に天皇が軍人に下した軍人勅諭の中でである。この中で「朕ハ汝等軍人ノ大元帥ナルゾ」とある。しかし、これは全軍の最高指揮者としての「称」であった。