袁世凯首先表示对题目不太同意，那老夫还怎么领导民国海军呢？他在逼迫孙中山辞去“中华民国临时大总统”职务后自己取而代之，并于1914年5月1日颁布《中华民国约法》，其中的第23条规定：大总统为陆海军大元帅，统率全国陆海军。显然，这是一个横跨军种的最高军衔，无非那个时代还没有空军而已。
袁世凯随后成立了“陆海军大元帅统率办事处”，这个机构享有极大的权力，凡涉及民国军务的重大事项均由它审批决定，袁世凯对军队的命令和批示，也基本都以大元帅的名义签发。为了削弱各省将军的势力（由都督改名而来），又在北京成立直隶于统率办事处的“将军府”，方便他把将军们调来遣去。
晚清和民国政府的大元帅体制学自日本，这个东洋岛国在明治维新后确立了天皇对军队的“统率权”，天皇兼有陆海军大元帅的双重军衔和称号，是武装力量的最高统帅。按这个翻版，清廷于1908年颁布《钦定宪法大纲》，规定大清国皇帝为陆海军大元帅，拥有全国军队统率权，结果没三年就被轰下了台。
（裕仁的海军大元帅制服）
理论上讲，张作霖是北洋军阀政权的最后一位统治者和国家元首，但是他却没有出任过“大总统”一职。1927年6月，在北伐军的不断打击下，北方大小军阀开始抱团取暖，共同推举张作霖为“海陆军大元帅”，将政府总理和各部总长也置于大元帅节制之下，等于张作霖代行了大总统职权。
张作霖随即以大元帅的名义下令，将奉军、孙传芳的五省联军、张宗昌的直鲁联军等部统一整编为“安国军”，分设七个军团，军团长分别是张学良、吴俊升、张作相、韩麟春、孙传芳、张宗昌、褚玉璞等人，所以他又被称为安国军大元帅，直到他逃离北京时被炸死。
（安国军大元帅张作霖）
而南方革命政府也成立了大元帅府，孙中山在1917年、1921年和1923年三次就任“海陆军大元帅”，名义上节制所有西南地区效忠于他的军队，1923年并成立了“海陆军大元帅大本营”。在他北上及病逝期间，由国民党元老胡汉民代理大元帅职务，同年7月1日，这个大元帅大本营改组为“国民政府”，大元帅称谓取消。
1937年全面抗日战争爆发后，8月20日国民政府成立战时大本营，任命蒋介石担任“陆海空军大元帅”，这是首次出现三军最高统帅的职衔。然而到8月30日，蒋介石经过考虑认为中日之间并未正式宣战，设立大本营和大元帅职务并不妥当，决定仍以军事委员会为战争最高统帅部，继续以委员长身份进行领导，因此他这个陆海空军大元帅仅仅当了十天。
1955年人民解放军实行军衔制度时，曾经设立了共和国“大元帅”和“元帅”两级元帅军衔，大元帅即为我国武装力量三军最高统帅，但是由于主席坚辞不受，这一军衔直到1965年取消军衔制的整整十年间，其实是“空缺”而非“不设”。
而到了1988年重新恢复军衔制度时，决定和平时期两级元帅军衔均不再设置。
（孙中山的大元帅令）
