新中国成立初期，总参成为三总部中最重要的部门。
当时的「三总部」，指的是总参、总政和总后。由于国防部1954年才成立，所以在此之前，总参就是我军最高军令机构。
新中国第一任总长的候选人有很多，比如一野掌门人彭德怀，二野掌门人刘伯承，中南军区叶剑英，华北军区聂荣臻，以及军中地位仅次于主席的周公，但主席最终一锤定音，敲定正在青岛养病的徐向前担此重任。
上述五位候选人，都是我军的杰出将领，主席为何看中了徐向前？
总参谋部作为一支军队参谋系统的最高机构，最早出现于普鲁士。
1808年，普鲁士设立了战争部，下设总参谋部，其前身是经受了七年战争考验的军需总监部，总参主要有四大职能：一是制定战略战术，是幕僚机构；二是管理军队，是指挥机构；三是后勤补给，是后勤机构；四是管炮兵事务，是特种机构。
由于总参在普法战争、普奥战争和普丹战争的出色表现，很快在欧洲得到普及，并扩散到世界各国，像明治维新的日本、南北战争的美国、十月革命的苏俄等地。
总参谋部在两次世界大战中得到完善和提升，战后美军形成了参谋长联席会议，苏军则增设了国防部。第一次国共合作时期，参谋系统逐渐为国人所熟知，并在黄埔军校和北伐战争时期得到了实践应用。
1927年8月1日，作为我军起点的南昌起义，周公组建了由暂编15军军长刘伯承为团长的「军事参谋团」，周公、贺龙、叶挺、蔡廷锴等名将任参谋团的成员。
1930年，刘伯承在上海就任总参谋部部长，在团以上设置参谋处，作为军事主官的幕僚机构。进入苏区以后，刘伯承和叶剑英轮番担任了总参谋长，进一步健全了参谋机构。
红军时期，刘伯承、聂荣臻、朱云卿和叶剑英先后任总参谋长；抗战时期，叶剑英、萧劲光、滕代远先后任八路军总部参谋长；解放时期，总长则换成了彭德怀、周公。
新中国成立时，总长五大候选人的职务和位置各不相同。
随着陶峙岳通电起义，新疆和平解放，一野司令员兼政委彭德怀在开国大典之前，已经胜利完成了解放大西北的任务。1945年8月到1947年8月，彭德怀也有过任总长的经历。
解放战争中后期，彭德怀西野作战任务繁重，总长一职由周公兼任。
建国初期，周公多次提议「横刀立马」的彭大将军出任总长一职，但都被彭总婉拒。
彭德怀之所以不愿意担任总长这样一个非常重要的「幕僚长」，原因主要有三：
一是他长期担任军事主官，觉得不适合任总长；二是任总长一职2年时间，也是赶鸭子上架，不得已为之；三是彭总一个很大的心愿，还是留在大西北搞生产和农业建设。
和一野彭总相比，二野司令员刘伯承更适合任总长。
首先，刘伯承是科班出身，毕业于重庆将校学堂、伏龙芝军事学院，早年以「川中名将」闻名遐迩，还是南昌起义和红军的参谋长，抗战时期执掌八路军129师、解放战争时期领导晋冀鲁豫野战军（中野，二野），以足智多谋闻名于世。
建国初期，大西南武有贺老总、文有邓公，刘伯承完全可以抽身出来。但是，当周公征求刘伯承意见时，刘帅以「年事已高、精力不济」为由婉拒，后筹建南京军事学院。
中南军区的军事二把手「叶参座」，也是不错的选择。
叶剑英担任各级参谋长的时间，远超十大元帅的其余九位，比刘伯承资历还深。
叶剑英出身民国三大军校之一的云南讲武堂，是朱老总的同门师弟，担任过黄埔军校教授部副主任、讨伐陈炯明的8旅参谋长，粤军2师参谋长、国民革命军4军参谋长。
土地革命时期，叶剑英是红军总长、红一方面军参谋长、陕甘支队参谋长；抗战时期，任八路军总部参谋长；抗战胜利后，忙于军事调停和土地工作，组建了华北军政大学。
新中国成立时，叶剑英正指挥陈赓、邓华解放广州，由于广东还是前沿地区，海南岛和诸多沿海岛屿还没有解放，华南的剿匪斗争一直持续到1953年，所以叶参座分身乏术。
解放战争后期兼任总长的周公，出任总理兼外长。
周公在我军的历史地位仅次于主席，甚至超过德高望重的朱老总。无论是红军时期、抗战时期还是解放战争时期，作为主席的第一助手，周公的地位无可撼动。
但是，新中国成立初期百废待兴，尤其是外交战线任务复杂繁重，周公甚至从军队抽调了10几位将领转行当大使。此外，政务院的工作千头万绪，再兼任总长已不现实。
华北军区司令员聂荣臻，也是总长最佳候选人之一。
聂荣臻是一位低调的开国元帅，早年参加过赴法勤工俭学，具备国际视野；在苏联红军学校中国班学过军事，也算半个科班出身；担任过黄埔军校政治秘书兼教官，在我军资历比较老；参加过南昌起义和广州起义，是建军元老之一。
抗战时期，聂荣臻以115师副师长身份，带领3000人开创了模范的晋察冀根据地。解放战争时期主持华北军区，徐向前从晋冀鲁豫转隶华北军区后，担任他的副手。
聂荣臻出任总长的唯一障碍，就是身兼多职。建国初期，聂荣臻堪称十大元帅中最忙的，一度身兼七职：华北军区司令员，平津卫戍区司令员，华北局第三书记，副总长，北平市市长，北平军制会主任，以及开国大典的阅兵总指挥。
聂荣臻兼任副总长，总长是在青岛养病的徐向前。解放战争时期的华北军区司令员和副司令员，职务刚好掉了个：正职变副职，副职变正职，主席这是唱的哪一出呢？
从历史地位和军事才能来看，徐向前并不亚于聂荣臻。
土地革命时期，空降鄂豫皖的徐向前，打出了红军时期最强悍的第四方面军。抗战时期，带领八路军129师部队在冀南根据地提出了「人山」理论，还曾担任第一纵队司令员。
徐帅的军事才华毋庸置疑，刘伯承赞叹我军最会打仗的就是徐总指挥和粟司令。
但是，徐向前的身体影响了他在解放战争中的发挥，他先后在晋冀鲁豫、华北军区和太原前线，担任刘伯承、聂荣臻和彭总的副手。但是，主席对这位军事家的能力信赖有加，所以第一时间点将徐向前出任新中国首任总长。
事实上，徐帅身体1951年底才基本痊愈，但在养病期间，主席宁可让聂帅代理总参的工作，也一直保留着徐帅总长的职务，这也是主席对徐帅极大的尊重和爱惜。
1951年11月，身体刚刚痊愈的徐向前，从莫斯科谈判回国途中，肋膜炎复发再次住院，并在此后长期疗养。第一副总长聂荣臻协助主席指挥抗美援朝，最后累得生病，主席点将粟裕任第二副总长，分担一些总参的工作。
有人说，徐帅身体已无大碍，只是出于对顶头上司聂帅的尊重，一直没有出山就职。实际上，这两位老帅无论战争年代还是建国以后，毫不计较身份职级，一心为公，配合得非常默契。
1955年大授衔，两位名将排名元帅第八和第九，也是「哥俩好」。
