军部除原有的汽车队、装甲车连以外，还有105mm口径榴弹炮营（汽车牵引12门）、工程营；各师有75mm口径山炮营（炮12门）、工兵营、搜索连、汽车排等；各团有战防炮连（炮6门）、82mm迫击炮连；各营有60mm迫击炮、美式冲锋枪等。
1947年第五军增设战车一个营、汽车一个营、重迫击炮（42mm口径）一个连，各师还配有喷火器连，每连有喷火器6至8具。
抗战胜利不久，杜聿明调任东北保安司令长官，而第五军隶属郑州绥靖公署，下辖第四十五、第九十六、第二○○师。
全是美械装备，全军约四万人，号称国民党军五大主力之一。为了与解放军争夺中原，蒋介石将第五军这枚最重要的棋子部署在中原。
该军在北进途中，在湖北地区奉命改隶徐州绥靖公署。邱清泉自视甚高，认为解放军「逢五不战」，即遇到第五军就逃避不战。
第五军作为蒋介石最有威慑力的部队之一，它的作用并不在于打了什么非常出名的战役，或给解放军造成了多么巨大的损失，而是它的机动性和快速化以及清一色的美式装备，使其纵横驰骋于华野和中野两大战场之间，无所顾忌。
1946年7月中旬，苏中战役打响了。华中解放军在粟裕指挥下包围了泰兴、宣家堡。
正当解放军猛攻泰、宣之际，邱清泉以攻取天长、盱眙，解除南京威胁为目的，率第五军从浦镇地区沿六合至天长的公路向北，以第四十五师攻击天长，以第九十六师进攻盱眙，对淮南解放区发起进攻，企图全歼解放军主力于洪泽湖以南地区。
中共的最高统帅部、华东野战军和中原野战军往往根据第五军的位置而进行战役部署，甚至因为第五军而修改大的战略方针。
毛泽东和他的战将们把第五军视为心腹大患。在许多重要的作战电文中，多次提出要动用10个纵队以上的兵力，消灭第五军。
在国共内战之初，在中原战场上，邱清泉的第五军和张灵甫的整编第七十四师和胡琏的整编第十一师作为蒋介石的三把利剑，在有重大战役时，遥相呼应，互相配合。
第五军忽而与整编第七十四师并肩，夺取两淮；忽而与整编第十一师配合，对解放军构成巨大的威胁。
1946年9月下旬，国民党军两支王牌主力整编第七十四师和第五军并肩由鲁西南菏泽向巨野方向的晋鲁豫解放区发起进攻，企图打通菏泽到济宁的公路线。
刘伯承说：「邱清泉自称邱老虎，大言不惭，说什么解放军‘逢五不战’这次，我非要摸摸这只老虎屁股！」
他亲自排兵布阵，指挥晋冀鲁豫野战军三纵陈锡联、六纵王宏坤、七纵杨勇等部队在龙固集、张凤集一带进行运动防御。
10月3日，两部分别推进到巨野以南的张凤集和巨野以西的龙固集。
是夜，进驻张凤集的胡琏的整编第十一师受到晋冀鲁豫野战军三个纵队的猛烈攻击，守军也不含糊，防守相当顽强，恶战两昼夜，战场呈胶着状态。
激战至7日上午，解放军攻入张风集，歼整编十一师第十一旅一个团和特种兵分队。
与此同时，邱清泉接到胡琏的告急，竟用明语告之：「伯玉，少安毋躁，我来也！」他命令所部立即向张凤集靠拢。
邱清泉欺负刘伯承没有重火器，将美式榴弹炮、山炮和坦克统统调到第一线，冷笑着说：「这些对付日本人的大餐，今天就要叫你刘伯承尝尝！」
攻击开始了，在山呼海啸般的炮火中，第二纵陈再道的阵地一片火海。待第五军步兵冲上阵地时，藏在战壕中的解放军突然呐喊杀出。
第五军没料到在如此猛烈的炮火下居然还有活人，双方短兵相接，士兵们厮打在一起，枪托砸、刺刀拼，拳打脚踢，最原始的方法都使尽了。
解放军顽强作战，第五军终于撑不住了，向后撤退。一连几天，攻击无效。在龙固集的二纵顽强阻击第五军一次次疯狂的进攻，双方大战十一天。
7日下午，整编第十一师向西南退缩，终于与第五军靠拢，形成合力，给解放军以沉重打击。
在此形势下，解放军于当夜撤出战斗。据解放军的战报，此役共毙伤国民党军5000余人，解放军伤亡4300余人。此战给双方都留下了深刻印象。
之后，邱清泉将自己在战斗中总结的【战胜刘伯承之秘诀】发给其部队。这些「秘诀」是：
一、刘伯承一定经过摸清我们的兵力阵地才来打，所以我们要打他的先头部队，叫他摸不准；
二、刘伯承要有五倍于我们的兵力才来打，所以我们要碰上就打，叫他无法集中，始终处于劣势；
三、刘伯承要达成袋形夹击态势才来打，所以我们要反包围夹击他的一翼，叫他只有败逃；
四、刘伯承怕我们大队伍，想吃我们小部队，所以我们要用小部队钓鱼，用大部队吃鱼；
五、刘伯承缺少弹药，无法持久，所以我们要先用炮火搜索，后用冲锋突击，必定胜利；
六、刘伯承要布置地形，埋伏袭击，所以我们要搜索敌情，侦察地形，分区、分几个到达战线，运动与掩护速击，就可以粉碎他的阴谋了。
1947年6月底和7月，中野强渡黄河，发起鲁西南战役，拉开了战略进攻的序幕。老蒋的部队在战略上失去主动，全面进攻、重点进攻和全面防御均遭失败。
蒋介石为了改变战略被动，在1948年年初，采取了坚守东北、力争华北、集中力量加强中原防御的战略部署，由全面防御改为分区防御。
在中原战场，国民党军仍占有优势，计有24个整编师，共79个旅，除配属给中原八个绥靖区担任点线防御外，还能集中较大的机动兵力，在各要点之间往返驰援，并对解放军进行战术性进攻。
国民党军战略部署的重点，是企图让中野无法在大别山区立足；同时防止华野南渡长江或西进，以确保南京和武汉的安全。
