皖南事变后，中央命令重建新四军军部。新组建的新四军下辖7个主力师和一个独立旅，其中
1师由苏北指挥部所属部队改编而来，师长粟裕，政委刘炎，副师长兼1旅旅长叶飞，政治部主任钟期光，还有王必成、陶勇这两员悍将分别为2、3旅旅长；
2师由原江北指挥部所属部队改编，师长张云逸，政委郑位三，副师长罗炳辉，政治部主任郭申述。下辖3位旅长依次为梁从学、成钧、谭希林（三人都为开国中将）；
3师由黄克诚带来的八路军第五纵队组成，师长兼政委黄克诚，副师长张爱萍，政治部主任吴文玉。所部三位旅长依次为彭明治、田守尧、张爱萍；还有洪学智、韦国清、宋维轼、覃健等名将；
4师是原来的八路军第四纵队改编而来，师长兼政委彭雪枫、参谋长张震、政治部主任肖望东。三个旅长依次为刘震、滕海清、谭友林；
5师是原豫鄂挺进纵队，师长兼政委李先念，该部由中央军委直接指挥，只是建制上隶属于新四军；
6师由新四军江南部队改编而来，师长兼政委谭震林，参谋长兼16旅旅长罗忠毅，另一旅长为江渭清。该师实力较弱，仅有两个旅外加一个保安司令部；
7师是皖南突围部队和第三挺进团合编而来，师长张鼎丞、政委曾希圣、副师长傅秋涛，该师仅下辖一个旅。
由此不难看出，6师在新四军中实力属于较弱的一支，不仅兵员不如兄弟部队充足，军事干将也明显不足。
更重要的是，他们所活动的区域——苏南地区地形复杂，各方势力鱼龙混杂，既有日伪军横行霸道，同时又被长江、芜湖、天目山等地形限制，辗转腾挪空间不大，而且地靠淞沪，与敌人相距太近。
1941年8月，处在苏南的6师在敌军的重兵压迫下作战失利，所部18旅奉命转移到了江北避敌锋芒。3个月后，留在苏南的一个旅，即16旅在溧阳塘马遭到日伪合围，旅长罗忠毅、政委廖海涛英勇牺牲。这对6师来说，是一个很大的打击。
12月上旬，谭震林率领6师师部北渡长江，进入了粟裕所在的苏中军区。
6师师长谭震林，虽然在军事上也有所贡献——3年游击战期间，他的张鼎丞、邓子恢并称坚守闽西的「东南三杰」，当时的军事指挥主要就是靠谭震林，但更擅长的还是政治工作。由于他身兼6师师长和新四军副政委两个要职，常常而导致他分身乏术。
在这样的情况下，中央做出了将谭震林的6师并入粟裕的1师的决定。42年10月26日，毛主席命令：「一、六两师领导机关对内合并，由粟裕同志统一指挥。」
至此，粟裕除了指挥1师和已经渡江的18旅，还指挥苏南地区的16旅。其所辖兵力达到了5个旅，地盘一下子扩大了一倍，成了新四军各师中实力最强的一支。
1944年12月，粟裕奉中央之命，率领1师和6师主力南渡长江，挺进江苏、浙江，被任命为苏浙军区司令员，谭震林为政委（未到职）。
粟裕于是又成为指挥苏浙军区和原苏中军区的，所辖跨越江南、江北两大军区的军事主官。
抗战胜利后，随着罗荣桓率山东主力挺进东北，新四军部队也开始了大规模的北迁，以填补罗荣桓留下来的空白。在这一背景下，罗炳辉率领新四军2师、张爱萍率领新四军4师、谭希林率领新四军7师先后进入鲁南根据地。（3师黄克诚率部去了东北，5师李先念在中原，6师和1师合并）
此时的粟裕还在长江以南的苏浙军区领导工作，本着「向北发展，向南防御」的方针，中央决定暂时放弃江南，将粟裕所部也调往山东。
粟裕接到命令后，除留下了一小股部队在江南坚持游击外，主力6.5万人开始着手分批北渡长江，向鲁南挺进。
新四军江北、江南的主力纷纷北上，给原新四军和华中局所属的主要区域带来了兵力上的空缺。
中央很快就意识到了这个问题，经过深思熟虑，他们认为「（粟裕）江南撤退，但江北（原新四军主要地带）必须控制，不可放松」，新四军主力北移后，应该重新组建一个新的华中分局，坚持原地斗争，由谭震林、邓子恢、张鼎丞三人组成。
但问题在于，这三人都不是军事干部，华中局书记饶漱石、新四军代军长张云逸等人于是考虑让粟裕不去山东，而是留在华中主管军事。
之所以选择粟裕，首先是因为粟裕在过去的几年里战功突出，已经成了新四军中最耀眼的明星，黄桥战役、车桥战役、天目山战役让他大放异彩，毛主席因此对周总理等人夸赞说：「粟裕同志将来可以指挥四五十万军队。」
「指挥四五十万军队」，这是一个大战略区的级别，由粟裕来指挥华中军区的战事正好符合主席的预期。
第二是因为粟裕在抗战期间，长期在华中苏浙活动，作战经验丰富，对地形民情了然于心。
华中局的电报发出后，中央很快回复：「同意粟裕留华中任司令」。
10月14日，粟裕首次看到了中央任命他为苏皖军区（即华中军区）司令员，张鼎丞为副司令员的电报。他看后颇为不安，认为张鼎丞同志德高望重，自己过去长期在他的领导下工作，由张出任正职，自己为副更利于工作和团结。
粟裕把自己的想法告诉了饶漱石，饶漱石却认为，在大规模战争即将到之际，还是让粟裕为正比较好，所以并未同意他的意见。
粟裕返回驻地后，让机要科暂扣下中央的任命电报，又亲自向中央写了一封电报说明自己的想法。毛主席看后，认为让粟裕出任华中军区司令员是非常恰当的，并没有同意粟裕的谦虚之举。
华中局于是正式发布通知，但粟裕仍然觉得不妥，再次给毛主席致电请求改任副职。中央领导经过慎重研究，最终想到了一个两全其美的办法：
让张鼎丞为华中军区司令员，粟裕为副司令员；同时，将华中军区和华中野战军司令部分开，让粟裕兼任野战军司令员，负责军事行动。
至此，粟裕才不再推辞。
毛主席的眼光果然准确，粟裕走马上任之后没多久，就率领华中野战军取得了苏中七战七捷的光荣胜利。毛主席收到战报大喜，将其作战经验通报全军，要求各区「仿照办理」。朱德总司令也盛赞：「粟裕在苏中战役中消灭的敌人，比他自己的兵力还多。」
后来，华中野战军有序退出苏北，与陈毅指挥的山东野战军领导机构合并，华野由此形成，没过多久，毛主席就专门给山东军区发去电报：
「陈（毅）张（鼎丞）邓（子恢）曾（山）粟（裕）谭（震林）团结协和极为必要。在陈领导下，大政方针共同决定（你们六人经常在一起，以免往复电商贻误戎机），战役指挥交粟负责。」
「战役指挥交粟负责」，这短短的8个字，再次体现了毛主席对粟裕的无限其中，也是他在天目山大捷后，预言「粟裕同志将来可以指挥四五十万军队」的又一次委以重任。
到1949年1月，华野改编为三野时，已经下辖7、8、9、10四个兵团15个军1个纵队1个特种兵纵队，共计58万人，粟裕也真正成为了指挥四五十万军队的杰出统帅。
