1946年9月間，整個華東戰局對我軍已非常不利，在南邊，蘇北解放區的中心城市「兩淮」相繼失守；在北邊，王耀武趁我山東野戰軍南下增援之機，調動四個軍的兵力從濟南、青島同時出擊，居然打通了膠濟鐵路線，面對如此困難的局勢，華中野戰軍司令員粟裕憂心忡忡，苦思破局辦法。
經過認真思考，粟裕與野戰軍政委譚震林於9月20日，聯名發電給軍委和山東野戰軍陳、宋首長（司令員陳毅和參謀長宋時輪），深刻分析了當前的軍事形勢，並在電文結尾提出：「為改變華中局勢，我們建議集中山東、華中野戰軍攻下宿遷，得手後再向西擴大戰果」。
這是華中野戰軍首長，首次提出兩大野戰軍合並的建議，陳毅接電後表示完全同意，旋致電軍委表態：「我同意華中分局建議，山野華野集中由淮海區向西行動的辦法，並主張兩個野指合成一個」！換句話說，也是陳老總首次提出了兩個野戰軍「司令部也實作合並」的建議。
三天以後的9月23日，軍委的指示電到達，毛主席完全同意了陳、粟的意見，並初擬了人事安排：「山野、華野兩軍集中行動，兩個指揮部亦應合一，提議陳毅為司令員兼政委，粟裕為副司令員，譚震林為副政委，如同意請即公布執行」！
毛主席同時囑咐：「正副參謀長以何人為宜？由你們酌定電告」，這封急電今天讀來，筆者個人感覺，毛主席對山東野戰軍參謀長宋時輪的表現，似乎並不滿意，估計陳老總也有所感覺，遂復電提議宋時輪調渤海軍區工作，另以山東軍區參謀長陳士榘擔任兩軍合並後的參謀長。
陳士榘接到命令後，於10月初從臨沂動身，迅速趕到山野司令部所在地沭陽，開始協助陳毅進行指揮，兩個野戰軍的合並事宜，也緊鑼密鼓操辦起來，然而到了10月8日，陳毅突然變卦了！
一、山東戰局突然嚴重惡化
山東野戰軍組建時，下轄兩個縱隊和兩個師共7萬余人，是整個山東軍區的精銳主力所在，而華中野戰軍僅4萬余人，力量相對較弱。1946年8月初，陳毅率第2縱隊、第7師和第8師兼程南下，增援華中野戰軍保衛兩淮的作戰，稍後葉飛第1縱隊也接到了南下的命令。
山野主力南下作戰後，諾大山東地區只剩下戰鬥力不強的若幹部隊，以及不能勝任大兵團作戰的地方武裝，而且還要分別在膠東、魯中和魯南三個方向作戰，在敵人的重兵進攻下，解放區大片地區被敵侵占。
第二綏靖區司令官王耀武打通膠濟線後，又與「徐州綏署主任」薛嶽的部隊配合，企圖打通津浦鐵路線，敵人出動了一個整編軍（馮治安的整33軍）、兩個整編師（整26師、整51師）和一個快速縱隊，自台兒莊出動向南攻擊前進。
為了保衛棗莊、嶧縣等城市進而保衛臨沂，陳毅電令葉飛縱隊取消南下增援任務，就地在魯南地區抗擊敵人，1946年10月5日，葉飛縱隊與馬勵武整26師在嶧縣以南展開激戰，由於戰前情報有誤，葉飛驚訝地發現敵人居然越打越多。
原來，薛嶽已將整51師也投入戰鬥，葉飛縱隊初到山東時擁兵25000余人，由於長時間作戰且補充不力，已經減員至21000余人，跟敵人一個整編師的兵力基本相當，單獨對付整26師還有勝算，同時招呼兩個整編師明顯力不從心了。
更要命的是，整26師還配屬有第1快速縱隊的坦克和裝甲車（後來一股腦被粟裕全殲了），馬勵武下令出動坦克沖擊葉飛的陣地，1縱既缺乏打坦克的經驗，也沒有什麽反坦克武器，登時陣腳大亂。
在優勢敵人的瘋狂攻擊下，黃昏時分葉飛被迫下令撤出戰鬥，1縱轉移至嶧縣以東山區，此戰失利後，嶧縣、棗莊自然相繼失守。
至10月8日前後，魯南根據地大部失陷，南京方面則大吹法螺，宣稱取得「魯南大捷」，山東軍區的求援電一封接一封，強烈要求山東野戰軍主力回師，否則後果不堪設想：敵人下一步的進攻目標，一定是沂蒙山區腹地。
那裏可是山東解放區首府臨沂的所在地，再遺失了怎麽得了？陳老總陷入長考，苦思一夜後認為，山東根據地是華東我軍的根本，臨沂更集中了軍區司令部、後勤衛生軍工等重要單位，萬萬不能落於敵手。
因此陳毅決定暫時放棄與華中野戰軍合兵作戰的計劃，親率山野主力馳援魯南戰場，他下定決心後，一邊集結部隊準備出動，一邊將自己的意見電告了軍委和華中野戰軍司令部，粟裕和張鼎丞、鄧子恢（這兩位是華中分局的首長）接電大吃一驚！
二、陳毅先後兩次變更決心
為勸阻陳毅單獨率軍北上，華中分局領導們聯名致電陳毅：「我們始終認為，統一指揮是今後取勝的基本條件，因此建議山野、華野司政機關必須合並，建議陳、粟會合一起，如果山野、華野名合實離，不僅影響指揮統一，對財糧供應我們亦無法解決，對下面影響也不好」。
這裏面有三層意思，首先是已經確定好的兩軍合並，陳毅突然變卦肯定是不合適的；其次，華中野戰軍已經失去兩淮根據地，如無山東軍區和野戰軍支持，軍費糧草都將發生困難。
最後便是，兩軍合並的決定已經傳達下去了，各部隊正在著手準備，如此朝令夕改「影響也不好」，但是陳毅決心已定，堅持北上，並且在回電中說明：
「如魯南緊張，則應考慮山野回固根本，目前華中戰局已到難於兼顧的時候，粟（裕）譚（震林）部南下解決冬衣問題是必要的，待南下數日後看南北情況再定奪，魯南如吃緊，我便不能南來你處，只好分任南北「。
陳毅電文的中心意思很明確，山野主力必須回救魯南，那是山東解放區的「根本」，合並之事得先放一放。
雙方誰也說服不了誰，那就只剩一個辦法，把矛盾上交給軍委來裁決，遂分別致電延安闡述意見，10月10日毛主席發來指示電：「山野以適當力量回魯南，配合葉飛擊敵，這是必要的，但山野全部回魯南則與華野平分兵力，於目前形勢下不利於作戰」！
這封電報沒有直接批評陳毅，勉強認可了山東野戰軍可調回部份兵力，增援魯南戰場，但並不同意山野全軍北上，與華中野戰軍「名合實離」，陳毅接電頗有些猶豫，而華中分局首長們更是火急火燎。
鑒於粟裕不能離開部隊，張鼎丞和鄧子恢（華中分局書記）親自趕到了山野司令部，當面勸阻陳毅，請求山東野戰軍不要單獨北上，這幾位首長都是新四軍的老戰友了，面商很快有了結果：
陳毅決心以「贏棋不要家」的精神，聯合華中野戰軍首先在淮海區作戰，遏止住南線之敵後，再共同恢復魯南根據地和保衛臨沂，張鼎丞和鄧子恢頗感欣慰，9月12日當天匆匆趕回華中野戰軍，部署兩個野戰軍的合並工作。
不料陳毅一夜未眠，次日天明再次改變了決心，這次他不僅要指揮山野全軍北上，還打算帶上華中野戰軍的一部份，聯手粉碎魯南敵人的進攻，力保臨沂不失，在給軍委和華中分局的解釋電報中，陳毅著重擺出了兩個理由：
第一，兩淮之敵工事堅固，另有戰鬥力較強的桂軍在側，戰場條件不好；而在魯南地區，兩個野戰軍可得到「供應便利，易求運動戰，山野華野同去有勝利把握」；第二，如果臨沂失守，我軍「糧秣、新兵、軍工等項均陷混亂，前淮陰失守，已造成華中上述方面極大困難」！
陳毅最後的結論是：「故主力回魯南殲敵為有利，並望粟（裕）率1、6兩師迅速北移」，這封電報是9月13日的下午發出的，僅僅過了一夜，軍委的復電即至，毛主席生氣了！
三、兩個野戰軍終於完成合兵
事情很顯然，當時的陳老總，並沒有完全理解主席軍事思想的精髓：「存人失地，人地兩存；存地失人，人地兩失」！在敵強我弱的解放戰爭初期，仍然對山東解放區的首府臨沂，患得患失。
事實上，臨沂後來還是淪於敵手，但是華東野戰軍透過機動作戰大量殲敵後，解放臨沂只是水到渠成的事，淮陰如此，延安更是如此。毛主席因此對陳毅數日內兩次改變決心，非常不滿，在電文中責問道：
「現在因感渡（運）河向西作戰困難，而主張全軍入魯，假如入魯後仍感作戰困難，打不好仗，而蘇北各城又盡失，那時結果將如何？且渡（運）河是你自己曾經同意之方案，此次你與張、鄧會商，亦以渡河作戰為方案，何以13日亥電又不相同？」
電文的最後語氣非常嚴厲：「如按13日亥電執行（指山野和華野一部回師魯南），你與張、鄧、粟、譚諸同誌之間關系是否生影響？請對各方利害分析再告」！
陳毅認真讀罷主席的電文，深感自己改變決心過於輕率，決定堅持兩個野戰軍合兵作戰的既定方案，一邊電告延安「回魯南打算已暫緩」，一邊急電華中分局和華中野戰軍，要求粟裕即率主力前來沭陽會合。
軍委的復電第一時間就到了：「決心在淮北打大仗，甚慰」！毛主席在電文中，對兩個野戰軍合並後的戰略方針，給出了明確的指示，要求華東我軍集中兵力在二至三個月內，殲滅薛嶽7到10個旅，進而扭轉不利局面。
電報還首次明確，未來華東野戰軍的作戰指揮，應以粟裕為主：「為執行此神聖任務，陳、張、鄧、曾（山）、粟、譚團結協和極為必要，在陳領導下，大政方針共同決定，你們六人經常在一起，以免往返電商貽誤戎機，戰役指揮交粟負責」！
在毛主席的親自過問和促成下，山東野戰軍和華中野戰軍的聯合終於定型，為未來華東野戰軍在運動中大量殲敵，以及整個華東戰局的好轉，都起到了舉足輕重的作用。
時間還是被耽誤了，此間南線敵人以整編第74師為基幹，向漣水發起瘋狂進攻，粟裕、譚震林率華中野戰軍奮起抵抗，漣水保衛戰於10月19日打響，致使兩個野戰軍會師的計劃一拖再拖。
在粟譚缺席的情況下，華中分局和山東野戰軍領導層，於10月下旬在漣水西北的陳師庵召開了重要會議，研究落實兩個野戰軍合並、以及統一指揮的問題，史稱「陳師庵會議"，盡管會上陳毅遭到了一些批評，但是最終還是統一了思想。
1946年12月12日，粟裕終於趕到沭陽與陳毅會合，華東我軍「陳粟」的格局從此奠定，兩位首長根據淮北戰場的具體情況，決心集中山野、華野的主力，首先尋殲驕狂冒進的整編第69師，戰至12月19日，宿北戰役取得大捷，全殲整69師21000余人。
兩個野戰軍聯合作戰的優勢，就此體現得淋漓盡致，一戰消滅敵人一個嫡系整編師，更是華東戰場空前的勝利，毛主席專電表揚：「慶祝宿沭前線大勝利，望對一切有功將士傳令嘉獎」！興奮之情躍然紙上。
陳毅也大受鼓舞，認為宿北大捷最大的收獲，是兩個野戰軍統一了「集中兵力大打殲滅戰」的思想，在給軍委的報告中高興地表示：「（之前）我未能貫徹集中大兵的主張，今後可集中，部隊番號亦需統一，一面作戰，一面正商討整編辦法」。
許多年以後，粟裕大將回憶起宿北大捷，評價其為「華東戰區的一個轉折」，因為兩個野戰軍會師後，初次聯合作戰即告大勝，不僅士氣大增，兄弟部隊之間也產生了足夠的信任，為整編的順利進行打下了良好基礎。
陳粟趁熱打鐵，於1946年的最後幾天裏提兵北上，再殲整編第26師和第1快速縱隊，取得魯南戰役的大捷，也讓葉飛縱隊一雪前恥，之前猖狂之極的馬勵武和那些美制坦克，戰後都成為了我軍的俘虜，陳毅特別賦詩以賀。
在魯南大捷後的休整期，1947年1月下旬，山東野戰軍和華中野戰軍終於完成合並整編，威震天下的「華東野戰軍」從此誕生了！
