在城南莊會議後，粟裕將軍改變了原有的率領十萬軍隊下江南的戰略思想，轉向在中原地區消滅敵人的有生力量。他立下軍令狀，誓言要殲滅國軍五大主力之一的邱清泉第五軍。
為了實作這一目標，粟裕率領華野第一兵團在中原地區四處奔波，尋找捕捉邱清泉第五軍的機會。然而，邱清泉非常狡猾，近兩個月來粟裕始終未能成功。
原來，陳士榘和唐亮的集團由劉鄧指揮，現在為殲滅第五軍，軍委命令他們接受粟裕的指揮。面對這種狀況，陳士榘和唐亮向粟裕提出了建議：「不要局限於固定的物件或固定地區，……」
陳士榘回憶錄中描述了這樣一件事：5月30日，華東野司率領一、四、六、特種、兩廣縱隊，從東面的張秋鎮和西面的新莊集之間開始，由中原野戰軍十一縱隊在後面策應，開始過黃河；6月2日，所有部隊都順利過河後，準備和西兵團三、八、十縱隊一起圍殲邱清泉兵團。
但是邱清泉相當狡猾，他和其他敵軍意識到他們每次分兵作戰都會吃虧，當我野司的部隊過河後，立即收縮在定陶和城武一線，另外又緊急將原來在臨沂的八十三師調到金鄉，淮南的六十三師一百八十六旅調到商丘，蘇北的七十二師和淮南的二十五師分別集中到新安鎮、徐州待命策應，企圖集中優勢兵力，迫使我與他們在魯西南決戰。
這樣我軍雖在6月5日和13日兩次準備圍殲敵五軍和七十五師，但由於敵人步步為營，固守陣地，使得我們無法分割包圍，因此正在考慮放棄原定作戰計劃。
粟裕6月9日提出了一個想法，那就是讓三、八縱隊的一部份假裝攻擊開封，吸引敵軍增援，然後再根據情況采取行動。
我和唐亮考慮後，立即在10日回復說，目前應該避開魯西南，轉到敵人的側後，調動敵人在運動中殲擊，更為有利，並提出不要被固定的目標或地區所限制，以免錯失戰機。
根據毛主席關於「先打分散和孤立之敵，後打集中和強大之敵」、「力求在運動中殲滅敵人」的作戰原則，粟裕當機立斷，決定改變原在魯西南殲敵的決定，命令我們出其不意，奇襲開封，以此來分散魯西南的敵軍，以便在運動中尋機殲敵。
在豫東戰役發起前，粟裕打算消滅敵邱清泉的第五軍，但由於敵軍密集靠攏，我軍難以分割，粟裕曾提出多種作戰方案，但都不能實施。
經過一個月的思考，粟裕在1948年6月9日提出了新的作戰方案，即三、八縱一部佯攻開封，吸引敵軍增援。陳士榘、唐亮在接到粟裕的方案後，提出了避開魯西南，轉入敵之側後，以殲滅可能殲滅之敵有生力量為有利的建議，並建議粟裕不要被固定物件或地區所限。
粟裕接此建議後，於12日決定放棄在定陶打五軍的計劃，並讓陳、唐偵察開封情況。15日，粟裕決定先開啟封，後殲援軍，並下令陳、唐包圍開封並攻占之。
中央軍委同意了這一部署，陳、唐的建議對粟裕改變打五軍的決心並定下開啟封的決策起到了關鍵作用。
