1952年6月20日，陳賡從北韓返回北京。
6月23日，陳賡向毛主席、周總理、朱老總等人匯報了北韓戰局，與此同時，中央給陳賡安排了一項新的任務： 籌辦軍事工程學院！
由於此時的陳賡在北京沒有職務，為此也就沒有給他安排辦公地點，他的家就成了 軍事工程學院的籌備處。說起來是難以置信的，但事實卻是如此，很多早期調軍事工程學院的教授，都是現在他家落腳，然後轉車前往哈爾濱。
其實縱觀陳賡將軍的一生，他是一位善於創造條件迅速開展工作的一名將領。
6月20日，與陳賡同日到達北京的第三兵團司令部副參謀長李懋之，趕到陳賡家給其匯報工作，不過由於其它原因的影響，陳賡將他的匯報推到了6月25日。
在25日這一天，陳賡內心很是興奮。他從誌願軍副司令員、第三兵團司令員高位上，忽然受命辦學校，當一個學院的校長。他的興奮，皆因為他凡事想的是國家之需！
陳賡在經過慎重的思考後，便決定讓擬下月返回北韓戰場的李懋之留下。「你不要回北韓了，另外給你安排工作。」在看到李懋之一臉不解的樣子，陳賡便解釋道： 「中央委托我籌建一所軍事學校，你留下來幫我辦學校。你馬上返回邢台，將工作結束好，不要留下後遺癥。這是我們國家第一所軍事工程高等學府，很重要。」
陳賡以他向來的果斷，在和毛主席、周總理面談的那天已提出立即行動的方案。這大概也是毛主席和周總理欣賞他的緣故。他們共同決定：采用邊建邊學邊教育的方針，盡快上馬。先調一批教授來，學員則從各大軍區選調。
陳賡將軍在見過毛主席等人的第二天，便去找彭德懷聊天。當時彭德懷主持軍委日常工作。軍委決定西南軍區第二高級步兵學校、華東軍區軍事科學研究室、第三兵團三家抽調部份幹部作為建立軍事工程學院的基礎。
對於這個方案，彭德懷很支持。
這一方案的提出，可以追溯到1952年春節前後。中央和軍委已多次醞釀過在更高一個層次上培養特種兵部隊的技術人員。因為當時各軍種辦的專門學校，仍然限於培養普通操作人員，這已不能滿足部隊的需要。
不久後，由總參謀部起草的【關於成立軍事工程學院的報告】，以代總參謀長聶榮臻、副總參謀長粟裕的簽名上送中共中央。3月26日，毛主席批準了這一報告的實施。
不過有一個最大的問題，卻在困擾著中央，那就是這所軍事院校的院長該由誰來擔任？
在經過毛主席和周總理等人的慎重考慮後，還是決定由陳賡來擔任這個院長。陳賡將軍身居軍中高位，戰功赫赫，但本人卻又非常平易近人，況且人緣也非常好。
陳賡將軍在接到這個任務後，就計劃以戰爭一樣的速度上馬，展開工作部署。
1952年9月1日，陳賡在北京召開了軍事工程學院籌備委員會第一次全體會議。陳賡在這次會議上，告訴大家這個籌委會8月22日已經中央軍委批準成立，今天第一天開始在這裏辦公，以後每周一次碰頭會，平常分頭落實分工的任務。
辦學校不是陳賡的長處，但是組織人、運用人，用其長避其短卻是他的優勢。陳賡將軍清楚的知道，知識分子是他辦學的依托所在。在之後的歲月中，陳賡將軍曾倡導重用教授們，倡導老幹部同老知識分子共同辦校。
不過陳賡將軍在籌辦軍事學校過程中，也是非常理智的，在陳賡看來： 籌委會中的教授們，長處是掌握中國一批學者名單，但完成學院的各項物資和行政準備卻不能靠這些教授！
陳賡在這次會議上明確規定十項主要任務，三個月在北京基本完成前期籌備工作，12月1日全部人員轉往哈爾濱辦公。9月2日對各自準備分工的工作，提出問題來，9月3日再次開會敲定。
根據陳賡的提議，中央軍委命令西南軍區第二高級步兵學校的1400名排級以上幹部和1600名戰士、職工，於9月分期分批從重慶調往哈爾濱，華東軍區軍事科學研究室15名教授、專家，及282名幹部、戰士、職工於12月30日前全部到達哈爾濱。
第三兵團的部份幹部也奉調陸續從北韓戰場歸國到哈爾濱就職。
在隨後9月3日召開的籌備委員會上，有些同誌認為：
這些調動的專家、教授幾乎是跨部門、跨省市，並且都是所在地區和單位的棟梁之才，要讓別人放人，除非是最高方面發話。再則，建校光有錢還不行，建築材料等等要特別供應，才能保證施工進度。
為此大家提議，請周總理出面召開一次有關部委、軍委各總部、各軍兵種參加的聯席會議，請求各方面支持。
陳賡和周總理的關系較一般將軍更深，為此他在周總理面前非常隨意。
在會議結束後，陳賡便驅車前往中南海，準備向周總理提出召開聯席會議的請求。周總理在得知陳賡的想法後，很是同意，便立即與陳毅副總理聯系，確定在9月5日在中南海召開聯席會議，專門討論軍事工程學院籌建問題。
那天參加會議的陣容，可謂是開創了中國建設一所學校的先河，是中國教育史上一件獨一無二的事。周總理和陳毅親自主持這次會議，確立了哈爾濱軍事工程學院在當時工作的地位和緊迫性。
在周總理講話要大家全力支持這件事後，陳賡站起身來，拱手環顧一周說：
各位政府大臣，各位將軍元帥，兄弟才疏學淺，誠惶誠恐接受了這個史無前例的任務。實在寢食難安，竭誠祈求各位軍政首長，大力扶持兄弟一把。
當時有人插話道：「老陳，你什麽時候都少不了說俏皮話。」
當時肖勁光等軍兵種領導表示： 「為了辦好學院，已有的武器裝備要多少給多少。現在沒有的，一等國外進口，就滿足你們需要。」
政府方面人員也表態：「我們全力支持老陳辦好這所學校。有什麽要求盡管提出來。國內有的，優先調撥，國內沒有的，去國外訂貨，盡最大努力滿足你們辦學要求。」
陳賡聽後，便笑著說：「多謝多謝。大家真慷慨，要多少給多少。其實多給也不要，只要每樣兩套，一套做實物教學，一套解剖研究。」
在散會之後，陳賡將軍將軍還準備了一個問題單獨請教周總理。陳賡和蘇聯專家接觸過，他發現並不是處處都可以學習的。這方面陳賡有自己的見解，但是軍事工程學院預計請來上百位蘇聯專家，多數為蘇聯軍事院校教授，該如何和他們相處，陳賡認為必須由中央拿出一個原則或政策。
周總理在得知陳賡的的問題後，便直接對他說道：「你跟我一起請示主席吧。」
兩人來到毛主席在中南海的住處，在得知兩人的來意後，毛主席指示道：
在軍事解學技術方面要全學人家的，這就是「洋為中用」的方針；在軍事行政管理與訓練方面，主要學習人家正規化建設與訓練方面；在政治思想工作方面，要發揚我軍數十年來行之有效的思想領先，政治掛帥傳統，不搞一長制，不搞命令主義……
毛主席的這些指示後來一直貫徹到軍事工程學院與蘇聯顧問相處的全過程，直到1960年中蘇關系破裂。
在籌建哈軍工的過程中，陳賡愈發感覺到人才的重要性。
陳賡很喜歡和下邊人聊天，更好和文化人聊天。某次陳賡去恭儉胡同，與周祖同聊起往事，張述祖也坐在一側。
張述祖是個有心人。他默默地聽陳賡侃侃而談。短短的相處，他以其歷經兩個朝代，見過諸多高官的經歷判斷，陳賡所談皆發自肺腑，是真正想為振興中華國防培養大批棟梁之材。
為此張述祖決心好好輔佐陳賡辦好學院。張述祖早年歸國始終投身教育，對教育界的名人了若指掌，對如何辦學業深有研究。不久後，張述祖一口氣寫出了37名教授名單和其專長，及其現在所在地方，全都提供給陳賡選調。
對於張述祖而言，這是一次很費心思的慎重選擇。倘若陳賡這些人只是要買一批武器，培養一些操作手，那麽他就不值得提供這些學者名單，調那些專家來，或許就耽誤了他們的治學和研究。
這些專家應該為中國培養科技基礎人才的，而不是培養戰鬥員的。不過張述祖相信陳賡，看準了軍事工程學院的目標，故而遞上了那份名單。
那天，陳賡和張述祖長談了一次。對於張述祖，陳賡很是尊重，為此向他詢問如何辦學。張述祖沈思片刻說：
大學之良好，全系於師資與裝置之充實與否，而師資為第一要務。非如此難以把軍事工程學院的學問做到高深處。裝置現在看沒問題，國家支持，經費不缺，又肯把經費往裝置上花，事情就解決了。而教授非裝置，可加班制造。十年樹人，一朝有成，全國人才有數，非下大力聘請才有可能邀來德才兼備者。這是我們當前要務之要務。
從陳賡這之後調動教師的情況看，他十分重視張述祖的意見。為了一些教授的調動，他往往當成緊急軍情一樣，夜半找周恩來總理批復調令。
對於這些專家，陳賡很是重視，也常常請他們吃飯。
某天，陳賡大將見民航局來的專家幾乎未帶家人在北京，一問便知道他們住在民航局宿舍，每天趕來籌委會上班。於是陳賡便請大家來他家吃飯，一共十幾個人坐了滿滿一桌，李懋之和張述祖都陪同在一起，大家互相探討辦學經驗等等。
當時有位專家叫董紹庸，他一邊吃飯，一邊聽著陳賡拉家常，常常不自主地走神了。董紹庸看著在座的同仁，他便想起一個人，在董紹庸看來，此人若來軍事工程學院任教應該是個不可多得的人才。
但是令人遺憾的是，這個人註定到不了軍事工程學院了。想到這裏，董紹庸不由地嘆了口氣……
董紹庸忍不住和張述祖聊起了這件事：「此人原是在法國求學，學的彈道專業。」
張述祖聽到後，急忙詢問道：「彈道？在法國學習？他叫什麽名字啊？」
董紹庸惋惜地說：「這個人叫，此人當過國民黨的少將專員，很有才華，但熱衷官場，學界與他往來甚少……」
張述祖聽到這個名字後，終於想起來了： 「沈毅這個人還是一把好手，彈道學正缺人。我這個人的話又讓學生聽不懂，沈毅要是能來，今後炮兵專業課必講彈道，有他用武之地。」
不過當張述祖得知沈毅因為貪汙了巨額公款，被判了死罪時，他長嘆一口氣：「枉去法國一趟，他為什麽……」
後來這件事傳入了陳賡耳朵裏，他立即找來張述祖了解情況。
在得知沈毅的情況後，陳賡說道： 「人才難求啊，失之容易，求之難。我們要下這個‘罪犯’如何？」
張述祖壓根沒想到要「罪犯」來當老師。他也深知共產黨執法不講情面，這能做到嗎？陳賡毫不猶疑，轉身便給負責這件事的同誌打去電話，請對方刀下留人。
對方聽到陳賡的要求後，便說：「你是愛惜人才，這個人被判了死刑你也要？好吧，你敢要，我就敢給。不過，你要保證將對方改造好哦。」
在得到陳賡的首肯後，對方繼續說道： 「好吧，咱們共同給董老打個電話，光我一個人保不下來……」
當時董必武同誌擔任中華人民共和國最高法院院長，陳賡在知道找誰後，便立即找到董必武同誌，向他提出一個請求： 能否留下沈毅，讓他戴罪立功！
董必武在了解了前因後果後，便對陳賡說：「我知道你要這個人的原因，不過我得去請示下毛主席才行。」
事關重大，董必武在和陳賡談話結束後，便立即趕往中南海見毛主席。董必武在見到毛主席後，便將陳賡向自己提出的請求和原因，都告訴了主席： 「這件事事關重大，我無法做決定，為此就來找你了。」
毛主席聽後，叫工作人員將周總理叫來，三個人一起商量這件事。周總理在得知這件事後，便直言道：「董老，這個真是難題啊！不過陳賡說得也有點道理，現在國家很缺少高尖端技術人才……」
最終經過毛主席、周總理、董必武等人的研究，最終決定讓沈毅戴罪立功。
這件事在軍事工程學院的教師中間引起很大震動。陳賡對知識分子人才的重視給他們留下深刻印象。
1954年，根據中央軍委的命令，陳賡擔任人民解放軍副總參謀長，主管全軍作戰工作。不過陳賡還是放心不下自己一手籌建的「哈軍工」，在日理萬機的情況下，仍兼任著哈軍工院長。
正是在陳賡的關心下，軍事工程學院發展很快，到1957年就初具規模： 校舍六十萬平方米，教師一千六百人，專業三十四個，實驗室一百四十九個，教材、圖書、儀器、裝置數量相當可觀，也比較先進。
哪怕在陳賡將軍重病時，他依舊親筆給主持學院工作的領導同誌和黨委常委寫信，對調整後的學校工作提出了六條建議：
（一）抓思想；(二)發揮老教授的積極性；(三)培養更多更好的青年知識分子，組成科學隊伍；(四)大力抓科學研究工作，要搞出成就；(五) 要改善教師、教員、學員的生活，不能有絲毫疏忽；(六) 要給教授、教員、學員以充分研究和自學的時間。
這是陳賡大將寫給學院黨委的最後一封信，其後不到半年的時間，陳賡便因病逝世了。 這封語重心長，深謀遠慮的信，實際上成為了陳賡對辦好軍事工程學院的遺囑。
