1952年6月20日，陈赓从朝鲜返回北京。
6月23日，陈赓向毛主席、周总理、朱老总等人汇报了朝鲜战局，与此同时，中央给陈赓安排了一项新的任务： 筹办军事工程学院！
由于此时的陈赓在北京没有职务，为此也就没有给他安排办公地点，他的家就成了 军事工程学院的筹备处。说起来是难以置信的，但事实却是如此，很多早期调军事工程学院的教授，都是现在他家落脚，然后转车前往哈尔滨。
其实纵观陈赓将军的一生，他是一位善于创造条件迅速开展工作的一名将领。
6月20日，与陈赓同日到达北京的第三兵团司令部副参谋长李懋之，赶到陈赓家给其汇报工作，不过由于其它原因的影响，陈赓将他的汇报推到了6月25日。
在25日这一天，陈赓内心很是兴奋。他从志愿军副司令员、第三兵团司令员高位上，忽然受命办学校，当一个学院的校长。他的兴奋，皆因为他凡事想的是国家之需！
陈赓在经过慎重的思考后，便决定让拟下月返回朝鲜战场的李懋之留下。「你不要回朝鲜了，另外给你安排工作。」在看到李懋之一脸不解的样子，陈赓便解释道： 「中央委托我筹建一所军事学校，你留下来帮我办学校。你马上返回邢台，将工作结束好，不要留下后遗症。这是我们国家第一所军事工程高等学府，很重要。」
陈赓以他向来的果断，在和毛主席、周总理面谈的那天已提出立即行动的方案。这大概也是毛主席和周总理欣赏他的缘故。他们共同决定：采用边建边学边教育的方针，尽快上马。先调一批教授来，学员则从各大军区选调。
陈赓将军在见过毛主席等人的第二天，便去找彭德怀聊天。当时彭德怀主持军委日常工作。军委决定西南军区第二高级步兵学校、华东军区军事科学研究室、第三兵团三家抽调部分干部作为建立军事工程学院的基础。
对于这个方案，彭德怀很支持。
这一方案的提出，可以追溯到1952年春节前后。中央和军委已多次酝酿过在更高一个层次上培养特种兵部队的技术人员。因为当时各军种办的专门学校，仍然限于培养普通操作人员，这已不能满足部队的需要。
不久后，由总参谋部起草的【关于成立军事工程学院的报告】，以代总参谋长聂荣臻、副总参谋长粟裕的签名上送中共中央。3月26日，毛主席批准了这一报告的实施。
不过有一个最大的问题，却在困扰着中央，那就是这所军事院校的院长该由谁来担任？
在经过毛主席和周总理等人的慎重考虑后，还是决定由陈赓来担任这个院长。陈赓将军身居军中高位，战功赫赫，但本人却又非常平易近人，况且人缘也非常好。
陈赓将军在接到这个任务后，就计划以战争一样的速度上马，展开工作部署。
1952年9月1日，陈赓在北京召开了军事工程学院筹备委员会第一次全体会议。陈赓在这次会议上，告诉大家这个筹委会8月22日已经中央军委批准成立，今天第一天开始在这里办公，以后每周一次碰头会，平常分头落实分工的任务。
办学校不是陈赓的长处，但是组织人、运用人，用其长避其短却是他的优势。陈赓将军清楚的知道，知识分子是他办学的依托所在。在之后的岁月中，陈赓将军曾倡导重用教授们，倡导老干部同老知识分子共同办校。
不过陈赓将军在筹办军事学校过程中，也是非常理智的，在陈赓看来： 筹委会中的教授们，长处是掌握中国一批学者名单，但完成学院的各项物资和行政准备却不能靠这些教授！
陈赓在这次会议上明确规定十项主要任务，三个月在北京基本完成前期筹备工作，12月1日全部人员转往哈尔滨办公。9月2日对各自准备分工的工作，提出问题来，9月3日再次开会敲定。
根据陈赓的提议，中央军委命令西南军区第二高级步兵学校的1400名排级以上干部和1600名战士、职工，于9月分期分批从重庆调往哈尔滨，华东军区军事科学研究室15名教授、专家，及282名干部、战士、职工于12月30日前全部到达哈尔滨。
第三兵团的部分干部也奉调陆续从朝鲜战场归国到哈尔滨就职。
在随后9月3日召开的筹备委员会上，有些同志认为：
这些调动的专家、教授几乎是跨部门、跨省市，并且都是所在地区和单位的栋梁之才，要让别人放人，除非是最高方面发话。再则，建校光有钱还不行，建筑材料等等要特别供应，才能保证施工进度。
为此大家提议，请周总理出面召开一次有关部委、军委各总部、各军兵种参加的联席会议，请求各方面支持。
陈赓和周总理的关系较一般将军更深，为此他在周总理面前非常随意。
在会议结束后，陈赓便驱车前往中南海，准备向周总理提出召开联席会议的请求。周总理在得知陈赓的想法后，很是同意，便立即与陈毅副总理联系，确定在9月5日在中南海召开联席会议，专门讨论军事工程学院筹建问题。
那天参加会议的阵容，可谓是开创了中国建设一所学校的先河，是中国教育史上一件独一无二的事。周总理和陈毅亲自主持这次会议，确立了哈尔滨军事工程学院在当时工作的地位和紧迫性。
在周总理讲话要大家全力支持这件事后，陈赓站起身来，拱手环顾一周说：
各位政府大臣，各位将军元帅，兄弟才疏学浅，诚惶诚恐接受了这个史无前例的任务。实在寝食难安，竭诚祈求各位军政首长，大力扶持兄弟一把。
当时有人插话道：「老陈，你什么时候都少不了说俏皮话。」
当时肖劲光等军兵种领导表示： 「为了办好学院，已有的武器装备要多少给多少。现在没有的，一等国外进口，就满足你们需要。」
政府方面人员也表态：「我们全力支持老陈办好这所学校。有什么要求尽管提出来。国内有的，优先调拨，国内没有的，去国外订货，尽最大努力满足你们办学要求。」
陈赓听后，便笑着说：「多谢多谢。大家真慷慨，要多少给多少。其实多给也不要，只要每样两套，一套做实物教学，一套解剖研究。」
在散会之后，陈赓将军将军还准备了一个问题单独请教周总理。陈赓和苏联专家接触过，他发现并不是处处都可以学习的。这方面陈赓有自己的见解，但是军事工程学院预计请来上百位苏联专家，多数为苏联军事院校教授，该如何和他们相处，陈赓认为必须由中央拿出一个原则或政策。
周总理在得知陈赓的的问题后，便直接对他说道：「你跟我一起请示主席吧。」
两人来到毛主席在中南海的住处，在得知两人的来意后，毛主席指示道：
在军事解学技术方面要全学人家的，这就是「洋为中用」的方针；在军事行政管理与训练方面，主要学习人家正规化建设与训练方面；在政治思想工作方面，要发扬我军数十年来行之有效的思想领先，政治挂帅传统，不搞一长制，不搞命令主义……
毛主席的这些指示后来一直贯彻到军事工程学院与苏联顾问相处的全过程，直到1960年中苏关系破裂。
在筹建哈军工的过程中，陈赓愈发感觉到人才的重要性。
陈赓很喜欢和下边人聊天，更好和文化人聊天。某次陈赓去恭俭胡同，与周祖同聊起往事，张述祖也坐在一侧。
张述祖是个有心人。他默默地听陈赓侃侃而谈。短短的相处，他以其历经两个朝代，见过诸多高官的经历判断，陈赓所谈皆发自肺腑，是真正想为振兴中华国防培养大批栋梁之材。
为此张述祖决心好好辅佐陈赓办好学院。张述祖早年归国始终投身教育，对教育界的名人了若指掌，对如何办学业深有研究。不久后，张述祖一口气写出了37名教授名单和其专长，及其现在所在地方，全都提供给陈赓选调。
对于张述祖而言，这是一次很费心思的慎重选择。倘若陈赓这些人只是要买一批武器，培养一些操作手，那么他就不值得提供这些学者名单，调那些专家来，或许就耽误了他们的治学和研究。
这些专家应该为中国培养科技基础人才的，而不是培养战斗员的。不过张述祖相信陈赓，看准了军事工程学院的目标，故而递上了那份名单。
那天，陈赓和张述祖长谈了一次。对于张述祖，陈赓很是尊重，为此向他询问如何办学。张述祖沉思片刻说：
大学之良好，全系于师资与设备之充实与否，而师资为第一要务。非如此难以把军事工程学院的学问做到高深处。设备现在看没问题，国家支持，经费不缺，又肯把经费往设备上花，事情就解决了。而教授非设备，可加班制造。十年树人，一朝有成，全国人才有数，非下大力聘请才有可能邀来德才兼备者。这是我们当前要务之要务。
从陈赓这之后调动教师的情况看，他十分重视张述祖的意见。为了一些教授的调动，他往往当成紧急军情一样，夜半找周恩来总理批复调令。
对于这些专家，陈赓很是重视，也常常请他们吃饭。
某天，陈赓大将见民航局来的专家几乎未带家人在北京，一问便知道他们住在民航局宿舍，每天赶来筹委会上班。于是陈赓便请大家来他家吃饭，一共十几个人坐了满满一桌，李懋之和张述祖都陪同在一起，大家互相探讨办学经验等等。
当时有位专家叫董绍庸，他一边吃饭，一边听着陈赓拉家常，常常不自主地走神了。董绍庸看着在座的同仁，他便想起一个人，在董绍庸看来，此人若来军事工程学院任教应该是个不可多得的人才。
但是令人遗憾的是，这个人注定到不了军事工程学院了。想到这里，董绍庸不由地叹了口气……
董绍庸忍不住和张述祖聊起了这件事：「此人原是在法国求学，学的弹道专业。」
张述祖听到后，急忙询问道：「弹道？在法国学习？他叫什么名字啊？」
董绍庸惋惜地说：「这个人叫，此人当过国民党的少将专员，很有才华，但热衷官场，学界与他往来甚少……」
张述祖听到这个名字后，终于想起来了： 「沈毅这个人还是一把好手，弹道学正缺人。我这个人的话又让学生听不懂，沈毅要是能来，今后炮兵专业课必讲弹道，有他用武之地。」
不过当张述祖得知沈毅因为贪污了巨额公款，被判了死罪时，他长叹一口气：「枉去法国一趟，他为什么……」
后来这件事传入了陈赓耳朵里，他立即找来张述祖了解情况。
在得知沈毅的情况后，陈赓说道： 「人才难求啊，失之容易，求之难。我们要下这个‘罪犯’如何？」
张述祖压根没想到要「罪犯」来当老师。他也深知共产党执法不讲情面，这能做到吗？陈赓毫不犹疑，转身便给负责这件事的同志打去电话，请对方刀下留人。
对方听到陈赓的要求后，便说：「你是爱惜人才，这个人被判了死刑你也要？好吧，你敢要，我就敢给。不过，你要保证将对方改造好哦。」
在得到陈赓的首肯后，对方继续说道： 「好吧，咱们共同给董老打个电话，光我一个人保不下来……」
当时董必武同志担任中华人民共和国最高法院院长，陈赓在知道找谁后，便立即找到董必武同志，向他提出一个请求： 能否留下沈毅，让他戴罪立功！
董必武在了解了前因后果后，便对陈赓说：「我知道你要这个人的原因，不过我得去请示下毛主席才行。」
事关重大，董必武在和陈赓谈话结束后，便立即赶往中南海见毛主席。董必武在见到毛主席后，便将陈赓向自己提出的请求和原因，都告诉了主席： 「这件事事关重大，我无法做决定，为此就来找你了。」
毛主席听后，叫工作人员将周总理叫来，三个人一起商量这件事。周总理在得知这件事后，便直言道：「董老，这个真是难题啊！不过陈赓说得也有点道理，现在国家很缺少高尖端技术人才……」
最终经过毛主席、周总理、董必武等人的研究，最终决定让沈毅戴罪立功。
这件事在军事工程学院的教师中间引起很大震动。陈赓对知识分子人才的重视给他们留下深刻印象。
1954年，根据中央军委的命令，陈赓担任人民解放军副总参谋长，主管全军作战工作。不过陈赓还是放心不下自己一手筹建的「哈军工」，在日理万机的情况下，仍兼任着哈军工院长。
正是在陈赓的关心下，军事工程学院发展很快，到1957年就初具规模： 校舍六十万平方米，教师一千六百人，专业三十四个，实验室一百四十九个，教材、图书、仪器、设备数量相当可观，也比较先进。
哪怕在陈赓将军重病时，他依旧亲笔给主持学院工作的领导同志和党委常委写信，对调整后的学校工作提出了六条建议：
（一）抓思想；(二)发挥老教授的积极性；(三)培养更多更好的青年知识分子，组成科学队伍；(四)大力抓科学研究工作，要搞出成就；(五) 要改善教师、教员、学员的生活，不能有丝毫疏忽；(六) 要给教授、教员、学员以充分研究和自学的时间。
这是陈赓大将写给学院党委的最后一封信，其后不到半年的时间，陈赓便因病逝世了。 这封语重心长，深谋远虑的信，实际上成为了陈赓对办好军事工程学院的遗嘱。
