1952年6月，為發(fā)展現(xiàn)代軍事技術(shù)，培養(yǎng)現(xiàn)代軍事工程技術(shù)人才，中共中央研究決定，把志愿軍代司令陳賡從朝鮮戰(zhàn)場上抽調(diào)回來，籌建中國人民解放軍軍事工程學(xué)院。
9月1日，經(jīng)中央軍委批準(zhǔn)，軍事工程學(xué)院籌備委員會在北京地安門恭儉胡同59號院組成，陳賡被任命為主任。1953年4月25日，學(xué)院基建破土動工，陳賡鏟下第一鍬土。
9月1日，以第一期學(xué)員開學(xué)典禮為標(biāo)志，中國人民解放軍軍事工程學(xué)院在哈爾濱如期開學(xué)，陳賡被任命為院長兼政委。
在陳賡的領(lǐng)導(dǎo)下，軍事工程學(xué)院建設(shè)事業(yè)于1955年初具規(guī)模。1957年底，第一期學(xué)員完成了畢業(yè)答辯(個別專業(yè)是畢業(yè)考試)，學(xué)院教學(xué)工作走完一個周期，至此，學(xué)院基本建成。錢學(xué)森1959年1月23日來學(xué)院參觀時說:“在我國現(xiàn)有的條件下，這么短的時間內(nèi)辦起這樣一所完整的、綜合性的軍事技術(shù)院校，在世界上也是奇跡�！�
從1953年9月1日到1966年6月l日，學(xué)院共招收13期18233名學(xué)員，培養(yǎng)出一萬多名畢業(yè)生，研制出許多國內(nèi)外先進水平的重大科技成果，多項科技成果填補了國防高科技的空白。
新中國成立不久，我國領(lǐng)導(dǎo)人就開始考慮發(fā)展自己的導(dǎo)彈技術(shù)。1954年，陳賡隨同彭德懷所率軍事代表團赴蘇聯(lián)參觀原子彈爆炸實兵對抗軍事演習(xí)，深受觸動，回國后就考慮要著手培養(yǎng)原子彈、導(dǎo)彈人才。錢學(xué)森曾回憶說:“我回國搞導(dǎo)彈，第一個跟我說這事的就是陳賡大將�！�
1955年11月初，在陳賡的倡導(dǎo)下，哈軍工的任新民、周曼殊、金家駿三位教員給國防部寫了一封信，提出研制我國火箭的建議。在陳賡的啟發(fā)和配合下，1956年成立了導(dǎo)彈研究院，此后，陳賡一直很關(guān)心這項工作，還親自從哈軍工抽調(diào)一批專家和教授支援，組織了中國發(fā)展導(dǎo)彈事業(yè)的第一批骨干力量。
隨著中央軍委批準(zhǔn)哈軍工空軍工程系建立我國導(dǎo)彈專業(yè)，哈軍工于1958年在空軍工程系下設(shè)導(dǎo)彈原子科，并于1959年2月正式成立導(dǎo)彈工程系(1961年以后改為火箭工程系)，這是我國第一個導(dǎo)彈工程系，下設(shè)彈體發(fā)動機、自動控制、無線電遙控遙測、飛行力學(xué)和射擊原理、特種武器5個專業(yè)。時任導(dǎo)彈研究院院長的錢學(xué)森再次來到哈軍工，就導(dǎo)彈工程系成立后同五院的合作問題與學(xué)院領(lǐng)導(dǎo)交換意見。陳賡還派人搶建了存放我國最早的教學(xué)導(dǎo)彈1059(我國從原蘇聯(lián)引進的第一枚彈道導(dǎo)彈)的庫房，保證了導(dǎo)彈工程系的教育教學(xué)工作順利開展。
陳賡指出：“處在今天的原子、火箭時代，我們有可能、而且必須積極運用各種科學(xué)技術(shù)成就，大力培養(yǎng)高質(zhì)量的科技人才，以加速我軍現(xiàn)代化建設(shè)�！备鶕�(jù)軍委以導(dǎo)彈為重點的發(fā)展方針和學(xué)校實際，陳賡認為，全軍只辦一所綜合性的技術(shù)學(xué)院無論如何都不能滿足需要。從1960年下半年，分建工作全面展開。1961年8月，學(xué)院又相繼成立了原子工程系和電子工程系。兩個系的很多專業(yè)科目都是20世紀60年代的尖端專業(yè)。那時核武器問世才十幾年，我國還沒有原子彈，哈軍工卻已經(jīng)設(shè)置了核爆炸、核動力等�？�。
為了克服師資力量相對薄弱問題，陳賡請示周恩來總理批準(zhǔn)，從留蘇的導(dǎo)彈、原子彈專業(yè)畢業(yè)的研究生和地方重點大學(xué)的畢業(yè)生中，抽調(diào)一批科技人員擔(dān)任教學(xué)、科研工作。
為了解決教材問題，陳賡曾指示國防部辦公廳讓駐外使館的武官搜集外國相關(guān)資料，直接寄到學(xué)院，教授們翻譯后將內(nèi)容編入教材。哈軍工教師王孝先編寫的《核物理》、陸埮編寫的《核武器殺傷破壞因素》成為我國早期核武器試驗時必讀的參考書，張若琪編寫的《內(nèi)爆力學(xué)講義》、歐陽昌宇編寫的《原子核反應(yīng)堆理論綱要》成為我國原子專業(yè)的第一批專業(yè)教材。
在陳賡倡導(dǎo)下創(chuàng)建的導(dǎo)彈、原子、電子等尖端系及專業(yè)，培養(yǎng)了一大批國防科技事業(yè)發(fā)展急需的專業(yè)人才，為我國“兩彈一星”事業(yè)的起步準(zhǔn)備好了人才庫。