1946年春國民政府鑒於過去軍政部負責生產、儲存，後方勤務總司令部負責分配、運輸、補給而產生的事權分割、互相制掣脫節之弊，經中美軍官多次會議研討決定，為達成供應、補給業務能自成一體的獨立系統，以陸、海、空三軍後方勤務統一辦理為原則，將原後方勤務司令部及軍政部所屬單位（軍需署、兵工署、軍醫署）合並，改編成立聯合勤務總司令部，隸屬國防部，為陸、海、空三軍聯合後方勤務部門。
聯合勤務總司令部職掌為：依國防部頒訂之聯勤部隊建設方略關於聯勤部隊建設計劃之策定及執行；依國防部頒訂之國防作戰計劃及動員復員計劃關於補給執行計劃及聯勤部隊動員復員計劃之策定及執行；依國防部規定之方針及員額對所屬單位編組之實施；;依國防部頒訂訓練方針關於聯勤部隊訓練計劃之策定及執行；依國防部頒訂之補給政策關於陸、海、空軍共同性補給品裝備之處理事項；依國防部之人事政策，關於聯勤單位校尉官之任職、調遣、考績、獎懲等處理事項；關於軍需工業建設計劃之策定及陸、海、空軍一般性兵器裝備之研究與發展事項；有關軍需工業之民營工業之督導連聯事項；關於聯勤單位預算之編造事項；辦理陸海空軍之營舍、倉庫、醫藥、衛生、福利等事項；關於俘虜營管理之設施事項；關於聯勤單位一般行政處理事項。
聯合勤務總司令部設總司令1人，副總司令3人，參謀長1人。1946年5月31日特任黃鎮球為總司令，黃於7月1日就任。1947年6月7日黃鎮球調任參謀次長，特任郭懺為總司令。1946年6月29日任命黃維、陳良、何世禮為副總司令。1948年2月又任命黃仁霖為副總司令，任命趙桂森為參謀長。
聯合勤務總司令部內設有辦公室和計劃指導處，為部內辦公機構。辦公室掌理文書檔案之處理與典守印信事項及公文程式及其效率之管理與策進。計劃指導處掌理擬訂達成聯合勤務部隊補給、醫護、撤退等任務計劃與方針；勤務設施步驟與有關經濟事項及勤務實施程式研究建議；勤務統計之研究策進與勤務部隊作戰效率資料之搜集、整理、編撰。
聯合勤務總司令部下轄憲兵司令部、特種勤務處、工程署、財務署、軍醫署、兵工署、經理署、通訊署、運輸署、撫恤處等單位，負責掌理陸、海、空軍的公共聯合勤務業務；人事、情報、勤務、補給、物資、總務、外事、訓練等8個處，用以掌理聯勤總部內部及所屬部隊業務。
憲兵司令部 ，前身為軍事委員會所屬憲兵司令部。該司令部轄總務、警務、人事、軍械、經理、軍醫、軍法7個處。其職權為擔任元首及國防部之警衛；整飭軍紀、防護 軍機 、維護軍容及鎮壓騷動；軍人犯罪與軍事犯罪及外事犯罪之調查、拘捕、偵訊及押解；查緝間諜奸細、警防敵人之潛伏與活動；俘虜管理、偵訊及押解。1946年6月5日任命張鎮為憲兵司令。
特種勤務處 ，下設視察室和第一、第二、第三3個組及交際科。負責掌理軍中匯兌及合作社業務；辦理有關交際事項；辦理體育器材、娛樂及演奏宴會等事項；辦理圖書館、俱樂部及其他娛樂設施。1946年6月5日任命錢壽怡為特種勤務處處長。
工程署 ，合軍政部工兵、營造司和後方勤務部等司署而編成。下設總務、工兵、器材、營建、營產5個司和財務科。掌理確保裝備及補給品能依補給計劃按時定量補給部隊；訓練工兵部隊及其使用事項；確保軍事建築計劃適時執行；籌置並處理軍隊不動產；監督工兵補給品及裝備采辦、儲備與分配事項。1946年6月5日任命林伯森為工程署署長，黃顯灝為副署長。6月29日林伯森調往陸軍總司令部任參謀長，柳際明接任署長職。
財務署 ，由原軍政部財務司、會計長辦公室和後方勤務部財務部門合並改編而成。下設總務處和綜計、稽核、給與3個司及出納科。掌軍費分配之執行管制、運用之規劃審議及支出之稽核監督；有關給與之研究實施；會計審計制度之設計頒行；聯勤總部所屬各級財務機構之指導考核。1946年6月5日任命孫作人為署長。
軍醫署 ，由軍政部軍醫署改編而成。下設總務處和財務、醫務統計2個科及衛生勤務、銓訓、供應、專門技術、預防醫學、榮善6個司。掌握確定軍人之體格標準；以適宜之防疫及各科治療技術與完善醫院之器材復康等設施，保持軍隊之戰鬥力；組織訓練各種衛生單位，供應勤務及作戰部隊之需要；適切供應軍醫業務所需器材及裝備，配合軍事補給計劃，準備充足數量使無匱乏。1946年6月5日任命林可勝為署長。
兵工署 ，由軍政部兵工署改編而成。轄總務、財務、警務3個處和訓練、工業、研究發展、外勤、化學5個司。掌關於裝備及補給品之發展、設計、采辦、保養事項；關於訓練專門兵工部隊及人員事項；關於兵器及其原料之試驗、研究及發展事項；管理並監督兵工廠一切業務；依國防部規定原則擬訂並行揮化學戰之戰術原理。1946年6月5日任命楊繼曾為署長。
經理署 ，由軍政部馬政、儲備司和後方勤務有關部門合並改編而成。轄考核室和技術采購2個委員會及生產、儲備、糧秣、馬政4個司，還有總務處、財務科。掌糧秣被裝具及一般物品之籌辦、生產、儲備、分配、補給；建立軍需工業，管制軍需資源及民營軍需工業之指導；各級經理（含獸醫）人員之訓練並提高其素質；軍馬之補充、訓練、改良、蓄殖、保養、除疫及種馬之培育與民馬之指導管制；官兵眷屬福利之籌劃供應並研究其改進。1946年6月5日任命陳良為署長。
通訊署 ，由原軍政部軍務署所屬通訊兵組等機構改編成立。轄管訓、器材2個司，總務、技術2個處和1個財務科。掌設施並運用各種通訊網與編練各種通訊部隊;調整及創制通訊器材通訊方法及程式，並使其標準化;負責采辦、補給各種通訊器材;按補給計劃所定之數量及時期，主持通訊兵裝備之研究、發展、制造、購買、保管、補充及修理;擔任軍事通訊及軍隊照相事宜。1946年6月5日任命吳仲直為署長。
運輸署 ，由軍政部交通司和後方勤務部運輸機構合並編成。下設陸運、航運、鐵運、供應、訓練5個司和總務處。掌指導、協調、監督國防部一切運輸業務，並辦理軍事運輸之設施；指導國營、民營各種交通（包括水陸空各種運輸）器材之改進與運用；汽輜及其他交通部隊編制、裝備、補充及訓練；軍事運輸工具、器材、燃料之設計、籌辦、修理、保管及配發。1946年6月5日任命郗恩綏為署長。
撫恤處 由軍事委員會所屬撫恤委員會改編而成。下設總務、核恤、恤金3個組。掌關於陸海空軍撫法規、章制擬撰修正、解釋及編纂；辦理陸海空軍陣亡、病故及傷殘恤金核定事項；辦理恤金發給事項；關於陸海空軍忠烈事跡表揚、褒獎及遺屬福利之設計及執行事項。1946年6月29日任命吳子健為處長。同年9月17日吳子健被免處長職，由吳仲行接任處長。
人事處 ，掌本部所屬軍事人員和非軍事人員之需要、獲取、分配等計劃。
情報處 ，掌擬訂聯勤技術情報與防止情報外泄等計劃，並監督其實施;對敵方裝備與擄獲武器之研究及報告；有關交通運輸、物資與倉儲補給等情報之搜集研究與聯絡事項。
勤務處 ，掌稽核並建議勤務部隊機關之編制、裝備；搜集整理部隊及機關之編成、調動、設撤等資料；監督運輸業務之實施及永久通訊體制之器材業務。
補給處 ，掌綜理一切補給品與裝備等之儲藏、分配、保養及補給事項；研究擬訂改進與釋出補給品之優先順序及目錄表冊；計劃配合及監督全部儲藏與物資之處理常式。
訓練處 ，掌會同（總參謀部）第五廳建立勤務部隊軍事訓練之標準；確定勤務部隊軍事訓練之正確原則及技術，以達成軍訓標準；頒布實施預備（入伍）訓練與特種訓練之計劃及其程式。
物資處 ，掌各種補給品及勤務部隊裝備之研究、發展與協助事項；綜核有關補給方案之采購與生產事項；編擬、利用國際物資之需要方案並監理實施。
總務處 ，辦理本部之經理給養及交際聯絡；辦理本部之官兵福利及娛樂事項；關於軍風紀之維持與士兵管訓事項。
外事處 ，掌對外賓之接待、聯絡與調查及交通之協助事項譯述與對外文稿編撰事項；協助軍事顧問團之福利事項。
