1946年春国民政府鉴于过去军政部负责生产、储存，后方勤务总司令部负责分配、运输、补给而产生的事权分割、互相制掣脱节之弊，经中美军官多次会议研讨决定，为达成供应、补给业务能自成一体的独立系统，以陆、海、空三军后方勤务统一办理为原则，将原后方勤务司令部及军政部所属单位（军需署、兵工署、军医署）合并，改编成立联合勤务总司令部，隶属国防部，为陆、海、空三军联合后方勤务部门。
联合勤务总司令部职掌为：依国防部颁订之联勤部队建设方略关于联勤部队建设计划之策定及执行；依国防部颁订之国防作战计划及动员复员计划关于补给执行计划及联勤部队动员复员计划之策定及执行；依国防部规定之方针及员额对所属单位编组之实施；;依国防部颁订训练方针关于联勤部队训练计划之策定及执行；依国防部颁订之补给政策关于陆、海、空军共同性补给品装备之处理事项；依国防部之人事政策，关于联勤单位校尉官之任职、调遣、考绩、奖惩等处理事项；关于军需工业建设计划之策定及陆、海、空军一般性兵器装备之研究与发展事项；有关军需工业之民营工业之督导连联事项；关于联勤单位预算之编造事项；办理陆海空军之营舍、仓库、医药、卫生、福利等事项；关于俘虏营管理之设施事项；关于联勤单位一般行政处理事项。
联合勤务总司令部设总司令1人，副总司令3人，参谋长1人。1946年5月31日特任黄镇球为总司令，黄于7月1日就任。1947年6月7日黄镇球调任参谋次长，特任郭忏为总司令。1946年6月29日任命黄维、陈良、何世礼为副总司令。1948年2月又任命黄仁霖为副总司令，任命赵桂森为参谋长。
联合勤务总司令部内设有办公室和计划指导处，为部内办公机构。办公室掌理文书档案之处理与典守印信事项及公文程序及其效率之管理与策进。计划指导处掌理拟订达成联合勤务部队补给、医护、撤退等任务计划与方针；勤务设施步骤与有关经济事项及勤务实施程序研究建议；勤务统计之研究策进与勤务部队作战效率资料之搜集、整理、编撰。
联合勤务总司令部下辖宪兵司令部、特种勤务处、工程署、财务署、军医署、兵工署、经理署、通信署、运输署、抚恤处等单位，负责掌理陆、海、空军的公共联合勤务业务；人事、情报、勤务、补给、物资、总务、外事、训练等8个处，用以掌理联勤总部内部及所属部队业务。
宪兵司令部 ，前身为军事委员会所属宪兵司令部。该司令部辖总务、警务、人事、军械、经理、军医、军法7个处。其职权为担任元首及国防部之警卫；整饬军纪、防护 军机 、维护军容及镇压骚动；军人犯罪与军事犯罪及外事犯罪之调查、拘捕、侦讯及押解；查缉间谍奸细、警防敌人之潜伏与活动；俘虏管理、侦讯及押解。1946年6月5日任命张镇为宪兵司令。
特种勤务处 ，下设视察室和第一、第二、第三3个组及交际科。负责掌理军中汇兑及合作社业务；办理有关交际事项；办理体育设备、娱乐及演奏宴会等事项；办理图书馆、俱乐部及其他娱乐设施。1946年6月5日任命钱寿怡为特种勤务处处长。
工程署 ，合军政部工兵、营造司和后方勤务部等司署而编成。下设总务、工兵、器材、营建、营产5个司和财务科。掌理确保装备及补给品能依补给计划按时定量补给部队；训练工兵部队及其使用事项；确保军事建筑计划适时执行；筹置并处理军队不动产；监督工兵补给品及装备采办、储备与分配事项。1946年6月5日任命林伯森为工程署署长，黄显灏为副署长。6月29日林伯森调往陆军总司令部任参谋长，柳际明接任署长职。
财务署 ，由原军政部财务司、会计长办公室和后方勤务部财务部门合并改编而成。下设总务处和综计、审核、给与3个司及出纳科。掌军费分配之执行管制、运用之规划审议及支出之审核监督；有关给与之研究实施；会计审计制度之设计颁行；联勤总部所属各级财务机构之指导考核。1946年6月5日任命孙作人为署长。
军医署 ，由军政部军医署改编而成。下设总务处和财务、医务统计2个科及卫生勤务、铨训、供应、专门技术、预防医学、荣善6个司。掌握确定军人之体格标准；以适宜之防疫及各科治疗技术与完善医院之设备复康等设施，保持军队之战斗力；组织训练各种卫生单位，供应勤务及作战部队之需要；适切供应军医业务所需器材及装备，配合军事补给计划，准备充足数量使无匮乏。1946年6月5日任命林可胜为署长。
兵工署 ，由军政部兵工署改编而成。辖总务、财务、警务3个处和训练、工业、研究发展、外勤、化学5个司。掌关于装备及补给品之发展、设计、采办、保养事项；关于训练专门兵工部队及人员事项；关于兵器及其原料之试验、研究及发展事项；管理并监督兵工厂一切业务；依国防部规定原则拟订并发挥化学战之战术原理。1946年6月5日任命杨继曾为署长。
经理署 ，由军政部马政、储备司和后方勤务有关部门合并改编而成。辖考核室和技术采购2个委员会及生产、储备、粮秣、马政4个司，还有总务处、财务科。掌粮秣被装具及一般物品之筹办、生产、储备、分配、补给；建立军需工业，管制军需资源及民营军需工业之指导；各级经理（含兽医）人员之训练并提高其素质；军马之补充、训练、改良、蓄殖、保养、除疫及种马之培育与民马之指导管制；官兵眷属福利之筹划供应并研究其改进。1946年6月5日任命陈良为署长。
通信署 ，由原军政部军务署所属通信兵组等机构改编成立。辖管训、器材2个司，总务、技术2个处和1个财务科。掌设施并运用各种通信网与编练各种通信部队;调整及创制通信器材通信方法及程序，并使其标准化;负责采办、补给各种通信器材;按补给计划所定之数量及时期，主持通信兵装备之研究、发展、制造、购买、保管、补充及修理;担任军事通信及军队照相事宜。1946年6月5日任命吴仲直为署长。
运输署 ，由军政部交通司和后方勤务部运输机构合并编成。下设陆运、航运、铁运、供应、训练5个司和总务处。掌指导、协调、监督国防部一切运输业务，并办理军事运输之设施；指导国营、民营各种交通（包括水陆空各种运输）设备之改进与运用；汽辎及其他交通部队编制、装备、补充及训练；军事运输工具、器材、燃料之设计、筹办、修理、保管及配发。1946年6月5日任命郗恩绥为署长。
抚恤处 由军事委员会所属抚恤委员会改编而成。下设总务、核恤、恤金3个组。掌关于陆海空军抚法规、章制拟撰修正、解释及编纂；办理陆海空军阵亡、病故及伤残恤金核定事项；办理恤金发给事项；关于陆海空军忠烈事迹表扬、褒奖及遗属福利之设计及执行事项。1946年6月29日任命吴子健为处长。同年9月17日吴子健被免处长职，由吴仲行接任处长。
人事处 ，掌本部所属军事人员和非军事人员之需要、获取、分配等计划。
情报处 ，掌拟订联勤技术情报与防止情报外泄等计划，并监督其实施;对敌方装备与掳获武器之研究及报告；有关交通运输、物资与仓储补给等情报之搜集研究与联络事项。
勤务处 ，掌审核并建议勤务部队机关之编制、装备；搜集整理部队及机关之编成、调动、设撤等资料；监督运输业务之实施及永久通信体制之设备业务。
补给处 ，掌综理一切补给品与装备等之储藏、分配、保养及补给事项；研究拟订改进与发布补给品之优先顺序及目录表册；计划配合及监督全部储藏与物资之处理程序。
训练处 ，掌会同（总参谋部）第五厅建立勤务部队军事训练之标准；确定勤务部队军事训练之正确原则及技术，以达成军训标准；颁布实施预备（入伍）训练与特种训练之计划及其程序。
物资处 ，掌各种补给品及勤务部队装备之研究、发展与协助事项；综核有关补给方案之采购与生产事项；编拟、利用国际物资之需要方案并监理实施。
总务处 ，办理本部之经理给养及交际联络；办理本部之官兵福利及娱乐事项；关于军风纪之维持与士兵管训事项。
外事处 ，掌对外宾之接待、联络与调查及交通之协助事项译述与对外文稿编撰事项；协助军事顾问团之福利事项。
