1939年3月1日，日寇占領了蘇北淮陰七縣，韓德勤的省政府和軍隊聞風而逃。吳覺在日軍進入淮陰城之前，與中共蘇皖邊區特委淮屬工委張芳九等人一起星夜趕往其祖居漁溝農村，開展抗日鬥爭。
吳覺
不到一個月時間，在吳覺等領導的「蘇北抗日同盟會」前期工作基礎上，組成了一支200余人的隊伍，命名為「淮陰人民抗日義勇隊」，成立了總指揮部，吳覺任總指揮，張芳九任參謀長，宋振鼎為政治部主任，張一平為副官長。
「蘇北抗日同盟會」成立於1938年2月19日，由進步人士朱德軒兼任主任委員，吳覺任組織部副部長，掌握組織大權，淮陰正式成立，吳覺當選為常務理事。淮陰、漣水、淮安、泗陽、鹽城、阜寧、灌雲、泰州、南通等20余縣，都陸續建立了抗盟組織。
蘇南的江、安徽的泗縣也和蘇北抗日同盟會建立了聯系。吳覺還利用淮陰縣動員委員會組建了民眾抗日自衛隊，集訓了區、鄉千部，建立了抗日青年團和婦女救圍會，抗日青年團曾發展到2000多人。
這支抗日武裝剛剛建立，就在漁溝東五條路伏擊日軍汽車隊，打響了淮陰地區抗日的第一槍。4月中旬，又在漁溝東南文殊庵奮戰一晝夜，打退了淮陰、泗陽兩縣土頑、慣匪韓雄、石海青兩股500多人的多次強攻。接著，夜襲淮陰城北重鎮王營的日軍據點，撲滅楊二莊、西霸兩個偽鎮公所，鎮壓了偽鎮長，繳槍十余支。這些戰鬥提高了抗日義勇隊在人民群眾中的聲威。
吳覺領導的抗日義勇隊的發展壯大，引起國民黨頑固派嚴重不安。1939年仲春，擁兵逃命、躲在百裏之外的湖灘蘆蕩中的國民黨淮陰縣長陸選之，來函要吳覺「念同學之情」，出任他的縣常備大隊長。吳覺的族叔、國民黨頑固派的旅長吳激泉也以委他為團長的誘餌來拉他，吳覺一一嚴詞拒絕。此後陸選之就派他的縣常備大隊不時緊緊尾隨抗日義勇隊，監視抗日義勇隊的活動。又以他的縣政府名義禁止抗日義勇隊籌集糧餉。這樣一來，抗日義勇隊的軍需供給發生了嚴重困難。對此，吳覺決意爭取與漣水抗日義勇隊聯合，擴大實力。
1939年5月，淮陰抗日義勇隊開赴漣水西部小成集，與漣水抗日義勇隊匯合。並經中共蘇皖區黨委同意，以八路軍山東縱隊隴海南進遊擊支隊第八團的名義活動。區黨委和隴海南進支隊任命吳覺為團長，萬眾一兼政委，張芳九任參謀長。
八團建立後，經短時間整訓，即開赴淮陰漁溝、五裏莊一帶清剿土匪，鎮壓了惡霸匪首張六、向大榮、吳其清等，同時宣傳黨的政策，發動群眾抗日。韓德勤把八團視為「心腹之患」，迅即糾集淮(陰)、漣(水)、泗(陽)、沭（陽)四縣的土頑和地主武裝等聯合進攻這支僅有數百人的部隊，妄圖一口吞掉這支新生的抗日部隊。
1939年11月，吳覺率領八團東渡鹽河，到達漣水東部地區，說服薛華甫等率領漣水抗日獨立中隊，改編為八路軍隴海南進支隊第九團。又將八、九兩團合編為隴海南進支隊第三梯隊，公開通稱「淮河大隊」。吳覺任梯隊長，萬眾一任政治委員，薛華甫任副梯隊長，林士鈞任參謀長，高興泰任政治部主任，陳亞昌任副官長。梯隊下轄八、九兩團。八團團長改由陳書同接任，九團團長由薛華甫兼任。全梯隊500余人。
萬眾一：淮河大隊政委
吳覺指揮第三梯隊先後在小尖、鄭潭口兩地擊破了頑固派灌雲、漣水兩縣常備隊及地主武裝的進攻，殲頑軍一部，俘獲百余人槍後，返回漣水西部根據地。從此，頑固派的地方武裝便不敢再來「尋事生非」了。
1940年春節前夕，漣水城的數百名日偽軍到漣水西部地區「掃蕩」搶劫。為保護群眾過好春節，吳覺派出幾支小分隊，利用密集村莊靈活運動，四面襲擾敵人，迫使敵人於第二天收兵四竄，途中又闖入淮河大隊在洪碼頭布下的口袋陣，遭到伏擊。是役，擊斃日偽軍100多名。
1940年2月，韓德勤調集他的主力三十三師一個旅和省保安第七旅合擊淮河大隊，王光夏保七旅首先在沭陽縣錢集一帶以重兵包圍淮河大隊。吳覺指揮淮河大隊與頑敵激戰一日，擊斃頑軍團長以下官兵近200人，於當夜突出重圍。
與此同時，頑固派還選拔了17名特務骨幹，組成「飛虎大隊」，竄入淮河大隊遊擊區活動，並懸賞5000元緝捕吳覺。然而這批特務剛剛踏入淮河大隊防區，就被全部捕獲處決。
韓德勤
1940年初夏，淮河大隊突擊消滅了漣水西部兩支各有200多人的地主武裝，鎮壓了兩名作惡多端的惡霸地主。在一個暴風雨夜，吳覺親自率領突擊隊，奔襲盤踞淮陰縣境內的國民黨省特務室的特務武裝洪璧成大隊，將其60余人全部抓獲，處決了骨幹分子。
經過一年半的艱苦奮戰，淮河大隊一方面狠狠打擊了日、偽、頑、匪等反動勢力，另一方面本身也得到了發展壯大。到1940年夏秋間，淮河大隊擴大到八、九、十三個團共5000人左右，在蘇北淮海地區開辟了一塊遊擊根據地，為八路軍主力南下蘇北建立了一個穩固的前進陣地。8月間，淮河大隊接應黃克誠率領的八路軍第五縱隊從皖東北順利進入淮海地區。
1940年10月，八路軍主力東進鹽阜，策應新四軍進行黃橋決戰。吳覺奉命率領淮河大隊留守淮海，警衛蘇皖區黨委和五縱隊指揮機關。淮陰城的日軍偵知我主力東進後，便傾巢而出，奔襲我首腦機關。吳覺指揮淮河大隊奮勇阻擊兩晝夜，擊退了日軍。
同年冬，上級黨決定以淮河大隊十團一部600余人補充五縱隊二支隊，另一部500余人補充山東南下增援華中的一一五師教導五旅，九團分別改編為區黨委警衛營和地方武裝骨於。
1941年春，上級黨又將八團升編為教導五旅第十五團，吳覺任團長。至此，吳覺等建立起來的這支地方抗日武裝全部編入八路軍主力部隊，勝利完成了它的歷史使命。
