1973年1月，邢吉祥接到調令，到南京軍區司令部辦公室任一科科長，正團職，當許世友司令員的專職秘書。
許司令員是一位有少林武功的傳奇戰將，為他選秘書要符合5個條件：山東人，年齡在40歲左右，經過戰爭考驗的團職幹部，有一定文化程度，適應機關工作。
邢吉祥有幸被選上，他既激動又感到這副重擔的壓力。
許司令員時任中共中央政治局委員、國防部副部長兼南京軍區司令員，住在中山陵8號。
這裏是國民黨行政院長當年為了「結廬而居，服孝守陵」而修建的別墅一一延暉館，占地40多畝，建築面積約1000平方米，於1948年建成。
在邢吉祥上任的第一天，軍區保衛部長李樹和就嚴肅地對他說：「這個院內除司令員就是你大，如果司令員安全上出了問題，首先法辦你。不是軍區對你過不去，就是毛主席也不能饒你！」
邢吉祥理解保衛部長這話的意思，始終把許司令員的安全放在首位，不時地對外衛警衛營和內衛警衛排進行防衛教育。
警衛人員都能做到「六親不認，鐵面無私」。
有一次，一位才調走不久的專職秘書來南京看望許司令，警衛人員雖然都認識他，但因沒有接到通知就是不讓他進，他很生氣，也很理解。
許司令員對工作一貫要求很嚴、標準很高，因此，邢吉祥始終要求自己認真謹慎、一絲不茍地把任何事情辦好，不出差錯。
當時，許司令員還兼任江蘇省委書記的職務，每天來自中央和省、市的文電有數十份，邢吉祥得一份一份一個字不漏地看完。
除了許司令員必閱的文電需按照急緩給他送閱外，其余文電有的摘抄送閱，有的利用晚上他散步和看電視的機會口頭匯報。匯報要簡短明了，三言兩語說清楚。
許司令員問的情節或事情不準許答不出來。
每逢開會，主管部門送來許司令員的講話稿，邢吉祥要按照他的思路和口語修改得簡短明了。
邢吉祥每天工作達十幾個小時，周末回家要等許司令員睡覺之後才走，在許司令員起床之前就趕回來，每次回家兩頭不見太陽。
許司令員在長期的革命鬥爭中養成了一種高度的警覺性，他的行動一般在半小時前不會告訴任何人，說走就走，說辦就辦，防止暴露行動的秘密。
邢吉祥表示，要懂首長的心。這樣一來，有些事要提前做一些準備工作，就靠當秘書的「聽其言觀其行」，去推測判斷首長的意圖和行動了。
有一次，邢吉祥陪許司令員晚上散步時，首長突然說了一句：「現在農村太忙了！」
邢吉祥意識到首長可能要外出視察，於是，邢吉祥就按照一級戰備狀態做好外出準備：通知警衛人員、醫生、炊事員，將要帶的東西放到車上。
不出預料，次日早飯時許司令員告訴邢吉祥，去蘇州視察。
許司令員到什麽地方是不準事先告訴對方的，這樣就往往會造成對方措手不及，沒有準備或找不到人。
有時，邢吉祥就抽點兒時間，悄悄通知對方。
一次，到淮陰視察，邢吉祥就偷偷通知了對方，首長可能到達的時間，請對方的領導同誌在招待所假借開會等待首長。
許司令員每周要召集有關的領導同誌開會，一般都在晚上。他只告訴邢吉祥一句「叫他們幾個人來開會」，說完回頭就走。
邢吉祥就得判斷出「叫哪幾個人來開會」、「晚上什麽時間來」，一點不能弄錯，首長時常組織人到滁縣地區打獵，回來後一般要請客吃野味。他要請什麽人，當秘書的要事先考慮到。
許司令員說話很快，河南口音重，邢吉祥有時聽不清楚，又不能問第二遍，邢吉祥回憶說：「若弄錯一個人他就發脾氣批評你好幾天。」
邢吉祥將可能要請的人列個名單寫在行事曆牌上，結果許司令員第二天真要請客，他看著邢吉祥列出的名單說一個邢勾一個，一次就勾了十幾個人，最後一查，邢的預見只錯了一個人。
有一次在無錫視察，住招待所睡的是沙發床，很軟。早飯時許司令員說了一句：「昨晚上沒有睡好。」
邢吉祥馬上意識到他習慣睡硬板床，就在他出去視察參觀之前叫服務員改換棕床。
中午，許司令員美美地睡了兩個小時的覺，高興極了。
晚上吃飯時，許司令員專門給邢吉祥敬了一杯酒，說：「你當秘書還夠格。」在座的同誌對邢說：「受到他的表揚可真不容易!"
許司令員喝酒英雄海量，一天一瓶茅台酒，買酒用去了他的大部份薪水。他喝酒公私分明，因公宴請的酒由管理員保管，平時喝的酒由他自己買自己保管。
從無錫視察回來，正值下大雨，他下車後直奔魚塘，邢吉祥也跟隨去，發現魚塘外的下水門沒有開啟，中山陵的樹木打過農藥，有農藥的雨水流入了魚塘。
許司令員怕把魚藥死，大罵起來：「你們在家的這些笨蛋都幹什麽去了！」邢吉祥立即去叫警衛排，警衛排上課去了，只留下兩個站崗的。
邢吉祥把站崗的叫來，一看水門是壞的，他倆打不開。邢吉祥放下公事包，衣服沒脫就跳入水中。
這時，許司令員一笑就走了。
當邢吉祥把水門開啟回到辦公室準備洗澡換衣服時，服務員來喊：「邢秘書，首長叫你陪他喝酒吃飯。」
在吃飯的時候，許司令員對邢吉祥說：「聽說你能喝兩斤酒！我今天要試試你的酒量，到底能喝多少？」
服務員知道邢吉祥喝不了兩斤，也知道首長的脾氣，便將兩瓶茅台酒都倒出了一點，酒瓶是瓷的看不出來裝酒的深淺。
最後，邢吉祥還是把兩瓶酒都喝了，喝後邢吉祥感到不對勁，就躲在炊事房裏睡著了。
許司令員午休之後到處找邢吉祥，當發現邢吉祥在炊事房睡覺時，許世友沒有喊他就外出了。到晚上邢吉祥隨許看電影時，許自言自語地說：「什麽能喝兩斤酒？喝的還沒有我碗裏剩下的多就不行了！"
許司令員非常關心、體諒群眾和戰士的疾苦。他不僅時常深入連隊、農村視察，以自己的親身體會教育身邊的人員，而且為了減輕國家和人民的負擔還組織身邊人員開荒種菜，養豬、雞、鴨、魚，做到主副食自給。
因此，邢吉祥也兼任「副業隊長」。
許司令員親手把每年腌出的幾大缸鹹菜和多余的產品送給警衛分隊。
1974年，八大軍區司令調動，許司令員調任廣州軍區司令員，臨行前他對主持工作的肖副司令員交待說：「邢秘書是從部隊來的，是個帶兵的料子，在辦公室不要太長了，放下去帶兵吧！」
邢吉祥後來說道：「這算是對我在他身邊工作的肯定吧！」
