20世紀初的留日學生，大多是二十歲左右的熱血青年，而蔡元培現在已年近四十，按中國傳統說法已是「不惑之年」，且老婆孩子都有，遠赴異邦留學，甚為不便。而且，蔡元培是清廷翰林，又是同盟會上海分會會長，無論從哪個角度講都算是「有身份的人」了。如果不是胸懷大誌，一般人在這個年齡都會選擇過循規蹈矩的慣性生活。但蔡元培不是這樣，他註定不是普通人。他放著輕輕松松的清朝翰林不要，放著同盟會上海分會會長不當，非要出國留學，而且還不選擇當時熱門的日本，偏偏選擇冷門的德國，這葫蘆裏又是賣得什麽藥呢？
蔡元培在1906年12月給清廷學部呈文，申請留學德國，其中說：「竊職素有誌教育之學，以中國現行教育之制，多仿日本。而日本教育界盛行者，為德國海爾伯脫派。且幼稚園創於德國人弗羅比爾。而強迫教育之制，亦以德國行之最先。現今德國就學兒童之數，每人口千人中，占百六十一人。歐美各國，無能媲者。爰有遊學德國之誌。」
原來，蔡元培一直不忘教育救國的理想。在他看來，德國是當時哲學和教育學最發達的國家，他要致力教育，理應到德國遊學，這樣，日後才能更好地改造中國的教育，使之與世界水平接軌。
蔡元培想去北京謀求留學德國之事，是由於在報上看到清廷學部將選派翰林到西方遊學的訊息。於是他離開上海去北京去爭取機會。可是，待他到北京之後，先是聽說學部以資金緊張為由，延緩了派遣赴歐留學之事，後又得知有翰林身份的人現在大多功成名就，沒幾個人願意去歐洲留學，派送之事遂被擱置。無奈之下，蔡元培只好申請自費去德國留學。王書衡、陳介石等朋友和同鄉看到蔡元培留德意願極強，遂答應代他籌措留學所需資金。
恰在這時，清廷任命順天府尹孫寶琦為駐德公使。孫寶琦是浙江杭州人，其弟孫寶瑄與蔡元培是好朋友。因為這層關系，孫寶琦答應讓蔡元培以駐德公使隨員的身份入德，到德國後亦無需到使館上班，而且每月還資助蔡元培三十兩銀子。此外，張元濟主持的商務印書館也約定聘蔡元培為編譯員，每月支付他一筆編譯費。有了這兩筆固定收入，蔡元培在德國的生活費用大體能解決。於是，蔡元培於1907年6月10日隨孫寶琦一起踏上了赴德之路。一個月之後，他們抵達德國柏林。蔡元培四年的德國留學生活就此開始。
