“永嘉五年（311年），洛陽陷落。
祖逖率領數百親族鄉黨南下，於淮泗地區躲避戰亂。
他以身作則，躬自步行，將車馬讓給老弱病者，還慷慨地將糧食、衣物和藥品分發給眾人。
途中雖然多次遭遇盜賊和險阻，但祖逖總能從容應對，因此被同行的人們推舉為‘行主’。
抵達泗口後，
祖逖被琅琊王司馬睿委任為徐州刺史，不久後更被征召為軍諮祭酒，率部駐紮在京口。
建興元年（313年），晉湣帝即位後，任命司馬睿為侍中、左丞相，並賦予其大都督陝東諸軍事的職責，命令他率兵前往洛陽救援。
但當時司馬睿正專注於開拓江南地盤，對北伐並無興趣。
在此情形下，祖逖進諫道：‘晉室之亂，非上無道而下怨叛也，由藩王爭權，自相誅滅，遂使戎狄乘隙，毒流中土，今遺民既遭殘賊，人思自奮，大王誠能命將出師，使如逖者統之以複中原，郡國豪傑，必有望風響應者矣。’
意思是：晉朝的內亂，並非因皇帝無道（有待商榷）或百姓造反，而是由於藩王之間的權力爭奪，這種自相殘殺給了外敵可乘之機。
現在，北方的百姓正在遭受蹂躪，他們內心都渴望反擊。
如果大王能派將領出兵，並讓我祖逖等人統領，江北的豪傑們必定會紛紛響應，那些淪陷區的人們也會因此歡欣鼓舞。
如果這樣做，或許可以為國雪恥。”
“司馬睿雖然並不願意北伐，但也不好直接反對。
於是他任命祖逖為奮威將軍、豫州刺史，不過卻隻願提供千人的糧餉和三千匹布帛，然後讓祖逖自行招募戰士，製造兵器。
祖逖領命而去，自率軍隊北伐。
當他北渡長江時，站在船頭，望著滾滾東流的江水，心中充滿了感慨。
想到山河破碎和百姓塗炭的情景，
想到困難的處境和壯誌難伸的憤懣，
想到自己終於如願北伐，有了收複河山的機會，頓時又豪氣乾雲，熱血湧動起來。
他敲著船楫朗聲發誓道：‘祖逖不能清中原而複濟者，有如大江，一去不返！’
如此決心和豪情，被後來人以‘中流擊楫’來比喻立誌奮發圖強。”
“雖然司馬睿對北伐的態度很是消極，但這並沒能動搖祖逖北伐的決心。
他帶領跟隨自己南下的宗族部曲百餘家，從京口渡江北上。
在江中，他再次用力拍擊船槳，誓言要掃清中原。
渡江後，他暫時駐紮在淮陰，建立熔爐冶煉鐵礦，製造兵器，並成功招募了二千多名士兵。
當時，兗豫地區有豪強張平和樊雅，他們占據譙城，聚集兵力自保，擁有數千士兵，雖然名義上臣服於司馬睿並接受其官職，但實際上仍保持一定的獨立性。
此外，張平部下還有董瞻、於武、謝浮等十多支小部隊，每支都有數百人。“