恰在此时不争气的后秦发生了内乱，姚兴死去，兄弟相图，对刘裕来说又有什么功业能比夺回两京、光复河山更合适呢？
于是这年八月，刘裕留下世子刘义符和老部下刘穆之留守后方，亲统五路大军挥师北伐，直指中原。
五路大军自东而西分别是：
第一路，由老将王仲德为前锋，其任务是凿通巨野泽与黄河间的运河（即当年桓温北伐前燕时开凿的“桓公渎”），而刘裕本人统领大军为后继，从彭城出发，沿泗水入清水、济水，经巨野泽后进入黄河，逆流而上，直抵洛阳。当年桓温伐燕，走的正是这条路线，不同之处在于，徐兖之地现在尽为晋朝所有，一路行来远较桓温顺利；
第二路，由建武将军沈林子和刘裕的族弟彭城内史刘遵考指挥，也从彭城出发，沿汴水西上，略地谯郡、梁郡，经石门塞入黄河，与第一路汇合后共同进军洛阳；
第三路，由龙骧将军王镇恶、冠军将军檀道济指挥，从寿阳出师，逆着当年苻坚南侵的路线，沿颖水、汝水北上，攻略陈郡、颖川、许昌，目标仍然是洛阳；
第四路，由新野太守朱超石、宁朔将军胡籓指挥，从襄阳出发，经南阳后进入秦境，直抵阳城（今河南登封东南）；
第五路，由振武将军沈田子、建威将军傅弘之率领，出襄阳后向西北进军，沿丹水而上，越秦岭入武关，经上洛（今陕西商洛），直指关中；
此外，还有别将姚珍、窦霸两人各领数千人马，从汉中出发，在子午谷、骆谷一带制造进攻长安的假象，以为疑兵。
九月，刘裕来到了北伐的大本营彭城（今江苏徐州）。彭城是楚霸王项羽的旧都，也是他刘裕的祖籍所在。许多年前，他的曾祖父刘混由此避难过江迁居京口，这才有了后来的刘寄奴。适逢重阳佳节，刘裕与一干文武登上南山戏马台，举目远眺，饮酒赋诗。当年京口市井中的一介游民兼赌徒，如今已成为了坐断东南的第一人。此去若成，我刘裕亦当锦衣还乡，横槊唱大风！
与此同时，淮泗水面上百舸争流，北伐的大军正在破浪前行。
