在进攻襄阳的同时，苻坚也开始了东线的战争，前秦将领惧难、毛当、彭超，带兵七万，分别攻下了东晋的徐州（彭城）、淮阴、盱眙。然后又集中兵力围攻东晋的江苏宝应（三阿）。这时候，前秦的军队距离东晋的重镇扬州（江陵）也只有50公里路。
东晋发兵解围反击，又重新收复了盱眙、淮阴等地。
自此东线战事僵持在了徐州以南，淮水以北的方寸之地。
公元382年，苻坚准备亲率百万大军，进攻东晋。按照惯例，前秦内部自然有主战与主和两派。主战派分别是秘书监朱彤，还有唯恐天下不乱的鲜卑族的慕容垂与羌族的姚苌。其中朱彤曾经率军攻取了梁州，所以认为东晋不堪一击，而慕容垂与姚苌则是希望趁此时机，脱离苻坚的统治，建立各自政权。
主和派则是势力强大，苻坚的弟弟符融、太子符宏、和尚道安、苻坚老婆张夫人以及已经去世的丞相王猛都是主和派。可是苻坚自己却是主战派。所以公元383年的七月，苻坚宣布亲自南征。
苻坚将南征路线分为四路，8月初，由前锋都督符融率领25万人，从西安出发。西部军队由羌族姚苌率领，从四川沿长江而下。北部军队从河北出发，西北部军队，从甘肃出发。中军由由苻坚亲自坐镇，领步兵60万，骑兵27万，从西安出发。
前秦的军队非常分散，西部、西北部、北部、中部各个地方都有军队，战线拉的极长。到了九月份，苻坚率领的中军到达了河南沈丘（项城），然而这时候只有符融率领的前锋军到达了寿县西北的正阳关镇（颖口），河北的兵才到徐州，甘肃的兵更慢，才刚到咸阳，而姚苌率领的西部军则是磨磨蹭蹭没有积极行动。
所以前线只有符融的25万军队投入了战斗。十月十八日，符融先是攻破了寿县，擒获了守将徐元喜。然后派梁成率5万人驻扎在大涧沟（洛涧或洛河），阻挡东来的东晋援军。
当时东晋丞相是谢安。谢安以弟弟谢玄为主帅带兵八万拒敌，另派胡彬率5000水军，沿淮河进军支援寿县。不过，胡彬还未到，寿县就被符融攻破，所以胡彬的5000援军就驻扎在了陕石（禹王山旁边）。谢玄的军队，忌惮梁成的5万人马，就在距离大涧沟25里的地方安营扎寨。
此时两军的部署已经很明了了，除了胡彬的5000水军孤军深入之外，大涧沟以西由前秦军队控制，东晋则防守在大涧沟以东。就在双方对垒之时，符融擒获了一个由胡彬派出，向谢玄求救的密使，符融认为东晋军队已经弹尽粮绝，就有了轻敌的想法。所以马上派人汇报给苻坚，苻坚于是就脱离大部队，仅带了8000骑兵赶到寿县与符融回合。
这时候的苻坚，轻敌的思想也越来越严重，竟然又出了昏招。他派原来东晋襄阳的守将朱序去游说谢玄投降。要知道虽然朱序被俘虏，但是他对东晋也是一门忠烈。当时不仅坚守了襄阳一年时间，而且朱序的老妈都率领婢女修复城墙，来阻挡前秦进攻，可见对东晋的忠诚。苻坚竟然派他去做说客，明显脑子短路了。
朱序到了谢玄那里，自然是将前秦内部情况一清二楚的透漏给了谢玄，还出了一个主意，让谢玄趁苻坚的百万大军还没有集合完毕，赶紧主动进攻，这样获胜的机会还大一些。谢玄觉得也有道理，于是派刘牢之率领5000军队进攻梁成的5万人。
刘牢之率领的5000人叫做“北府兵”，是由北方流亡到东晋的普通百姓组成的军队。