苻堅是個很仁慈的人，對於投或降被俘的敵對勢力，不僅保全他們姓名，還都授予高官厚祿予以重用，慕容垂也好，羌族姚萇也好，都是如此。這次苻堅派去勸降的同樣是個降將，前東晉將領朱序。

朱序（？～393年），字次倫，義陽郡平氏縣人。出身將門世家的他在前秦進攻襄陽的戰役中被俘並被押送去了長安。但朱序一心想回東晉，於是秘密逃到到宜陽，藏在夏揆的家裡。苻堅懷疑夏揆並將他拘捕，朱序就到苻暉那裡自首。苻堅因為朱序能夠保持氣節，不但沒有追究他逃離之罪，反而非常欣賞他，授任他為度支尚書。很顯然派這樣一個心懷故國的人去做說客，效果是值得懷疑的。

按照苻堅的想法，朱序此番前往東晉大營，能勸降晉軍自然最好，即便不能勸降也可以趁機宣揚軍威嚇唬東晉。苻堅的想法是美好的，現實是殘酷的。朱序來見謝石等人後，沒有做起說客，反而對謝石等人說：“若堅百萬之眾悉到，莫可與敵，及其未會，擊之，可以得志。”如此一來本是去勸降的朱序反把前秦的底細告知了東晉，謝石本來還準本堅守應敵，可在獲取了這一重要情報後，謝琰勸謝石聽從朱序的意見，改變策略主動出擊。苻堅再一次要為他的仁慈買單了。

知道了前秦的底細，東晉這邊也有底氣作戰了，太元八年（公元383年）十一月初，謝玄派劉牢之精選精銳五千，奇襲洛澗西岸的秦軍梁成部，這場大戰也正式開啟了大幕。劉牢之（？－402年），字道堅，徐州彭城人，出身於尚武世家，面色紫紅，深沉剛毅，足智多謀。此前擊敗彭超、俱難之戰中，劉牢之在盱眙一帶奪取俱難的輜重及運輸船隻，戰後以功升任鷹揚將軍、廣陵相。

前秦這邊的梁成也不簡單。梁成（？～383年），略陽郡人，氐族。前秦名將梁平老之子，將門虎子又通曉兵法，梁成深得苻堅之信任。之前隨王猛、鄧羌一起討伐燕國，擊敗前燕樂安王慕容臧，後隨苻丕攻陷襄陽，俘虜晉將朱序，擔任南中郎將、都督荊揚諸軍事、荊州刺史，鎮襄陽。劉牢之和梁成的對決還是很有看點的。可梁成因為此前晉軍多次襲擾，所以警惕性很高，因此劉牢之部在到達距洛澗十里時，就已經被前秦軍發現。但劉牢之不愧是北府軍第一猛將，索性乘著黑夜敵人搞不清情況，率五千晉軍以一往無前的氣概強渡洛澗，猛擊秦軍。前秦雖然人多，新兵卻也不少，又因為是晚上黑燈瞎火不知道晉軍虛實，於是前秦軍發生混亂。梁成到底也是一員名將，奔到最前沿試圖制止騷亂，結果正好撞上劉牢之的主力突擊方向，梁成被斬於陣中。

主將被殺，前秦軍更加混亂了。劉牢之趁機分兵穿過前秦營南面，繞到前秦軍背後切斷秦軍的歸路。本就混亂的前秦軍發現晉軍出現背後時，立馬潰不成軍，慌不擇路湧向淮水試圖渡河北逃。結果前秦軍被淹死的、被晉軍殺死的、自相踐踏而死的屍體擠滿了淮水以及南岸的秦軍大營。此戰前秦名將梁成、梁雲兄弟戰死，弋陽太守王詠等其他將領也被殺或被俘。前秦陣亡一萬五千人，餘眾潰散，不復成軍，大批的軍器輜重被晉軍繳獲。儘管梁成軍有多少軍力在歷史上有爭議，但無論是兩萬還是五萬，都是劉牢之四倍以上。前秦軍此前連戰連勝，士氣高昂，梁成指揮也沒犯下大的錯誤，反而警惕性不低，可即便如此，面對劉牢之這五千人勇猛的衝擊還是潰不成軍。

折了嫡系將領梁成和數萬軍隊，這對苻堅可是個不小的打擊，而且北府軍的勇猛讓苻堅也有了一絲絲憂慮，可此時苻堅苻融的先鋒大軍畢竟還有二十多萬，遠多於晉軍，而且這些軍隊是苻堅的嫡系和精銳，擊敗晉軍還是很有把握的。十二月，隨著洛澗大捷，謝石率軍水陸並進，逼近壽陽，與前秦軍隔著淝水對峙。苻堅和苻融從壽陽城觀察晉軍，看到晉軍容整齊，連八公山上的草木都以為是晉軍，於是對苻融說：“此亦勁敵也，何謂少乎？”苻堅心中焦慮不已並且有了一絲畏懼之心。但前秦這邊在淝水沿岸佈陣列兵，這樣晉軍就不可能過河。戰事如果不能速戰速決拖下去，顯然是有利於前秦的，前秦後續主力如果抵達戰場，北府軍即便再勇猛也難以抵擋。

為了讓軍隊渡河，謝玄派人向苻融建議“君遠涉吾境，而臨水為陣，是不欲速戰。諸君稍卻，令將士得周旋，僕與諸君緩轡而觀之，不亦樂乎！”謝玄的意思就是讓前秦軍隊後撤一點，然後晉軍過河，雙方決一死戰。對於這樣一個略顯荒唐的建議，前秦諸將認為阻敵淝水畔比較安全，不應該接受這個建議。但苻堅苻融這兩兄弟卻不這麼覺得，苻堅表示：“但卻軍，令得過，而我以鐵騎數十萬向水，逼而殺之。”苻融想法一致，前秦軍答應後退，然後趁晉軍過河之時發動攻擊，一舉將其消滅。

中國戰爭史上奇特的一幕即將出現。前秦軍開始後退，但十幾二十萬人馬突然間要後退哪這麼容易，前面接到命令還知道怎麼回事，後面的看見前面大軍開始撤退肯定一頭霧水。偏偏這時朱序又華麗登場了，前秦軍剛開始後撤，朱序就在後面大喊秦軍敗了。不明真相的前秦士兵都一頭霧水慌了神，前秦軍中頓時亂作一團。與此同時謝玄與謝琰、桓伊等人帶領八千精兵立馬渡過淝水展開進攻。頓時間前秦士兵到處逃散開始潰敗，苻融眼見大勢不妙，急忙騎馬入亂軍中試圖統率亂軍，以圖穩住陣腳，不料戰馬被亂兵衝倒，苻融被晉軍追兵殺死。另一邊苻堅自己也中箭倉皇而逃，潰逃路上聽到呼呼的風聲和鶴的鳴叫聲，都以為晉軍又追來了，於是不顧白天黑夜，拼命地奔逃。主帥或逃或死加上晉軍進攻，前秦大軍混亂不堪，自相踐踏，投水而死的不計其數，淝水因而都堵塞不流通。未到戰場的前秦主力大軍聽聞前鋒潰敗，也開始潰逃，百萬大軍頓時灰飛煙滅。謝玄這邊獲得苻堅的乘駕雲母車，加上他的儀服、器械、軍資、珍寶堆積如山，牛馬驢騾駱駝等十萬餘頭。

苻堅單騎逃回淮北，與慕容垂的三萬軍隊會合，隨後一直沿途收集逃散的敗兵，到洛陽時聚集了十餘萬人，隨後苻堅返回長安，哭悼苻融並告罪宗廟後下令大赦，下令鍛鍊兵器並監督農務，撫順孤老及陣亡士兵的家屬，試圖重建國家秩序。

另一邊，當晉軍在淝水之戰中大敗前秦的捷報送到時，謝安正在與客人下棋。他看完捷報，便放在座位旁，不動聲色地繼續下棋。客人憋不住問他，謝安淡淡地說：“小兒輩遂已破賊。”直到下完了棋，客人告辭以後，謝安才抑制不住心頭的喜悅，舞躍入室，把木屐底上的屐齒都碰斷了。謝安以總統諸軍之功，進拜太保。謝石以功遷中軍將軍、尚書令，進封南康郡公。謝玄也被加授前將軍、假節，但謝玄堅決推辭不接受，朝廷賜其上百萬錢，上千匹綵綢。

淝水之戰就這樣落下了帷幕，此戰晉軍以少勝多結束。但這場戰爭無疑是很特別的，苻堅雖然擁有號稱百萬大軍，但實際投入淝水的卻只有二三十萬。可不同於其他以少勝多的戰役，苻堅真有百萬大軍，只不過大軍還沒集結完成他就冒失地親臨前線，試想苻堅如果坐鎮大軍，前線即便敗了，也是彭超俱難那樣的失利，不至於傷筋動骨，可苻堅的冒進以及一系列神奇的操作加上北府軍的英勇造就了這場以少勝多。對苻堅來說這場失利太慘重了，前秦的國運以及他個人的命運都因此發生了轉變。