西晉統一僅僅二十多年後，中國就又一次陷入了割據混戰之中。西晉被匈奴劉曜攻滅之後，司馬氏在門閥大族的簇擁下在南方建立東晉政權，而北方則進入了史稱“十六國”的大混戰時期。一百多年裡，北方先後出現的大小割據政權，不止十六個，而是有二十多個，多數是北方少數民族建立的。它們連年的掠奪和戰爭，使得北方民不聊生。在439年北魏統一北方之前，前秦也曾於376年短暫統一北方，之後起兵南下企圖統一，卻遭遇了慘敗，北方再度陷入混戰之中。

357年，苻堅殺掉前秦君主苻生，自立為前秦天王。苻堅即位後，任用漢人王猛，國力逐漸強盛起來。在王猛的努力下，前秦先後滅掉了慕容氏的前燕政權、張氏的前涼政權以及拓跋氏的代國政權，到376年，基本上統一了整個北方地區，其間還攻佔了東晉的梁州和益州。此時，前秦國勢到達巔峰，然而，苻堅的主要謀士王猛卻已經在一年前去世了。苻堅一直打算南下進攻東晉，而王猛認為北方的形勢還不穩定，因此一直反對貿然南下。但此時，苻堅被勝利衝昏了頭腦，於是積極準備進攻東晉。

383年，苻堅傾全國之力出兵南下，企圖一舉消滅東晉，共徵調兵力高達112萬多人。前秦先派苻融率25萬兵力為前鋒，先行南下，而苻堅親自率領主力87萬大軍，隨後浩浩蕩蕩南下。而東晉派出迎戰的軍隊，卻只有8萬人，從數量上來說，與前秦根本不成比例。然而，東晉的軍隊，人數雖少，卻是有著較高的戰鬥力的，這支軍隊是經過七年訓練的在歷史上赫赫有名的“北府兵”。而前秦人數雖多，內部卻十分混亂，人心也不一，各族的將領都想著趁機脫離前秦自立。因此，前秦看似強大，實則不堪一擊。

東晉的總指揮是謝安，指揮大將謝玄、謝石等，針對前秦軍隊陣線漫長首尾不相顧的弱點，出兵先發制人，擊潰前秦前鋒，使其陣腳大亂。苻堅率主力與東晉軍隊隔淝水對峙，前秦有人認為應先後退，等晉軍渡河時趁機發起決戰。當苻堅下令後退時，東晉派人在陣後大喊“秦軍失敗了”，前秦軍隊一片混亂，東晉謝玄、謝琰等發動猛攻，一舉擊潰苻堅主力。淝水戰敗之後，好不容易才統一北方的前秦土崩瓦解，被滅的慕容氏和拓跋氏分別復國，建立後燕、西燕、北魏，遠征西域的前秦大將呂光在涼州自立為後涼，姚萇建立後秦，並於385年殺死苻堅。

苻堅死後，前秦名義上還存在了一段時期，此時，原來前秦的範圍內，共出現了六個國家。