淝水大战结束后，前秦天王苻坚虽然逃回了北方，但已是元气大伤，那些曾经被他征服的部族纷纷举兵反对他，一时间北方作一团，这就给了东晋北上中原的机会。

    公元384年，即淝水之战的第二年，谢玄被任命为前锋都督率兵北伐，一路势如破竹，很快将河南地区全部收复，到公元385年，晋军渡过黄河占领了黎阳（今河南浚县东北），刘牢之率领的前锋部队甚至已经进入到了河北地区，北伐形势一片大好。可是就如同之前的几次北伐那样，东晋的小朝廷根本就无意恢复全国，而只是想取得河南之地以保障江南的安全即可，而且司马氏一向对功臣的提防之心甚于对敌人，虽然谢安一再注意各大家族之间的力量平衡，但是还是由于谢氏家族的声望过大而不可避免的受到了司马皇帝的猜忌。终于，晋孝武帝找了个理由把北伐军撤了回来，眼看着就要取得决定性胜利的北伐就这样结束了，谢安叔侄的心情可想而知。就在北伐军撤回不久，东晋一代护国贤相谢安病逝了。3年后，谢玄也病死了，谢氏叔侄的离世也预示着东晋王朝的衰败，由谢安好不容易争取到的团结局面顷刻间土崩瓦解，东晋内部再次陷入到纷争之中。

后秦、后燕、东晋对峙图

    在中国的北方，各路豪雄也开始了重新争夺地盘的战争，脱离前秦的鲜卑贵族慕容垂建立了后燕政权，在控制了河北地区之后，他率领着大军南下中原，他面临的第一个障碍就是盘踞在滑台（今河南省滑县）一带的魏国。这个魏国是由丁零人翟辽建立的，所以又称为翟魏。翟辽这个人本是个反复无常且凶残成性的人，在前秦淝水大败之后，他趁机夺取了滑台周边七郡之地投降了东晋，不久又背叛了东晋，投降后燕。之后，他又背叛了后燕，就这样时叛时降，最后可能连他自己也觉得没意思了，索性自称魏天王，定都滑台，公然建立了政权，成为了横在后燕面前的一只拦路虎。后燕君主慕容垂于公元392年，率大军进攻翟魏，并很快打下了滑台，全部占领了翟魏所统属的七郡之地，在慕容垂的努力下，后燕政权几乎恢复了前燕的全部疆土，成为了北方的大国。就在后燕政权一路猛进的时候，关中地区的后秦政权也开始东进中原。原来，苻坚败退回北方后，他的部将姚苌也背叛了他，经过了一系列的大战之后，姚苌杀了苻坚，建立了后秦政权，在平定了关中地区之后，后秦趁着东晋王朝内部出现纷争的机会，举兵东向，攻下了洛阳一带，使后秦的版图达到了汝颖一带（今河南省中南部地区），成为了与后燕并立的北方强国。

    不过后秦与后燕的并立并没有使北方平静下来，在他们的后方鲜卑族的拓跋氏家族开始强大起来，到了公元386年，拓跋氏的首领拓跋珪建立了政权，国号大魏，史称北魏，北魏政权在建立伊始就与后燕展开了激战，后燕军多有败绩，到了后燕的开国君主慕容垂病死之后，燕军就更是被打的溃不成军，不久连都城都被北魏攻占了。眼见着形势不妙，后燕范阳王慕容德率领着一部分人南逃到滑台，重新组织了燕政权，史称南燕。不过，南燕政权只在滑台待了一年，北魏的大军就来了，很快滑台失陷，慕容德只好逃到了山东。到了公元410年，北魏彻底消灭了后燕，占据了北方大片的疆土。

    就在北方打的不可开交之时，一支强大的东晋军团如闪电般灭亡了南燕，向中原挺进，率领这支大军的是东晋的最高军事长官——太尉刘裕，他分兵五路进攻后秦，兵锋指处，捷报频传，后秦的漆丘（今河南省商丘市东北）、项城（今河南省项城县）守将先后投降，东晋军在先锋王镇恶和檀道济的指挥下，又攻陷了新蔡（今河南省新蔡县）和中原重镇许昌（今河南省许昌市）。另一路由沈林子率领的水军从汴水进入黄河，迅速攻克了仓垣（在今河南省开封市西北），其余几路大军也进展的非常顺利。不过由王仲德率领的水军却在无意之间捅了漏子，他所率领的部队沿着黄河西进逼近了北魏在黄河南岸的重镇滑台（今河南省滑县），本来东晋军没有想与北魏开战的意思，可是谁知道镇守滑台的北魏守将尉建是个胆小鬼，看见东晋的大军吓的弃城而逃了。王仲德就意外的占领了滑台。这一下可激怒了北魏皇帝拓跋嗣，因为滑台是北魏在黄河南岸唯一的据点，本来他们对东晋大举进军中原就有顾虑，生怕东晋会打着进攻后秦的旗号，突然进攻自己，这回王仲德占领滑台的举动让北魏对东晋的戒心更大了，拓跋嗣写信给刘裕指责他无故侵入北魏的国土，刘裕此时还不想与北魏翻脸，就写信向北魏道歉，并指出晋军只是借道滑台进攻后秦，没有任何想要侵略北魏的意思，极力想保持与北魏的和平关系。但北魏已经对东晋军产生了怀疑，北魏皇帝更是调集了大军沿黄河布防，时时监视着晋军的动向。

    东晋军继续西进，后秦的阳城（今河南省登封市）、荥阳（今河南省荥阳市）二城守将投降东晋，晋军开到了成皋（今河南省汜水镇西）一线，直逼晋朝的旧都洛阳。镇守洛阳的后秦军主帅姚洸是个无能的人，他几乎没做什么抵抗就投降了东晋，这样后秦基本上失去了它在中原地区的全部领土。刘裕见灭秦的时机已成熟，遂率领着晋军主力沿黄河西进，到达了洛阳亲自指挥全军向后秦的老巢——关中地区杀去。公元417年，东晋军攻破后秦首都长安，后秦灭亡。

    本来北伐已经取得了巨大的胜利，北方的百姓们也期盼着刘裕可以继续向北进军，统一全国，可年逾花甲的刘裕知道自己来日无多，更想过的是皇帝瘾，在灭了后秦之后，他就立即撤军回到江南，不久他就废了晋恭帝司马德文，建立了宋政权，这样延续了一百余年的东晋政权灭亡，至此由河内温县（今河南省温县西）司马家族建立的晋朝彻底消失在历史中，两晋王朝总共存在了160多年。刘裕建立宋王朝后19年，即公元439年，北魏统一了北方，结束了中国北方长达130多年的战乱局面，历史再次进入到了一个新的时期，南北朝的大幕徐徐拉开了！