桓溫雖然攻占了鄴城，但是因為前燕皇帝還在，政權的組織架構也十分的健全，所以前燕政權並沒有崩潰。
因此在桓溫占領了鄴城之後，深知前燕勢力並沒有遭受毀滅性打擊的他並沒有做過多的停留，而是繼續指揮大軍北上，繼續圍剿前燕殘餘政權。
得益於鄴城陷落對前燕政權的打擊很大，因此其他幾路大軍向北繼續推進的過程也越發的順利，其中代表青州出征的寧遠將軍桓石虔在渤海郡擊敗渤海王慕容亮，迫使慕容亮率軍一路北逃到範陽郡；兗州刺史朱序率軍連續突破祝阿、清河二郡，又趁鄴城陷落之際在建興郡陣斬前燕宗室宜都王慕容桓，將戰線推進到了後趙舊都襄國郡附近；豫州刺史桓豁在成功攻占了濮陽郡之後，又繼續北上，成功占領了頓丘郡、魏郡、貴鄉郡等地，然後又到鄴城與桓溫合兵一處，共同出兵上黨郡。
上黨郡是前燕的西部屏障，也是進入並州的主要關隘，由於上黨鄰近壺關，壺關是從前燕進入前秦的重要關隘，目前由前秦將領毛當據守，因此上黨一失，不但並州受到威脅，而且前秦也會寢食難安，於是之前一直在坐山觀虎鬥的苻堅決定不能再袖手旁觀了，於是立即派之前已經入駐河內郡的將軍苟池和洛州刺史鄧羌率領步騎2萬火速迴援壺關，並擇機救援上黨郡。
但是，有北府兵在手的桓溫根本就不在乎這兩萬前秦軍，此時鎮守上黨的是前燕宗室，南安王慕容越，慕容越也算是一員虎將，他認為上黨城城高池深，之前前秦數次來攻都失敗而歸，現在幾十年都沒有到過這裏的東晉軍隊更是不足為慮，因此根本就沒有做充分的準備，而是繼續在府裏飲酒作樂。
而事實也確實如慕容越所言，上黨郡由於地處邊塞，曆朝曆代皆十分重視城防，所以將上黨城修築的十分的堅固高大，護城池也是水深河寬，要想攻陷上黨確實是需要費一番思量。
好在桓溫也積累了很多的攻城經驗，他見上黨城如此堅固，而且城頭上的防禦明顯鬆懈，因此斷定慕容越犯了麻痹輕敵的兵家大忌。
於是，為了在前秦援軍到達上黨之前攻克上黨，桓溫決定立即地道戰的戰術，一邊派士兵日夜不停的挖地道，一邊派人假裝攻城，為了演的更真實一些，桓溫甚至連配重性拋石機都用上了，但是因為上護城池太寬，所以很多石頭並沒有拋到城頭上，而是砸在了城牆上，在城牆上砸出了好幾個窟窿，慕容越但心東晉軍隊會夜襲，所以便派人連忙修複受損的城牆。
於是，白天桓溫派人炮轟城牆，晚上慕容越就派人修複城牆，一個砸一個修，兩邊忙的不亦樂乎，而在上黨城的地下，挖地道的部隊則在日夜不停的挖。
最終，在晉軍將士的不懈努力下，地道終於在前秦援軍到來之前挖通，於是乎，在一個伸手不見五指的黑夜，在古老的上黨城下，在一處廢棄已久的院子裏，一個黑影突然從地下鑽了出來，這個黑影在環顧了四周發現沒人之後，又連忙招唿其他人出來。
於是乎，一隊隊的晉軍將士開始從地道裏魚貫而出，他們如同黑貓一般窩著身子，警戒的觀察著四周，因為已是深夜，而東晉軍隊一般又都是白天進攻，晚上休息，所以勞累了一整天的前燕將士此時正在唿唿大睡，隻有幾個警戒哨在那裏無精打采的來迴溜達，此時的他們也是困意頻頻，不停的打著哈欠，自然是沒有注意到那個偏僻小院的動靜。
隨著一隊隊的晉軍小隊鑽出地麵，他們趁著夜色又摸到了燕軍軍營裏，他們首先解決了昏昏欲睡的哨兵，然後又偷偷的摸進了營帳裏，看著在床上熟睡的燕軍將士，這些晉軍士兵根本就沒有客氣，直接掏出短刀結果了他們，可憐這些燕軍將士還沒有來得及反應，就命喪黃泉，在解決了一個營帳之後，這些晉軍不分隊又摸到了另一個營帳，一個營帳一個營帳的解決。
終於，在解決其中一個營帳的燕軍士兵的時候，另一個營帳的燕軍士兵起來小便，無意間看到了正在行動的黑衣晉軍，於是一聲尖厲的尖叫聲劃破了天寂，也喚醒了沉睡的軍營。
領頭的晉軍將領一看事態已經敗露，於是一邊讓身邊的士兵朝天上放出了焰火，一邊抽出刀來與已經驚醒的燕軍士兵作戰。
這些焰火是與城外晉軍約定的信號，桓溫在看到絢爛的煙火綻放在無邊的天際的時候，不由的微微一笑，他明白，上黨城已經被內部攻破了，於是桓溫便對身邊等待已久的豫州刺史桓豁發出了總攻的命令，於是，在上黨城外瞬間亮起了無數個火把，這些火把把整個護城河照耀的通亮，無數的士兵開始脫下衣服強渡護城河，而身邊的拋石機和強弩車也加大火力射擊城牆。
在城外的晉軍突然攻城的同時，已經攻入城內的晉軍也派出了小分隊來到了城門口，他們在解決了守城的士兵之後，放下了吊橋，於是晉軍一湧而入，燕軍的防禦徹底的土崩瓦解。
而在睡夢中的南安王慕容越被驚醒後出來看到了衝天的火光與混亂的人群的時候，已然明白大勢已去，此時的他再悔恨也已來不及，為了避免被俘，身邊的親兵們本想護送他突衝重圍，然後，上黨城的各個城門皆被桓溫派人堵住，慕容越連衝了幾個城門皆被亂箭射迴，無奈之下，不想到俘虜的南安王慕容越隻得再次逃迴王府，在無限悔恨之中拔劍自吻了。
慕容越死後，剩下的燕軍將士由於沒了主心骨，再也沒有鬥誌了，於是乎，該投降的投降，該逃跑的逃跑。失陷百年的上黨城再次迴到了晉朝的懷抱。
受命支援慕容越的前秦將軍苟池和洛州刺史鄧羌率軍兩萬抵達上黨城時，受到了桓衝率領的北府兵的頑強阻擊，鄧羌是前秦國有名的萬人敵，早年追隨苻洪時就南征北戰，鮮有敗績，然而在遇到了以桓衝為首的北府兵時，竟然連一個迴合都打不下來，當場就被北府兵教訓如何做人，當場陣亡了一萬餘人之後，麵對潮水般湧來的北府兵，自知敵不過的鄧羌和苟池果斷選擇了當好漢，當即率軍一口氣逃迴了壺關。
上黨一戰，桓溫獲得了全麵的勝利，不但成功的收複了失陷百年之久的上黨城，而且也成功的阻擊了前秦援軍，逼死了前燕宗室南安王慕容越。
更重要的是，有了上黨城這個戰略支點，桓溫就可以向北威脅並州核心城市晉陽，向西也可以進攻前秦的西河郡，使前秦的北部邊疆不再那麽安全。
因此在桓溫占領了鄴城之後，深知前燕勢力並沒有遭受毀滅性打擊的他並沒有做過多的停留，而是繼續指揮大軍北上，繼續圍剿前燕殘餘政權。
得益於鄴城陷落對前燕政權的打擊很大，因此其他幾路大軍向北繼續推進的過程也越發的順利，其中代表青州出征的寧遠將軍桓石虔在渤海郡擊敗渤海王慕容亮，迫使慕容亮率軍一路北逃到範陽郡；兗州刺史朱序率軍連續突破祝阿、清河二郡，又趁鄴城陷落之際在建興郡陣斬前燕宗室宜都王慕容桓，將戰線推進到了後趙舊都襄國郡附近；豫州刺史桓豁在成功攻占了濮陽郡之後，又繼續北上，成功占領了頓丘郡、魏郡、貴鄉郡等地，然後又到鄴城與桓溫合兵一處，共同出兵上黨郡。
上黨郡是前燕的西部屏障，也是進入並州的主要關隘，由於上黨鄰近壺關，壺關是從前燕進入前秦的重要關隘，目前由前秦將領毛當據守，因此上黨一失，不但並州受到威脅，而且前秦也會寢食難安，於是之前一直在坐山觀虎鬥的苻堅決定不能再袖手旁觀了，於是立即派之前已經入駐河內郡的將軍苟池和洛州刺史鄧羌率領步騎2萬火速迴援壺關，並擇機救援上黨郡。
但是，有北府兵在手的桓溫根本就不在乎這兩萬前秦軍，此時鎮守上黨的是前燕宗室，南安王慕容越，慕容越也算是一員虎將，他認為上黨城城高池深，之前前秦數次來攻都失敗而歸，現在幾十年都沒有到過這裏的東晉軍隊更是不足為慮，因此根本就沒有做充分的準備，而是繼續在府裏飲酒作樂。
而事實也確實如慕容越所言，上黨郡由於地處邊塞，曆朝曆代皆十分重視城防，所以將上黨城修築的十分的堅固高大，護城池也是水深河寬，要想攻陷上黨確實是需要費一番思量。
好在桓溫也積累了很多的攻城經驗，他見上黨城如此堅固，而且城頭上的防禦明顯鬆懈，因此斷定慕容越犯了麻痹輕敵的兵家大忌。
於是，為了在前秦援軍到達上黨之前攻克上黨，桓溫決定立即地道戰的戰術，一邊派士兵日夜不停的挖地道，一邊派人假裝攻城，為了演的更真實一些，桓溫甚至連配重性拋石機都用上了，但是因為上護城池太寬，所以很多石頭並沒有拋到城頭上，而是砸在了城牆上，在城牆上砸出了好幾個窟窿，慕容越但心東晉軍隊會夜襲，所以便派人連忙修複受損的城牆。
於是，白天桓溫派人炮轟城牆，晚上慕容越就派人修複城牆，一個砸一個修，兩邊忙的不亦樂乎，而在上黨城的地下，挖地道的部隊則在日夜不停的挖。
最終，在晉軍將士的不懈努力下，地道終於在前秦援軍到來之前挖通，於是乎，在一個伸手不見五指的黑夜，在古老的上黨城下，在一處廢棄已久的院子裏，一個黑影突然從地下鑽了出來，這個黑影在環顧了四周發現沒人之後，又連忙招唿其他人出來。
於是乎，一隊隊的晉軍將士開始從地道裏魚貫而出，他們如同黑貓一般窩著身子，警戒的觀察著四周，因為已是深夜，而東晉軍隊一般又都是白天進攻，晚上休息，所以勞累了一整天的前燕將士此時正在唿唿大睡，隻有幾個警戒哨在那裏無精打采的來迴溜達，此時的他們也是困意頻頻，不停的打著哈欠，自然是沒有注意到那個偏僻小院的動靜。
隨著一隊隊的晉軍小隊鑽出地麵，他們趁著夜色又摸到了燕軍軍營裏，他們首先解決了昏昏欲睡的哨兵，然後又偷偷的摸進了營帳裏，看著在床上熟睡的燕軍將士，這些晉軍士兵根本就沒有客氣，直接掏出短刀結果了他們，可憐這些燕軍將士還沒有來得及反應，就命喪黃泉，在解決了一個營帳之後，這些晉軍不分隊又摸到了另一個營帳，一個營帳一個營帳的解決。
終於，在解決其中一個營帳的燕軍士兵的時候，另一個營帳的燕軍士兵起來小便，無意間看到了正在行動的黑衣晉軍，於是一聲尖厲的尖叫聲劃破了天寂，也喚醒了沉睡的軍營。
領頭的晉軍將領一看事態已經敗露，於是一邊讓身邊的士兵朝天上放出了焰火，一邊抽出刀來與已經驚醒的燕軍士兵作戰。
這些焰火是與城外晉軍約定的信號，桓溫在看到絢爛的煙火綻放在無邊的天際的時候，不由的微微一笑，他明白，上黨城已經被內部攻破了，於是桓溫便對身邊等待已久的豫州刺史桓豁發出了總攻的命令，於是，在上黨城外瞬間亮起了無數個火把，這些火把把整個護城河照耀的通亮，無數的士兵開始脫下衣服強渡護城河，而身邊的拋石機和強弩車也加大火力射擊城牆。
在城外的晉軍突然攻城的同時，已經攻入城內的晉軍也派出了小分隊來到了城門口，他們在解決了守城的士兵之後，放下了吊橋，於是晉軍一湧而入，燕軍的防禦徹底的土崩瓦解。
而在睡夢中的南安王慕容越被驚醒後出來看到了衝天的火光與混亂的人群的時候，已然明白大勢已去，此時的他再悔恨也已來不及，為了避免被俘，身邊的親兵們本想護送他突衝重圍，然後，上黨城的各個城門皆被桓溫派人堵住，慕容越連衝了幾個城門皆被亂箭射迴，無奈之下，不想到俘虜的南安王慕容越隻得再次逃迴王府，在無限悔恨之中拔劍自吻了。
慕容越死後，剩下的燕軍將士由於沒了主心骨，再也沒有鬥誌了，於是乎，該投降的投降，該逃跑的逃跑。失陷百年的上黨城再次迴到了晉朝的懷抱。
受命支援慕容越的前秦將軍苟池和洛州刺史鄧羌率軍兩萬抵達上黨城時，受到了桓衝率領的北府兵的頑強阻擊，鄧羌是前秦國有名的萬人敵，早年追隨苻洪時就南征北戰，鮮有敗績，然而在遇到了以桓衝為首的北府兵時，竟然連一個迴合都打不下來，當場就被北府兵教訓如何做人，當場陣亡了一萬餘人之後，麵對潮水般湧來的北府兵，自知敵不過的鄧羌和苟池果斷選擇了當好漢，當即率軍一口氣逃迴了壺關。
上黨一戰，桓溫獲得了全麵的勝利，不但成功的收複了失陷百年之久的上黨城，而且也成功的阻擊了前秦援軍，逼死了前燕宗室南安王慕容越。
更重要的是，有了上黨城這個戰略支點，桓溫就可以向北威脅並州核心城市晉陽，向西也可以進攻前秦的西河郡，使前秦的北部邊疆不再那麽安全。