隋末,河东地区爆发了多处农民起义。隋大业十二年(616),隋炀帝南下江都,任命李渊为太原留守,坐镇晋阳,防御突厥,镇压农民起义。李渊父子素有大志,在天下动荡之时起兵于晋阳,进入长安建立唐朝。从北魏末年尔朱荣进驻晋阳城开始,经过北魏、东魏、北齐、隋代四朝的经营、锤炼,晋阳城被打造成为一座北方军事雄镇。大唐发祥于晋阳,是晋阳城军事能量的迸发使然,是其重要的战略地位使然。
唐初武德二年(619),刘武周在突厥的支持下南下并州,李渊之子李元吉弃晋阳城逃回长安。刘武周的势力直逼龙门,蒲州城中的隋军将领王行本与刘武周相呼应,长安震惊。当时,李渊决定放弃河东,李世民上表反对说:“太原,王业所基,国之根本;河东富庶,京邑所资,若举而弃之,臣窃愤恨。” 后来,李世民率兵东征,恢复河东,收复晋阳。唐初,太原是防御突厥的重要屏障。太原有警,长安震惊。唐武德七年(624)八月,突厥南攻忻州、并州,长安城为此戒严。唐太宗即位后,派名将李勣镇守太原,突厥不敢南下,唐太宗称赞李勣镇守太原,就像屏护大唐天下的一道长城。唐武则天长寿元年(692)、唐玄宗开元十一年(723),两次在太原置北都。唐开元初,“突厥九姓新来内附,散居太原以北”。唐开元五年(717)在太原设立天兵军,集兵八万,对北边的突厥人进行震慑。唐开元八年(720),改天兵军大使为天兵军节度使,三年后又改为太原府以北诸军州节度,统辖太原及辽、石、岚、汾、代、忻、朔、蔚、云九州。此时,太原的驻军主要是向北防御,其防区远至云州(今大同市)。唐开元十八年(730),改太原府以北诸军州节度为河东节度,河东节度使兼任大同军使之职,河东节度副使兼任代州刺史,以太原为中心加强对代州、云州的军事领导。
唐天宝十四年(755),安史之乱起,河北、河东大部为叛军所占领。常山(今河北省石家庄市)太守颜杲卿用计斩杀李钦凑,解除了安禄山部署在井陉的防守军队。颜杲卿又用“大军已下井陉”一句宣传口号和一百人的骑兵部队,收复了河北十七郡,由此可见从太原东出太行井陉通道在当时的战略影响力。唐至德元年(756)四月,郭子仪率援兵东出井陉关,与李光弼合兵常山,在行唐(今河北省行唐县)击败史思明。郭子仪、李光弼采取疲劳战术,“贼来则守,去则追之。昼则耀兵,夜斫其营,贼不得休息”。唐军与叛军大战于嘉山(位于今河北省曲阳东北5000米),唐军杀敌 4万,史思明逃往博陵(今河北省安平县、饶阳县一带),唐军声威大震,叛军军心开始动摇。安禄山召集谋臣商议对策,甚至打算放弃洛阳,撤兵回范阳。因为从太原东出太行山进入河北平原,直接威慑叛军的老巢,所以叛军在攻占长安后,便把主要兵力调往太原。唐至德二年(757)正月,叛军10万人从北、东、南几个方向对太原实施合围。李光弼经郭子仪举荐,被任命为河东节度使、北都留守,坐镇太原牵制叛军。当时,李光弼手下的精锐已调往朔方护驾,太原的守军不足万人。李光弼血战太原,坚守一个多月,最后率敢死队出击,消灭叛军7万余人,取得太原保卫战的胜利。公元757年的太原之战对时局影响很大,此役牵制叛军兵力10万人,使叛军元气大伤,减轻了对关中地区唐军的压力。此后不久,长安和洛阳相继收复。
太原在唐代一直担负着北大门的作用,裴度由东都留守转任北都留守,白居易诗寄裴度,有“保厘东宅静,守护北门牢”一语。唐大历年间,回纥南犯太原,名将马燧奉命担任北都留守、河东节度使,坐镇太原防御回纥。唐建中四年(783),马燧考虑太原城的东面容易遭受敌军攻击,乃建造渡槽引晋水跨汾河而注城之东,蓄水为护城河,省去了东城墙上大量的守城士兵。马燧镇守太原八年,进一步提高了太原城的防御能力。唐会昌二年(842),回纥南扰太原,朝廷诏命河东节度使刘沔统一指挥河东、幽州、河西党项兵马在太原集中,然后北上云州击败之。唐会昌三年(843),在朝廷平定刘稹的泽潞叛乱时,太原发生了杨弁叛乱。鉴于太原地位的重要,李德裕提出建议,宁可不伐刘稹,也要讨伐杨弁。太原在唐后期对其他藩镇和塞北游牧部族有威慑作用。在唐王朝历史上的几个关键时间点,太原都发挥了十分重要的作用。
五代时,李克用之子李存勖以太原为大本营,消灭了后梁政权,建立后唐,以太原为北都。公元936年,镇守太原的后唐河东节度使石敬瑭在太原称帝,建立后晋,次年迁都洛阳,以太原为北京。公元947年,镇守太原的后晋河东节度使刘知远在太原称帝,建立后汉,以太原为北京。公元951年,后汉北京留守刘崇在太原称帝,建立北汉。五代之中,有三个政权是以太原为大本营、兵临开封、夺得天下的。只要失去太原,作为首都的开封便危在旦夕。太原对于中原,既有屏障作用,也有威慑作用,这在五代史上反映得尤为明显。
从北魏末年在晋阳崛起的武人集团开始,历经东魏、北齐、隋、唐、五代400多年的锤炼,太原成为具有军事影响力的重镇。