楚汉相争时，刘邦从关中出兵，东渡黄河，魏豹归顺了刘邦，率军跟随刘邦进攻楚都彭城。项羽在彭城之战中大败刘邦，不少跟随刘邦的诸侯都投靠了项羽，魏王豹借口省亲回到河东。魏王豹返回河东后，断绝了黄河上的各个渡口，与项羽联合对抗刘邦。当时，魏豹的岳母魏媪曾请著名的相士许负给魏豹的夫人薄姬（汉文帝的生母）相面，许负说薄姬的相貌大贵，将来生下孩子一定能当天子。魏豹心想，自己的孩子能当天子，他这个当父亲的肯定会得天下，更加坚定了他与刘邦分庭抗礼的决心。

　　刘邦派谋士郦食其去劝说魏豹，如果魏豹归顺，既往不咎。没想到魏豹不买账：“人生一世，如白驹过隙。汉王傲慢而欺负人，骂诸侯、群臣就如同骂奴才一样，一点儿都没有上下级之间的礼节，我不愿意再见到他了。”

　　魏王豹占据的河东，西面临近汉军的根据地关中，东南面逼近刘邦所在的荥阳，当时属于战略枢纽，刘邦必须拔掉这个钉子。汉高帝二年（前205）八月，刘邦任命韩信为左丞相，与灌婴、曹参统率大军东征。刘邦问郦食其：“魏军的统帅是谁？”郦食其回答：“魏军以柏直为帅。”刘邦说：“柏直是个乳臭未干的小儿，他根本不是韩信的对手！魏军的骑兵大将是谁？”郦食其回答说是冯敬。刘邦说：“冯敬是秦将冯无择的儿子，虽然有贤能的名声，但他不是灌婴的对手。魏军的步兵大将是谁？”郦食其回答说是项它。刘邦分析说：“项它也不是曹参的对手。我没有什么顾虑了！”

　　韩信听说魏王豹没有用周叔为统帅，而是任用柏直为总指挥，高兴地说：“柏直这个毛孩子哪里会打仗！”韩信的大军来到黄河西边，形成大兵压境之势。魏军调集重兵在蒲坂渡口防守，等于封锁了黄河西岸的渡口临晋关（今陕西大荔县朝邑镇附近）。黄河在临晋关一带的河面较宽，当时正值汛期，水势很大，在对岸的重兵防守之下，很难渡河。韩信在黄河的西岸大造声势，做出汉军要在临晋关渡河的样子，暗中部署大军北上，来到上游的夏阳渡口（今陕西韩城市芝川镇附近）。这一段的黄河水流较缓，因为远离平阳、安邑，敌军防守的兵力不多，是比较理想的渡河之地，只是一时半会筹集不到足够的渡河船只。好在当地的百姓每家都有很多小口大肚子的陶器，韩信让士兵们把几十只口小肚大的陶器封住口，排成长方形，口朝下，底朝上，用绳子固定在一起，上下再用木头夹住，这样特制的渡河器材就像一艘木船一样，浮力很大，一次可以运送数十人过河。一切安排妥当，韩信指挥大军从夏阳渡口顺流而下，渡过黄河，大军在黄河东岸的登陆地点，就在今天临猗县的吴王渡口。汉军成功东渡之后，很快进入河东腹地，包围了安邑城。魏王豹仓促迎战，兵败被俘，被韩信送往荥阳。韩信平定了河东，刘邦在这里设立了河东郡。

　　韩信平定河东之后，和战国晚期秦军兼并天下的情形一样，从河东进军上党，在军事要地阏与（今沁县西南）生擒代相夏说，然后从阏与北上，计划东出太行，消灭割据河北的赵王歇。赵歇、陈余以20万大军于井陉口（今河北石家庄市鹿泉区西南）防守，井陉之战爆发。韩信灵活用兵，背水列阵，把汉军置之死地，派小股部队奇袭赵营，前后夹击，一举歼灭号称20万的赵军，斩杀赵军主将陈余，活捉赵王歇，此战成为中国古代战争史上以少胜多的著名战例。

　　“韩信将兵，多多益善”，善于带兵作战的韩信，先后在今山西地区指挥了“声东击西”“背水之战”两次经典战役，为刘邦取得天下建立了卓越的功勋。

　　东汉初，建武元年（25）正月，刘秀的大将邓禹率军经由太行山轵关陉北上，准备通过箕关进入河东，河东都尉守关不开，邓禹攻十日而破关，大军进围安邑。箕关，在王屋山南，今济源市邵原镇，是轵关陉通道上的关隘。邓禹的军队包围了安邑城，但数月未能攻下。更始政权的大将樊参率领数万人从黄河大阳渡（今平陆县茅津渡）北上，进攻邓禹，邓禹部署军队在解县（今临猗县西南）之南迎战，大败敌军。王匡﹑成丹﹑刘均等合军十余万，对邓禹所部发动进攻。初战，邓禹失利。天黑后双方停战，军师韩歆和诸将见气势已挫，都主张乘着夜色撤退，邓禹没有采纳撤退的建议，认为王匡的军队虽然人多，但战斗力并不强。第二天，利用王匡停止进攻的时机，邓禹重新组织队伍，调整部署。第三天清晨，王匡的军队倾巢而出，邓禹令军中不准轻举妄动，坚守不出。待王匡军队进至营前，猝然击鼓，全师猛扑，大破王匡军，缴获兵器不可胜数，平定了河东。刚刚在鄗邑（今河北省柏乡县北）即帝位的刘秀派使者到河东拜邓禹为大司徒，称赞邓禹“斩将破军，平定山西，功勋尤著”。河东平定之后，七月，邓禹又率大军于汾阴（今万荣县西庙前渡）渡河，平定关中。在东汉初年，邓禹首先平定河东，为刘秀定都洛阳建立起北部屏障，也为大军西渡黄河平定关中奠定了军事基础。