刚进入春秋时代的时候，晋国单以军事力量来衡量，还只能算是个小国，跟齐国、鲁国、卫国尤其是宋国是不能比的。而且，进入春秋时代没多久，晋国就陷入了内乱。晋文侯弟弟那一脉占据曲沃，建立了一个小政权，谋夺大宗。双方倾轧了好几十年，最后曲沃的小宗获胜，曲沃武公夺取了整个晋国的统治权。他把从大宗那里夺到的宝器全部用来行赂周僖王，换来了周僖王对曲沃一脉的合法地位的承认，正式封曲沃武公为晋侯，从此，曲沃武公就成了晋武公，原先的小宗，变成了大宗。
晋武公获封为诸侯的时候，周僖王只同意他拥有一个军的武装力量。而这时的大国已经拥有三个军，次国二军，小国一军。晋国依然只是小国。
晋武公在成为诸侯的第二年就薨了，他儿子姬诡诸继位，就是晋献公。这个晋献公，跟齐桓公有点类似，有其神武雄霸的一面，也有其昏庸混账的一面。
晋献公刚即位时，他曲沃那一支中，曲沃桓叔、曲沃庄伯的子孙不少，按照周王室和各诸侯国的惯例，这些公子、公孙们都得封为卿或大夫，最不济也得封个士，同时委任以各种官职，让他们辅佐自己。但晋献公却抛弃了西周以来沿用至今的这个公族大夫制度，毅然起用士蒍、荀息、里克、郤芮、郭偃等一批才干出众的异姓人士为卿大夫，此举为后来晋国的人才辈出打下了良好的基础，也为晋国最终被外姓瓜分掉埋下了祸种。同时也引发了曲沃桓叔和曲沃庄伯的子孙们的强烈不满。桓、庄子孙人多势众，威逼晋国公室，晋献公很担忧。
士蒍献计说：“把群公子（即桓、庄子孙）中那些有钱有势的除掉，其他的就好办了。”
晋献公说：“那这件事就交给你去试试看吧。”
士蒍就到群公子中间挑拨离间，说那些有钱有势的公子公孙的坏话，然后唆使群公子把他们一一除掉。前前后后花了两三年时间，群公子中那些有钱有势的“富强者”都被除尽了，剩下的一大批都是既不富裕也无权势的。
于是晋献公就命士蒍在今山西绛县东南的聚邑建造了一座新城，把剩余的桓、庄子孙全部安置在那新城里。然后忽然派军队包围新城，来了一场关门打狗式的大屠杀，桓叔、庄伯的后代几乎被杀一净，只有少数漏网之鱼逃到虢国。此举虽然血腥，倒也彻底解决了“公子作乱”这个多年困扰晋国的老毛病。
安定了政局之后，晋献公一边致力于发展经济，繁衍人口，一边开疆拓土，扩大地盘。到晋献公十六年的时候，晋国的国力已大大增强，这一年，晋献公把晋国的军队扩充成两个军。然后，他亲自统帅上军，太子申生统帅下军，由一位外姓的士赵夙为他驾驭战车，另一外姓的士毕万担任他的车右，大军出动，一下子灭掉了耿、霍、魏三个姬姓诸侯国，然后封赵夙、毕万为大夫，把原耿国赐给赵夙，把原魏国赐给毕万。后来，赵、魏两家发展成为晋之强族，跟另一强族韩家一起把整个晋国瓜分掉了，不过，这已是两百多年后的事了。
晋献公屠灭桓庄子孙时，有几个残余逃去了虢国，而虢国也颇有拿他们作文章来插手晋国的意思，那些漏网之鱼刚逃去时，虢国曾为他们两次出兵伐晋。惹得晋献公大怒，当时就要打过去，被士蒍劝阻了，士蒍说：“虢公骄傲，如果他侵袭我国而骤然得到胜利，就必定更加不把百姓当人，等他失去了百姓的拥护，我们再去攻打就容易建功了。”
于是就等，等到灭掉耿霍魏三国后的第四年，晋献公决定要动手了。
可是问题来了，晋国跟虢国之间还隔着一个虞国，这两个国家关系不错，守望相助，晋国打其中任何一个国家，另一个就会相救。如果同时打两个国家，晋国的兵力又不足。
大夫荀息献了一计，送给虞国国君一些屈地出产的良马和垂棘出产的美玉，以此向虞国借道去攻打虢国。
晋献公有点舍不得：“那可是我国的宝物啊！借个路而已，值得送这么重的礼吗？”
荀息笑笑说：“良马只是让虞国人暂时替您饲养一阵子，美玉也只是让虞国人暂时为您保管一阵子而已，只要借到了路，收回这些宝物，还不是跟把外库之物搬进内库一样方便！”
晋献公迟疑道：“可是虞国有贤臣宫之奇，只怕不那么好糊弄吧？”
荀息说：“宫之奇性格有点懦弱，不能冒死极谏，况且他从小和虞公一起在虞公的宫中长大，两人关系太亲密，虞公就不会太重视他的话，他就算进谏，虞公也不会听从的。”
于是晋献公就派荀息带着良马美玉去虞国借道，荀息对虞公说：“冀国无道，入侵你们虞国，我们晋国已把它灭掉了，这也是为了国君您啊。现在虢国无道，在客舍里筑了堡垒，聚集人众，想侵袭我晋国南部的边邑。因此，敝君谨向贵国请求借道，让我国去向虢国问罪。”
虞公看到良马美玉，就已经喜翻了心，哪还有不答应的道理，非但答应借道，还主动提出要出兵为晋国打前阵！
宫之奇连忙劝阻，虞公果然不听。
于是公元前658年夏天，晋国大夫里克、荀息领兵进入虞国，跟虞国军队一起攻打虢国，攻占了虢国的重要城邑下阳（今山西平陆西北），把虢国吞灭了一半。
但是几个月后，戎人趁虢国元气大伤入侵虢国，虢国竟然出人意料地打败了戎人。
晋国大夫郭偃，知识渊博，极有头脑，因为有高超的占卜之术，担任着晋国的卜官，故又被称为卜偃，他听到这个消息就说：“虢国是一定要灭亡的了，失掉了下阳非但不怕，还建立了军功，这是上天夺去了虢公的镜子，让他不能照见自己的不足之处，他必定会因这场胜利而轻视晋国，不再安抚百姓，不超过五年就要灭亡！”
三年后，晋献公再次向虞国借道，要攻打虢国。宫之奇又劝谏虞公：“借道给晋国一次就已经过分了，怎么还能再借一次！虢国和虞国，就好比嘴唇和牙齿的关系，失去了嘴唇，牙齿就会受冷（成语“唇亡齿寒”），虢国被灭，虞国必定也随后灭亡！”
虞公不以为然：“晋国和我是同一个宗族，难道还会侵害我？”
宫之奇说：“晋侯连他们同支的桓庄子孙都灭，您跟他，难道比桓庄子孙还亲密？”
虞公说：“我所用的祭品丰盛又洁净，神一定保护我！”
宫之奇说：“《周书》上说得分明，上天对人不分亲疏，只保护有德行的人。只有有德之人的祭品才会为神所享用。”
虞公心想：“寡人难道不是有德之人吗！”不再理睬宫之奇，硬是答应借道给晋国。
宫之奇叹息说：“虞国今年的腊祭将不能举行了，在腊祭开始之前就会灭亡，晋国一定会用灭虢的军队灭虞，他们不需要动两次兵，就这一次就可以全搞定！”他带着他的家族离开了虞国。
这年八月，晋献公亲自统军包围了虢国的国都上阳（在今河南陕县南），他问卜偃：“能打下来吗？”
卜偃说：“能。”
晋献公问：“什么时候？”
卜偃说：“大概在九月末、十月初吧。”
周历十二月初一，虢国被彻底灭掉，亡国之君虢公丑逃到了周天子那里。
晋国军队回国时，驻扎在虞国，顺便就把虞公和他的大夫井伯抓了，虞国灭亡，良马美玉仍然回到晋献公手中。不过，念在虞国两次借道并曾派兵协同作战的份上，没有毁虞国的宗庙，仍允许虞公祭祀其祖宗，大概跟当初郑庄公灭许之后的处置方式差不多吧，不同之处在于，晋献公把虞国献纳给他的贡物全部送给了周天子。
晋国吞灭虢虞，不仅增加了大片的土地和大量人口，掠夺到大量财物，更使得晋国的国土直接跟周天子的王畿接壤了，晋国已经完全挤进中原诸侯的群里来了，从此，它要在中原的政治舞台上做些事情是非常方便的了。另外，前面说过，虢国所在的地区，是中原出入关中的咽喉要地，着名的崤山、桃林塞、函谷关、潼关都在这一地区，如今这些天险要塞全被晋国控制了。以前周天子为了不中断跟原镐京地区的联系，不得不笼络虢国，现在，周天子就得看晋国的脸色了。晋国不高兴了，把你咽喉一卡住，关中的大片土地就完全跟周王室没了关系，周王室就只能局促在东部的这一亩三分地里，实力就降到二等诸侯国都不如了。而西边的秦国要想跟中原发生关系，以及中原的诸侯想跟关中地区发生关系，也都必须通过晋国所掌控的这条通道，后来晋国也确实在这条通道上重创了秦国。
灭掉虢国这一年，是晋献公二十二年，距离他去世还有四年。四年后，齐桓公举行葵丘之盟，晋献公当然也受到了邀请，晋国以前忙着内乱，后来忙着扫除周边的诸侯和戎狄，极少参与中原的事情，现在既然已经挤上了中原这张麻将桌，自然就要当仁不让地要参与进来。所以晋献公虽然身体已经有病，还是甘冒风尘赶来参加盟会，就算是来了解一下情况也好。可惜他因病而延误了，半路上被宰孔一盆冷水泼了回去，回家不久就薨了。
晋献公在位二十六年，对晋国建功至伟，史书上说他一生共灭掉十七个国家和部落，并让三十八个国家或部落服从他的命令。他一手把晋国从一个只有一个军的二等小国，打造成了雄霸北方的一等强国。但是，跟齐桓公一样，在女人和接班人问题上，他处理得一塌糊涂，以致于他死后，晋国又陷入长时间的内乱。