经过春秋时期长期的争霸战争，许多小的诸侯国被大国并吞了。有的国家内部发生了变革，大权渐渐落在几个大夫手里。这些大夫原来也是奴隶主贵族，后来他们采用了封建的剥削方式，转变为地主阶级。有的为了扩大自己的势力，还用减轻赋税的办法，来笼络人心，这样，他们的势力就越来越大了。
一向称为中原霸主的晋国，到了那个时候，国君的权力也衰落了，实权由六家大夫把持。他们各有各的地盘和武装，互相攻打。后来有两家被打散了，还剩下智家、赵家、韩家、魏家。这四家中，又以智家的势力最大。
智家的大夫智伯瑶想侵占其他三家的土地，对三家大夫赵襄子、魏桓子、韩康子说：“晋国本来是中原霸主，后来被吴、越夺去了霸主地位。为了使晋国强大起来，我主张每家都拿出一百里土地和户口来归给公家。”
三家大夫都知道智伯瑶存心不良，想以公家的名义来压他们交出土地。可是三家心不齐，韩康子首先把土地和一万家户口割让给智家；魏桓子不愿得罪智伯瑶，也把土地、户口让了。
智伯瑶又向赵襄子要土地，赵襄子可不答应，说：“土地是上代留下来的产业，说什么也不送人。”
智伯瑶气得火冒三丈，马上命令韩、魏两家一起发兵攻打赵家。
公元前455年，智伯瑶自己率领中军，韩家的军队担任右路，魏家的军队担任左路，三队人马直奔赵家。
赵襄子自知寡不敌众，就带着赵家兵马退守晋阳（今山西太原市）。
没有多少日子，智伯瑶率领的三家人马已经把晋阳城团团围住。赵襄子吩咐将士们坚决守城，不许交战。逢到三家兵士攻城的时候，城头上箭好像飞蝗似的落下来，使三家人马没法前进一步。
晋阳城凭着弓箭死守了两年多。三家兵马始终没有能把它攻下来。
有一天，智伯瑶到城外察看地形，看到晋阳城东北的那条晋水，忽然想出了一个主意：晋水绕过晋阳城往下流去，要是把晋水引到西南边来，晋阳城不就淹了吗？他就吩咐兵士在晋水旁边另外挖一条河，一直通到晋阳，又在上游筑起坝，拦住上游的水。
这时候正赶上雨季，水坝上的水满了。智伯瑶命令兵士在水坝上开了个豁口。这样，大水就直冲晋阳，灌到城里去了。
城里的房子被淹了，老百姓不得不跑到房顶上去避难，灶头也被淹没在水里，人们不得不把锅子挂起来做饭。可是，晋阳城的老百姓恨透了智伯瑶，宁可淹死，也不肯投降。
智伯瑶约韩康子、魏桓子一起去察看水势。他指着晋阳城得意地对他们两人说：“你们看，晋阳不是就快完了吗？早先我还以为晋水像城墙一样能拦住敌人，现在才知道大水也能灭掉一个国家呢。”
韩康子和魏桓子表面上顺从地答应，心里暗暗吃惊。原来魏家的封邑安邑（今山西夏县西北）、韩家的封邑平阳（今山西临汾县西南）旁边各有一条河道。智伯瑶的话正好提醒了他们，晋水既能淹晋阳，说不定哪一天安邑和平阳也会遭到晋阳同样的命运呢。