“陈桥兵变”后，尽管宋太祖已黄袍加身，但“废置天子，变易朝廷”之类的军事政变，仍有可能重演。当时禁军的九名高级统帅，或是太祖称帝前的结拜兄弟，或是赵宋集团的中坚人物，他们在赵宋集团的崛起和“陈桥兵变”中均有极大贡献，是集兵权、功勋于一身的赵氏王朝的开国元勋。功高则震主，权大则不测。这种功高权重的情形，对太祖及其子孙的皇位，确乎是一个潜在的威胁。
太祖有一句名言：“卧榻之侧，岂容他人酣睡？”这虽然是针对南唐政权而言的，却也把他对功臣近侍的戒备之心，表露得淋漓尽致。对南唐可以用武力征伐，但对手下的开国元勋怎样处置，让深谙机谋的宋太祖非常棘手。
建隆二年七月，太祖召见赵普问道：“为什么从唐末以来，数十年间帝王换了八姓十二君，争战无休无止？我要从此息灭天下之兵，建国家长久之计，有什么好的办法？”
赵普回答道：“陛下深谋远虑，提出这一问题，此乃天地人神之福也。唐末以来皇祚数移，兵革不休，战乱频仍，根本原因就在于方镇势力太大，君弱臣强。现在要革除这一弊端，唯有削夺方镇的权力，控制他们的财政，收编他们的精兵，这样天下自然就安定了。”赵普的话还没说完，太祖就连声说：“你不用再说，我全都明白了。”
一天晚朝结束，太祖把石守信、高怀德等禁军高级将领留下来喝酒，喝到酒酣耳热之际，太祖突然屏退左右侍从，推心置腹地向他们诉起了衷肠。他说：“若不是靠你们出力，我是到不了今天这个地位的，为此，我从内心念及你们的功德。但是，做皇帝也太艰难了，还不如做个节度使快乐，不瞒各位说，这一年来，我从来都没有睡过一个安稳觉！”
石守信等人听了，忙问：“这是什么缘故？”
太祖不慌不忙地继续说：“这不难知道。我这个皇帝位置，谁不想坐坐呢？”
石守信等人听出了话中之音，连忙叩头说：“陛下何出此言，现在天命已定，谁还敢有异心呢？”
太祖说：“不然，你们虽然无异心，然而你们部下想要富贵，一旦把黄袍加在你的身上，你即使不想当皇帝，到时也身不由己了。”
一席话，软中带硬，将领们知道自己已经受到猜疑，弄不好还会引来杀身之祸，顿时冷汗淋漓，一边流泪，一边叩头，请太祖给他们指明一条明路。
太祖缓缓说道：“人生在世，有如白驹过隙，所有追求富贵的人，不过是想多聚些金钱，多有些享乐，使子孙后代免于贫困而已。你们不如放弃兵权，多买些良田美宅，为子孙置下永久的产业。同时多买些歌儿舞女，日夜饮酒相欢，以终天年，我再同你们结为儿女亲家，君臣之间，两无猜疑，上下相安，岂不是很好吗？”
石守信等人见太祖已经把话讲得这样明白，只得俯首听命，表示感谢太祖的恩德。
第二天，侍卫亲军司马步兵都指挥使石守信、都虞侯张令铎、殿前司副都点检高怀德、都指挥使王审琦等，都上表声称自己有病，要求解除军职，宋太祖欣然同意，让他们罢去禁军职务，到地方上去任节度使。
与此同时，太祖废除了殿前都点检和侍卫亲军马步军都指挥司。禁军分别由殿前都指挥司、侍卫马军都指挥司和侍卫步军都指挥司，即所谓“三衙”统领。另选一些资历较浅、威望不高、容易控制的人担任禁军将领，分别掌管三衙。这三衙又互不统属，互相牵制，这样，军权就牢牢掌握在皇帝手里了。
后来，太祖还果真兑现了互联姻亲的诺言，把守寡的妹妹嫁给高怀德，把自己的两个女儿分别嫁给石守信和王审琦的儿子，还让三弟光美做了张令铎的乘龙快婿。君臣无猜，共保富贵，这就是历史上著名的“杯酒释兵权”。
比起汉高祖、明太祖等置功臣于死地，而且斩尽杀绝的做法，宋太祖的“杯酒释兵权”实在是文明得多！
上述故事主要取自司马光的《涑水记闻》，后来李焘的《续资治通鉴长编》也作了详细记载，再后来，几乎所有相关的历史书籍都一遍又一遍地重复这个故事，很少有人提出怀疑。
最早的记载
现存“杯酒释兵权”的最早记载，是北宋真宗时的宰相丁谓所写的《丁晋公谈录》和北宋仁宗时宰相王曾的《王文正公笔录》。
丁谓的《谈录》记述了赵匡胤与赵普的一段对话。宰相赵普对太祖赵匡胤说：“禁军统帅石守信、王审琦兵权太重，不能再让他们领兵了。”赵匡胤听后不以为然，说道：“石、王这两位老将是我多年的老朋友，难道还怕他们造反吗？”赵普说道：“石、王这两位老将肯定不会造反。但他们缺乏统帅才能，日后肯定制伏不了部下。如果其属下将官要造反的话，他们也会身不由己的。”太祖仍然表示怀疑地说：“这二人受国家如此重用和恩惠，难道会有负于我？”赵普从容答道：“只怕就如陛下，怎么也负于周世宗了呢？”太祖顿时大悟，就听从了赵普的提议，罢了两人的兵权。
这段记载说明，太祖是在被赵普说服后，才开始按照赵普的建议着手进行解除兵权的。其中并没有戏剧性的“杯酒释兵权”故事发生。
王曾的《笔录》中就出现了“杯酒释兵权”的雏形。他是这样描述的：相国赵普屡以为言，太祖于是不得已召来石守信等到宫中酒宴，谈到过去彼此亲密无间的快乐往事时，乘机进言：“我与诸位，兄弟相称，义同骨肉，哪里有什么芥蒂？但是言官们进说不已，我也不得不有所考虑，以今天的情况讲，不如各位自选风水宝地，出守外藩，世袭官爵，租赋所入，也足以自奉，这样优哉游哉地安度晚年，不亦乐乎？我后宫中有几个女儿，当与诸位的公子攀亲，以示君臣无间。诸位看如何？”
石守信等人都心领神会，叩首称谢。于是石、高、王诸人各归藩镇，俱蒙皇亲婚约，后二十多年，仍贵裔显赫。
这段记载说明，“杯酒释兵权”的故事，首次出现于仁宗时期，但情节较为简略;直到神宗时期的《涑水纪闻》，故事才变得有声有色起来。