杨志是有名的杨家将的后代。因为脸上有块青色的胎记，就有了个绰号叫"青面兽杨志"。他从小学武艺，长大后成了一名军官。当时的徽宗皇帝要用南方的奇花异石堆起一座万岁山，殿帅府就派十个军官去太湖边押运石头。其他九个军官都顺顺当当地回来了，偏偏杨志在过黄河时遇到风浪翻了船。杨志空手回来，太尉高俅鼻子不是鼻子脸不是脸的，把杨志赶出了殿帅府。
杨志想到别处再找机会，但身上没钱，只好卖掉祖传的宝刀。他不好意思吆喝，就在刀鞘上插了个草标儿，别人就知道这刀是要卖的了。他在桥上站了一会儿，忽然行人纷纷躲开，来了一个叫牛二的流氓，这家伙一贯惹是生非，大家都怕他。
那牛二走上前来，抽出杨志的刀，"你这刀卖多少钱？"杨志说："祖上留下的宝刀，要卖三千贯。"牛二撇撇嘴，"这把破刀有什么好，卖得这么贵？"杨志便介绍道："有三件好处。第一件，砍铜剁铁，刀口不卷......"
牛二就跑到桥下铺子里拿来二十个铜钱，在桥栏干上叠成一摞，对杨志拍胸脯说："你要是能一刀剁开铜钱，我就给你三千贯！"杨志说："这有什么。"他卷起袖子，瞄得准准，一刀便将二十个铜钱剁成两半。旁观的众人齐声喝彩。
牛二对众人吼道："你们起什么哄？"又问杨志："你说，第二件好处是什么？""第二件叫'吹毛得过'，拿几根头发朝刀口上一吹，立刻断成两截。""我不信！"牛二就在自己头上拔下一把头发，递给杨志，"你吹给我看！"杨志接过头发，朝刀口上用力一吹，那些头发真的一分为二飘过了刀口。众人又喝彩，这时看热闹的人越来越多了。
牛二又问第三件好处。杨志说："第三件叫'杀人不见血'。""怎么个'杀人不见血'？"
"把人一刀砍了，刀上却没有血迹，因为刀太快了。"牛二说："我不信，你去砍一个人我看看。"杨志说："平白无故谁敢杀人？你不信，找条狗来我杀给你看。"牛二说："你说的是'杀人不见血'，没说'杀狗不见血'！"杨志不耐烦了，"你不想买就拉倒，胡搅蛮缠干什么？"牛二一把揪住杨志，"我偏要买你这把刀！""你要买，拿钱来呀。""我没钱！""没钱你干吗揪住我？"牛二耍无赖了，"我就要你这把刀！""我不给你！"
杨志挣开身子，顺手一推，把牛二推了一跤。牛二爬起来，嘴里说着，"来呀，是好汉就砍我一刀呀。"一边就来硬夺杨志手里的刀。杨志气极了，牛二却又拳打脚踢。杨志便对众人叫道："大家都看见的，我杨志没办法才在这里卖刀，这流氓不讲道理要抢我的刀，还打我！"牛二说："打死你又怎么样？"说着又是一拳。打得杨志"火从心上起，怒向胆边生"，只见寒光一闪，流氓牛二倒在杨家的祖传宝刀下------刀刃上果然滴血不沾。
杨志真是条好汉，闯了祸也不逃走，他对围观的众人说："我杀了人，你们陪我去自首吧。"于是众人跟杨志来到开封府，帮着杨志把事情经过说了一遍。官府上下都佩服杨志，也庆幸东京街上从此少了一害，所以没要杨志偿命，从轻发配到北京大名府留守司充军。
同样是充军，杨志就比林冲舒服一些了。平日受牛二祸害的街坊们都凑了银钱给杨志做盘缠，公差张龙和赵虎也很通情达理，大名府也没沧州那么远，没几天就到了。
大名府的地方官梁中书，乃是当朝太师蔡京的女婿。这天，两个公差把杨志带到留守司厅前，送上开封府的公文。梁中书一看犯人：咦，这人眼熟！梁中书在东京时认识杨志的。问清楚杨志的案情，梁中书立刻命令开枷，就把杨志留在身边使用了。没过多久，梁中书在东郭门外操练本城兵马，故意让杨志和军官们比武。杨志先是打败了副牌军周谨，便替代了周谨的职务。绰号叫"急先锋"的索超不服，"他要是赢了我，我这个正牌军让他来当！"索超和杨志各显本领，斗了五十多个回合还分不出胜负，梁中书大喜，将两人都提升为管军提辖使。