受学于边让，边让对他十分欣赏和器重。后来战事开始，杨俊认为河内必定会成为战场，于是带老弱及同行百余家到洛阳、密县的山野间避战。后来转到并州避战。
曹操先后任命杨俊为曲梁长、丞相掾属、安陵令、南阳太守等职，又举杨俊茂才，在职期间宣扬道德教化，又建立学校，人人都称赞他。后来又转任征南将军军师。曹操称魏公，建立魏国后迁中尉。建安二十四年（219年），魏讽趁曹操出征而在邺城谋反，杨俊因而弹劾自己，向东汉太子告辞，但他不欲杨俊离开，只贬他为平原太守。后来曹丕代汉称帝，杨俊再任南阳太守。此时散骑常侍王象向曹丕推荐杨俊，但杨俊没有得到重用。
起初，曹操还未决定继任人，而杨俊与曹植交好，曹操询问杨俊意见时，杨俊虽然称曹丕和曹植都各有所长，不相伯仲，但还是称颂曹植。言论被曹丕知道后，曹丕经常因而怨恨杨俊。黄初三年（222年），曹丕车驾驾临宛城，以城中不繁盛为由大怒，将时任南阳太守的杨俊收监。即使尚书仆射司马懿、散骑常侍王象和荀纬都为杨俊说情，叩头叩至流血，但曹丕十分坚定，不饶恕杨俊，杨俊知道后说：“吾知罪矣。”于是自杀。人们都为他的下场感到痛心。
人物生平
躲避战乱
杨俊年少时曾跟随陈留人边让学习，边让很器重他。杨俊因为战乱刚刚兴起，而河内地处四通八达的要道上，一定会成为战场，就率领家族扶老携幼来到到京、密二县的大山里，同行的有一百余家。杨俊赈济贫乏穷困的人，与他们互通有无。宗族朋友中被人抢去作奴仆的共有六家，杨俊都倾尽家财将他们赎出。
司马懿十六七岁时，与杨俊相遇，杨俊说：“这可不是一般的人呀！”司马朗早就有了名声，他的族兄司马芝却不被众人所知，只有杨俊评论说：“司马芝虽然平时的声望不如司马朗，但实际上的治理才能却只会比他强。”杨俊后来转到并州躲避战乱。本郡人王象，从小失去父母没有依靠，给人做奴仆，十七八岁时，主人让他牧羊，他偷偷抽空读书，因此受到主人的鞭打。杨俊欣赏他的才能品质，当即将王象赎出带回家，又为他娶妻盖房，然后与他分手。
入仕为官
曹操任命杨俊为曲梁县长，入京出任丞相椽属，被举荐为茂才，出任安陵县令，升任南阳太守。他在南阳宣扬教化，开办学校，官吏百姓都称颂他。改任征南军师。魏国建立以后，升任中尉。曹操征伐汉中，魏讽在邺县谋反，杨俊自己弹劾自己，到曹操营中请罪。杨俊因为自己刚刚有罪被赦免，写信向太子曹丕辞职。曹丕不高兴，说：“杨中尉说走就走，未免太过高深了吧？”于是下令将杨俊贬为平原太守。
曹丕称帝后，杨俊又任南阳太守。当时王象任散骑常侍，推荐杨俊说：“臣私下看见南阳太守杨俊有纯粹的优秀品质，有忠诚整肃的宏大气度，实行仁爱足以施及万物，忠厚老实足以感动众人，敦促后进，诲人不倦，外表宽和内心正直，仁慈而不失果断。自从出仕任职以来，所任职的地方都被他治理得很好，两次任南阳太守，广施恩德，相邻地方的百姓都背着孩子来投奔他。现在境内安定，无处施展他的才能，应该将他调回京城，在陛下跟前效力，以光大帝业。”
无奈自杀
杨俊从小到大，以品评人物为己任。同郡人审固、陈留人卫询本来都是兵卒，杨俊提拔帮助他们，二人都成了优秀的人才，后来审固历任郡守，卫询历任御史、县令，他善于鉴别人物并予以提拔，大都像审、卫二人的事一样。当初，临菑侯曹植和杨俊关系很好。曹操还未确立太子，私下询问百官的意见。杨俊虽然分别谈出曹丕、曹植才能资质上各自的优点，没有明确说出应该立谁，但赞美曹植的话更多些，曹丕常常为此怨恨他。
黄初三年（222年），曹丕驾临宛县，因市场上没有繁荣安乐的景象，大怒，将杨俊逮捕入狱。尚书仆射司马懿、常侍王象、荀纬都为杨俊求情，叩头出血，曹丕仍不肯赦免。杨俊说：“我知罪了。”于是自杀。众人都因为他死得冤枉而痛惜。
家族成员
杨览，字公质，汝阴太守。
曾孙
杨沈，字宣弘，杨览之子，散骑常侍。
人物评价
王象：“南阳太守杨俊，秉纯粹之茂质，履忠肃之弘量，体仁足以育物，笃实足以动众，克长后进，惠训不倦，外宽内直，仁而有断。自初弹冠，所历垂化，再守南阳，恩德流著，殊邻异党，襁负而至。今境守清静，无所展其智能，宜还本朝，宣力辇毂，熙帝之载。”
艺术形象
2018年电视剧《三国机密》：常铖饰演杨俊。