无赖出身，善于告密，得到武则天信任，先后任侍御史、御史中丞、太仆卿，组织数百名无赖专事告密，设立推事院，联合党羽朱南山等撰写《罗织经》，制造各种残酷刑具，大兴刑狱，采取刑讯逼供手段，任意捏造罪状致人死地，大臣和李唐宗室遭到枉杀灭族者达数千家。贪赃枉法，横行无忌，联合侯思止、王弘义等援朋结党。最后，企图陷害武氏诸王、太平公主、张易之等武则天最亲信的人物，诬告皇嗣李旦和庐陵王李显谋反，遭到卫遂忠告发。
人物生平
无赖发家
来俊臣从少年时起就是个诡谲奸诈、反复无常、凶险邪恶的人。原是不事生产的游民，后来成为流氓，不事生产，终于有一天因犯奸盗罪被捕入狱。来俊臣在狱中最大的爱好就是“妄告密”。有时是捕风捉影，有时干脆连一点儿影子都没有，来俊臣就会活灵活现地向狱吏告发某某还隐瞒了什么重大罪行。由于他所告发的事情多属无中生有，狱吏查来查去，当然也不会有一点儿收获。但是他还是一如既往地“妄告密”，告来告去，终于引发管理层的震怒，刺史王续将他痛打了一顿——“杖之一百”。来俊臣这才老实了一段时日。
然而不久之后，痛打来俊臣的刺史王续因犯事被朝廷诛杀，这让来俊臣看到了希望之光。既然王续被朝廷诛杀，说明王续不是什么好鸟，他既然不是什么好鸟，按照逻辑推理，被他痛打过的人就一定不会太坏。来俊臣灵机一动，抓住机遇，继续告密。这次他告的层次更高，直接揭发王续有重大罪行，并进而移花接木，在举报信上编造自己因揭发王续而招致痛打的经历。
酷吏政治
在审理武则天交办的案子时，凡有不合他心意的，便对犯罪人实行株连，长幼都要坐连其族，一杀就是千余家。
满朝文武大臣噤若寒蝉，没有敢说话的。人们更慑于当时的暴政，敢怒而不敢言。他与自己的亲信侍御史王弘义、侯思止一起，专诬告那些士大夫们，不论是春季夏季，杀人不断。当时在丽景门内设置了监狱，丽景门也叫做新开门，只要进入新开门，一百人里也难活下来一个人。王弘义则把丽景门戏称为例竟门，意思是说凡是进入此门的人，小命都得完蛋。
来俊臣还与他的党羽朱南山等十几个人，编制一篇《告密罗织经》，共有几千字，都是预先有系统地按内容分例成细目，还要布置怎样罗织犯罪人的事实和缘由，命令他的党羽照此去告发，有时也把密告信投于匦院而让皇帝知道，这种案子武则天多是委派来俊臣去审理。来俊臣另外制造了一种刑具，叫做"突地吼"，凡是上了这种突地吼枷的，都要在地上不住地转圈，很快便会晕倒。他又制造了十几个枷，称名为"见即承"。还有"铁圈笼头"，当审讯囚犯时，在圈中加上楔子。其余还有各种名号的刑具数十种，大致都是如此。囚犯不分其原来的身份贵贱，一律是先把枷棒放在地上，再把他叫到跟前对他说："这就是刑具！"见到刑具的人立即魂飞魄散，无不自己诬陷自己谋反。而武则天又以高官厚禄给予重赏，因此他们争比看谁更为残酷。因而告密的人，在大街上纷然皆是，因而名流们在世短暂，出了名仅可经历几日而已。
朝官们因为要去上朝，不定何时便会遭到袭击，一旦被抓走便可能落得全家族被杀的结果。因此在与家人告别时便说：“不知道还能不能再相见？”
陷害朝臣
如意元年（692年），地官尚书狄仁杰、益州长史任令晖、冬官尚书李游道、秋官尚书袁智宏、司宾卿崔神基、文昌左丞卢献等六人，一起被他们诬告，来俊臣既然是以灭族而为功业的，他自然就想要引导人家接受自己犯了反叛的罪名。他都是先奏请武则天下令，再拿着武则天的敕书一审问他们就会承认自己的罪行，因为这样还可以得到减免其他族人死罪的结果。
来俊臣便以此办法来威胁狄仁杰等，让他们承认犯有反叛罪，狄仁杰诚恳地说道："大周朝革命，万事维新，唐室的旧臣，甘愿听从诛杀。反叛是事实。"来俊臣才稍微从宽处置。"判官王德寿对狄仁杰说："尚书的事就算过去，并且能得到减免死罪的判决。我今天也是受人驱使，只是想求得少爬些台阶，想凭借尚书来牵连杨执柔可以吗？"狄仁杰道："要我怎么办？"王德寿说："尚书从前在礼部，而杨执柔在礼部任某司的员外，你来牵连他一下还是完全可以的。"狄仁杰道："皇天后土（地神）啊，竟然让我狄仁杰干这种事！"随后一头撞在柱子上，鲜血覆盖了他的脸颊，王德寿十分恐惧而告辞。狄仁杰既然已承认自己犯了反叛罪，主管部门只是等待行刑的日期了，因此对他不再严防。他从看守者那里借得笔砚，又扯了一块头巾在上面书写起来，述说了自己的冤枉和遭受的痛苦，然后藏在绵衣内。
他叫人告诉王德寿说："现在天很热了，请通知家人来把我的绵衣取走。"王德寿已不再怀疑他了。家人得到了绵衣中的书信，狄仁杰的儿子狄光远拿着信说事情肯定会发生变化。他得到了召见，武则天看过信后有些不知所以，便把来俊臣叫来问道："你说仁杰等已承认犯了反判罪，那为什么今天他儿子又来诉冤呢？"来俊臣道："这样的人哪肯服罪呢？臣让他坐卧息休得十分安稳，甚至连他们的头巾衣带也未去掉。"武则天命令通事舍人周琳去视察，来俊臣叫狱卒把巾、带借给狄仁杰，并让他在西则随便行走站立，让周琳观看。周琳惧怕来俊臣，不敢向西看，只望着东面唯唯诺诺地答应而已。
来俊臣让周琳暂且留步，要让他给捎去一份文状。于是他命令判官假冒狄仁杰等写了一份谢死表，代替他进呈给武则天。凤阁（中书省）侍郎乐思诲的儿子，八九岁时，他的家遭灭族祸，现在司农寺暂为差役，武则天对他家过去的事改变了看法而得到召见，他向武则天讲述了来俊臣如何苛刻狠毒，希望陛下把那些称反叛的假状子一一加以符合对照，结果不分大人小孩所有状子都是一个样，武则天心里不解其意，于是召见狄仁杰等问道："你们为什么要承认反叛呢？"狄仁杰等回答说："假如不承认，早死在枷棒下了。"武则天又问："为什么要写谢死表呢？"狄仁杰等答道："没有写过。"武则天拿出谢死表让他们看，才知道那是别人背着他们代写的，于是释放了这六家。
罪恶滔天
来俊臣还诬告过大将军张虔勖、大将军给使范云仙，在洛阳州官署里，张虔勖等不堪忍受痛苦，自诉对于国家有功，义正严辞，来俊臣竟命令卫士把他乱刀砍死。范云仙也陈述自己一生服务于先朝，声言司法官对他惩治的冤枉和痛苦，来俊臣下令割去了他的舌头。士子和庶民见此都吓破了胆，没有敢说话的。
来俊臣屡犯贪赃罪，被贬到同州任参军，在那里他曾强夺一个参军同僚的妻子，并污辱了他的母亲，也没有敢说话的。不久又授予他河南县尉，一直升任为太仆卿。
武则天曾赐给他十个婢女。那还是在他刚刚被授予司农卿的时候。此时西番酋长大将军阿史那斛瑟罗的家中有小婢能歌善舞，而来俊臣只有在司农卿时赐予的一般婢奴，于是就让他的党羽诬告斛瑟罗谋反，用意是想要谋取他的婢女。后来各酋长来到朝廷，他们个个割耳破面，来诉冤的有数十人，因而才没有获灭族罪。
那时綦连耀与刘思礼等对朝廷有些议论，长安县尉吉顼知道这件事，便告诉了来俊臣。来俊臣告发了此事，有数十人受到牵连而被灭族。来俊臣仗势想要独揽此功，又对吉顼罗织罪名，后来吉顼得到召见而在朝廷作了诉讼，唯有他幸免。
不久，来俊臣威逼强娶了太原王庆诜的女儿。
来俊臣仗势贪求女色，官民妻妾有漂亮的，千方百计夺取；有时指使人罗织罪名告发某人，然后假传武则天命令夺取他的妻妾，前后罗织罪名杀人无法计算。自宰相以下，他登记姓名按顺序夺取他们的妻妾。他自称才能可比石勒。监察御史李昭德一贯憎恶来俊臣，又曾经在朝廷侮辱秋官侍郎皇甫文备。这二人便共同诬告李昭德谋反，将他逮捕入狱。
身死族灭
来俊臣平素与河东卫遂忠有交情，卫遂忠的名望虽不显赫，但是很好学，很有辩驳之才。有一天，卫遂忠酒酣之后，到来俊臣家去。当时，来俊臣和妻子的家人设宴聚会。守门人欺骗来俊臣出去了，卫遂忠知道他是说谎，便闯了进去，把他谩骂羞辱一顿。来俊臣由于在亲戚面前遭人谩骂而感到羞耻，便指使人殴打他并把他反绑起来，很快又放了他，但是从此结下了仇隙。
来俊臣想罗织罪名诬告武氏诸王及太平公主，又想诬告皇嗣李旦及庐陵王李显与南北衙禁卫军一同谋反，希望借此窃取国家权力，卫遂忠告发他。武氏诸王及太平公主恐惧，共同揭发他的罪恶，将他关进监狱，有司判处他死刑。武则天想赦免他，处死的奏章送上已经三天，仍不批下。王及善说：“来俊臣凶残狡猾，贪婪暴虐，是国家的大恶人，不除掉他，必然动摇朝廷。”武则天游览宫廷园林时，吉顼牵马，太后向他询问宫外的事情，他回答说：“外边的人只奇怪处死来俊臣的奏章没有批下来。”武则天说：“来俊臣有功于国家，我正在考虑这件事。”吉顼说：“于安远告李贞谋反，后来真的反了，于安远现在只任成州司马。来俊臣聚集为非作歹的人，诬陷好人，贪赃受贿的财物堆积如山，被他冤屈而死的鬼魂满路，是危害国家的坏人，有什么可怜惜的！”武则天于是批准处死他。
万岁通天二年（697年）六月三日，武则天将来俊臣斩于闹市并陈尸示众。人们不论是老少都憎恨他，争相去剐他的肉，很快就把他的肉割的丝毫不剩。武则天得知来俊臣为民众如此痛恨，方下诏指责他的罪恶，而且说：“应该诛灭他全家族，以伸雪百姓的愤恨，可依法查抄他的家产。”来俊臣身死族灭后，不论是士子庶民还是男人女人，人们都在大街上相互庆贺说：“今后睡觉的人背部才可以贴着席子了。”
来俊臣还掌权的时候，每次铨选，吏部受他嘱托越级授官的有数百人。来俊臣垮台后，侍郎都向朝廷自首。武则天责备他们，他们说：“我们辜负陛下，该当死罪！但我们扰乱国家法度，只加罪于自身；我们如果违抗来俊臣的意旨，立即灭族。”武则天于是赦免他们。
个人作品
来俊臣将自己的理论成果集结为《罗织经》。这是一部专讲罗织罪名、角谋斗智的书。言简意赅，每个专题为一卷。全书字数不多，分为十几卷。每一卷专讲一个问题，譬如《治敌卷》、《问罪卷》等。它是人类有史以来第一部制造冤狱的经典，更是酷吏政治中第一部由酷吏所写的赤裸裸的施恶告白。据说宰相狄仁杰阅罢《罗织经》，全身颤抖，冷汗迭出；武则天面对《罗织经》，仰天长叹。
在《瓜蔓卷》中，来俊臣这样总结自己的经验：“事不至大，无以惊人。案不及众，功之匪显。上以求安，下以邀宠。其冤固有，未可免也。”也就是说，不把案子搞成惊天大案，就不能引起大家的注意。不让案子牵连住一大批人，就不足以显示出办案人的能力。而这样做，会让上级有安全感，更会让下级获得宠幸。
《罗织经》内容大致如下：
一、先确定对象。
二、从四面八方向中央发告密信件或检举信件，以期控制舆论。
三、等候有关机关或当权人物把这些信件“指示转交”下来，再进行相关调查。
四、根据交办的信件，把对象逮捕、审讯。
五、审讯时施用酷刑逼供，被告只有两条路可以选择，一是招认，一是死于酷刑之下。
六、审讯时让犯人们在口供中互相牵引，并扩大向外牵引，人数多寡和范围大小，随心所欲。
七、把被告口供整理编撰，使互相吻合，毫无破绽。
家族成员
父：来操，赌徒出身
妻：王氏
人物评价
武则天：“如此机心，朕未必过也。”
宗城潘：“如周兴、来俊臣，乃尧年之四凶也。”
王及善：“俊臣凶狡贪暴，国之元恶，不去之，必动摇朝廷。”
吉顼：“俊臣聚结不逞，诬构良善，赃贿如山，冤魂塞路，国之贼也，何足惜哉！”
李显：“自今内外法官，咸宜敬慎。其文深刺骨，迹徇凝脂，高下任情，轻重随意，如酷吏丘神勣、来子珣、万国俊、周兴、来俊臣、鱼承晔、王景昭、索元礼、傅游艺、王弘义、张知默、裴籍、焦仁亶、侯思止、郭霸、李仁敬、皇甫文备、陈嘉言等，其身已死，自垂拱已来，枉滥杀人，有官者并令削夺。”
程行谌：“周朝酷吏来子珣、万国俊、王弘义、侯思止、郭霸、焦仁亶、张知默、李敬仁、唐奉一、来俊臣、周兴、丘神勣、索元礼、曹仁哲、王景昭、裴籍、李秦授、刘光业、王德寿、屈贞筠、鲍思恭、刘景阳、王处贞二十三人，残害宗枝，毒陷良善，情状尤重。”
刘昫：“逮则天以女主临朝，大臣未附；委政狱吏，剪除宗枝。于是来俊臣、索元礼、万国俊、周兴、丘神勣、侯思止、郭霸、王弘义之属，纷纷而出。然后起告密之刑，制罗织之狱，生人屏息，莫能自固。至于怀忠蹈义，连颈就戮者，不可胜言。武后因之坐移唐鼎，天网一举，而卒笼八荒；酷之为用，斯害也已。遂使酷吏之党，横噬于朝，制公卿之死命，擅王者之威力。贵从其欲，毒侈其心，天诛发于脣吻，国柄秉于掌握。凶慝之士，荣而慕之，身赴鼎镬，死而无悔。若是者，何哉？要时希旨，见利忘义也！”
赞曰：“王德将衰，政在奸臣。鹰犬搏击，纵之者人。遭其毒螫，可为悲辛。作法为害，延滥不仁。”
宋祁：“武后乘高、中懦庸，盗攘天权，畏下异已，欲胁制群臣，椔翦宗支，故纵使上飞变，构大狱。时四方上变事者，皆给公乘，所在护送，至京师，禀于客馆，高者蒙封爵，下者被赉赐，以劝天下。于是索元礼、来俊臣之徒，揣后密旨，纷纷并兴，泽吻磨牙，噬绅缨若狗豚然，至叛脔臭达道路，冤血流离刀锯，忠鲠贵强之臣，朝不保昏。而后因以自肆，不出帏闼，而天命已迁，犹虑臣下弗惩，而六道使始出矣。”“呜呼！非吏敢酷，时诱之为酷。观俊臣辈怵利放命，内怀滔天，又张汤、郅都之土苴云。”
徐元瑞：“酷吏，谓暴刻残忍者，如汉严延年、唐来俊臣等也。”
冯梦龙：“君令而臣随，君心而臣胆，是故口变缁素，权移马鹿，如得其情，片言折狱。”
轶事典故
周兴残害无辜被举发，武则天命来俊臣审理，来俊臣于是请周兴吃饭，来俊臣问：
“囚犯如果硬是不认罪，该怎么办才好？”周兴大笑说：“这太容易了，把犯人放到瓮里，四周燃起炭火。”来俊臣派人找来一口大瓮，按照他出的主意用火围着烤，然后站起来说：“来某奉陛下圣旨审查于你，请君入瓮吧！”周兴见大事不妙，磕头求饶，表示愿意招认。成语“请君入瓮”由此而来，比喻用某人的方法整治他自己。
史书记载
《旧唐书·列传第一百三十六·酷吏》
《新唐书· 列传第一百三十四·酷吏》