次日，世民复说渊曰：“近来童子谣言：‘杨氏将灭，李氏当兴。’又世人皆传李氏当应图谶，故李金才无罪，一朝族灭。今盗贼日繁，遍于天下，大人受诏讨贼，贼可尽乎？若能尽灭其贼，则功高不赏，身益危矣。惟昨日之言，可以救祸，此万全之策也，愿大人勿疑。”渊乃叹曰：“吾一夕思汝之言，亦大有理。今日破家亡躯亦由汝，化家为国亦由汝矣。”世民思为急计，遂设席于别所，暗使人邀渊。渊乃从裴寂夜饮，酒至半酣，寂又从容言于渊曰：“二郎阴养士马，朝夕训练，欲举大事，正为寂以宫人侍公，恐此事觉，得罪见戮，故为此急计耳。公意如何？”渊曰：“吾儿诚有此谋，事已如此，当复奈何，正须从之耳。”
是日酒阑人散，世民见渊不肯动兵，转加疑虑。忽报隋帝以渊与王仁恭不能御寇，致使刘武周据汾阳宫，遣使执诣江都。
渊闻大惧，世民与寂、刘文静复说渊曰：“公据嫌疑之地，势不图全。今部将败绩，方以罪见收，事已迫矣，尚不为计乎？
且晋阳士马精强，宫监蓄积巨万。代王幼冲，关中豪杰并起，公若鼓行而西，抚而有之，如探囊中之物耳，何乃受单使之囚，坐取夷戮乎？”渊然之，即与其下欲定大计。会帝遣使驰绎赦渊与王仁恭二人，渊谋遂缓。大理司直夏侯瑞谓渊曰：“今帝座不安，参墟得岁，必有真人起于其分，非公而谁乎？”司马许世绪、司铠武士蒦、前勋卫唐宪、宪之弟俭皆劝渊举兵。
时建成、元吉尚在河东，故渊迁延未发。刘文静谓裴寂曰：“事若先发制人，后发必制于人。今公为宫监，而以宫人侍客，朝廷一闻，公死可尔，何误唐公也？”寂甚忧惧，屡迫渊起兵。
渊乃使文静诈为敕书，发太原、西河、雁门、马邑四郡之民，三年二十以上击高丽。由是人情汹汹，思乱者众。及刘武周据汾阳宫，世民言于渊曰：“大人为留守，而贼盗窃据离宫，不早建大计，祸今至矣。”渊乃集将佐谓之曰：“武周据汾阳宫，我辈罪当族灭，如之奈何？”高君雅大惧。王威曰：“智凭唐公，勇赖诸将，吾与高君皆听约束而已。”渊曰：“朝廷用兵，皆禀节度。今贼在数百里内，江都在三千里外，加以道路险要，复有它贼据之，以婴城胶柱之兵，当巨滑豕突之势，必不全哉！
进退维谷，何为而可？”王威与众将皆曰：“公地兼亲贤，同国休戚，要在乎贼，专之可也。”渊再三推让，诈为不得已之状，方始从之曰：“贼势浩大，兵微难敌，先当聚集英杰，方好用兵。”乃命世民与刘文静、长孙顺德、刘弘基等各去募兵，远近赴集，旬日之间，近得万人。仍暗遣使召建成、元吉于河东，召柴绍于长安。王威、高君雅见兵大集，二人大惊，遂疑渊有异志，谓武士蒦曰：“顺德、弘基皆出征背叛之人，朝廷赦而重用。受此大恩，安得从渊将兵，为此叛逆？”欲收二人问罪，蒦曰：“二人皆唐公之客，汝若鞫问其罪，必大致纷纭。”威等乃止。至是二人设计，欲因唐公祷雨晋祠，共谋杀之。
世民举众人谋为急计，私令司马刘政会先诣留守处，首告二人反状，候渊与王威、君雅正在视事，文静进曰：“有密状言反者，请大人视之。”渊以目视王威，令众官同来看状。政会不肯，曰：“所告乃是副留守高、王二人，惟唐公得观。”渊惊曰：“岂有是乎？”读毕，谓威曰：“人告公等私召突厥入寇，果有此乎？”君雅攘袂大骂曰：“造反之人欲来杀我耳！”遂抽身便起。世民已布兵塞路，文静与顺德、弘基等共执之。渊即号令军中曰：“王威、君雅私召突厥犯边，今其果然。”遂执威与君雅系狱中。适突厥引兵数万人寇晋阳，渊命裴寂率兵为备，而悉开诸城门。突厥怀疑不敢进，众疑威与君雅实召之也，于是斩威、君雅二人以徇，突厥大掠而去。毕竟还如何？