李渊一宣布起兵，即成功地肃清了内部的反对力量，牢牢地控制住了太原及其附近地区。但从当时外部形势来看，李渊父子的处境仍然十分艰难，北面有强悍的突厥，在刘武周的勾结下随时有南攻的可能；南面西河地区正当西入关中的要道，却被忠于隋室统治的武将高德儒所把守，严重威胁着义军。而突厥问题尤其难以对付，起兵后的第三天，突厥骑兵数万人兵临太原，闯入罗郭北门，大肆劫掠，取东门而出。李渊命令收编的当地义军骁勇千余人出战，全军覆灭，致使太原城内顿时人心惶惶。
面临这一突如其来的威胁，李渊父子和他们的谋臣策士反复考虑，觉得义军与强大的突厥相比，将少兵寡，战则不敌，缓则突厥兵将攻入太原，其局面将不堪收拾。于是，命令裴寂、刘文静等人一面严加守备，一面大开城门，城上不张旗帜，守城之人不许外看，亦不得高声，使敌人莫测高深。在黑夜，又派小股部队，偷偷潜出城外，绕至敌后方虚张声势，造成有援军源源而至的假象。并再三告诫出城的将领和士兵，只许据险扼守，不必与突厥兵交战，若突厥退去，也不必追击。突厥兵过去曾与任太原留守时的李渊交过手，深知李渊用兵一向神奇莫测，这次见太原敞开城门，久不出战，又不知底细，所以不敢贸然进兵，等了几天，见无机可乘，只好乘夜收兵归去。