在李渊进入关中之前，他女儿平阳公主早已在此起兵。她联合当地的义军，攻克了长安外围的许多隋军据点，为李渊的西进彻底扫清了道路。
李世民与平阳公主在渭北会师之后，远近各地的官吏士民和义军首领纷纷前来归附，李世民精心挑选了一批才俊之士作为自己的左右手。其中一个人，就是后来的名相房玄龄。
房玄龄出身于官宦世家，自幼博览经史，在文学和书法上均有很高造诣。少年时代曾随父亲房彦谦游京师，其时国家安定、天下太平，人人都认为隋王朝一定会江山永固。可房玄龄在长安逛了几天后，却从鼻孔里重重地哼了一声，对父亲发表了一番时政感言。
他不仅痛骂隋文帝杨坚“混诸嫡庶，使相倾夺”，还说到头来必定“内相诛夷，不足保全家国”。他父亲听了这番大逆不道之言，本来就已经吓得不轻，没想到房玄龄最后又说了一句：“（隋朝）今虽清平，其亡可翘足而待。”（《旧唐书·房玄龄传》）