對房玄齡“孜孜奉國，知無不為”這樣高的評價得到李世民的首肯，可見房玄齡為貞觀之治付出了多少心血。

李世民曾問過房玄齡，他是如何評價前朝皇帝楊堅的。房玄齡回答說：楊堅勤于政事。他每次上朝和大臣們討論政事，常常是日頭偏西了都還不休息。而五品以上的官員，他都給予座位讓他們坐著論事。他為人雖然還稱不上仁厚，但也還算得上是個想有所作為的皇帝。

李世民不同意房玄齡的評價，說：看來你是只知其一不知其二。隋文帝大小事情都是自己說了算，不相信他的大臣們。天下那么大，事情那么多，就算他有日理萬機(jī)的本事，累垮了自己，也不可能把每件事情都做得妥帖的。我和他就不同。我是選擇天下有本事的人，委任他們相應(yīng)的職務(wù)，由他們拿出處理事務(wù)的方案，上報宰相審核，再由宰相報告給我就行了。對那些做對了有功的，就獎賞;對那些做得不對有過錯的，就給予相應(yīng)的處罰。如此，有誰還不盡心盡力地去辦事呢?用這樣的方法來治理天下，還怕天下不大治嗎?

他又對房玄齡說：你是身居宰相之職來幫助我處理天下大事的。從今以后，我下達(dá)的命令中有不對的，你一定要及時提出來，千萬不可盲從于我啊!正是有了這樣的君臣關(guān)系，才有了后人景仰的貞觀之治。

房玄齡位高權(quán)重，但沒有像后來的許多權(quán)臣那樣頭腦發(fā)燒，相反，他在宰相位子上呆得越久，就越謹(jǐn)小慎微。貞觀十一年，唐太宗準(zhǔn)備讓有功之臣世襲爵位，便加封房玄齡為宋州刺史，更爵梁國公，目的就是想讓房的子孫可以世襲刺史之職。