魏征的名臣之路开启之后，官职一直往上升。
贞观二年，公元628年，魏征升任秘书监，参预朝政。
魏征看到国家因经历丧乱之后，图籍散失，制度、法令纷乱繁杂，当下奏报朝廷组织学者校定四部书。几年之间，秘府中收藏的书籍，精要而又完备。
他对李世民做得不对的地方，也继续规劝。
李世民到九成宫游玩，宫人住在官舍里。
不久右仆射李靖、侍中王王圭到来，县吏便把宫人移到别的住所，让出官舍给李靖等人住。
李世民听说这件事后，龙颜大怒说：“威力福禄的权柄，难道是由李靖等掌握的吗？为什么礼待李靖而轻视我的宫人！”立即命令审查县吏和李靖等人。
魏征忙劝阻道：“李靖等人，都是陛下的心腹大臣，宫人不过是后宫打扫庭院的奴婢。论他们付托的使命，事理各不相同。再说李靖等外出，官吏要向他们询问朝廷法度，他们回来，陛下要向他们询问民间疾苦。李靖等理所当然要与官吏相见，官吏也不能不拜见他们。至于宫人，供奉饮食之外，无须参见侍候。如果因此怪罪责罚官吏，恐怕有损皇上的声誉，使天下人听了感到惊骇。”
李世民听了，说：“您说得对。”于是，开释了官吏的罪名，李靖等仍然住在官舍里，也不再查问了。
不久，太宗在丹霄楼设宴，饮酒之中酒兴正浓时，太宗对长孙无忌说：“魏征、王王圭，从前在东宫，尽心侍奉隐太子建成，当时那么忠心也确实可恶。我能提拔任用他们，以至今日，足以说明我是无愧于古人的了。但魏征每当他进谏我没有听从时，我发话他就不马上答应，这是为什么呢？”
魏征听见李世民这样说自己，当下回答说：“臣认为事情有不合适的地方，所以才进谏，如果陛下不听规劝而臣马上答应，那恐怕事情就会照样施行。”
李世民又问：“只管当时答应，有机会再另外陈述意见，难道不行吗？”
他的意思，魏征应当给面子给自己，不要当众就反驳自己。
魏征说：“从前舜告诫群臣说‘你们不要当面顺从我，退下后又有话说。’如果臣当面顺从陛下又找机会陈述意见，这就是‘退下后又有话说’，难道是稷、契事奉尧、舜的办法吗？”
李世民听了大笑说：“别人说魏征举动粗野、傲慢，我却觉得妩媚，正是因为这些啊。”
他之所以觉得魏征说话妩媚，是因为魏征处处把他比作尧舜，这是对他最大的夸赞。
我们也由此知道，魏征虽然直言，但直言中，也在处处夸赞李世民。
魏征听了拜谢说：“陛下启发引导臣让臣说话，所以臣敢于进谏，如果陛下不接受臣的进谏，怎么敢多次触犯皇上的尊严呢？”
魏征对于李世民的家事也敢于规劝。