在廉洁自律这方面，吕蒙正也是十分突出的。他深受皇帝的信任，可以说是一言九鼎，因此，就有许多人到他那儿以求升迁，对这样的人，吕蒙正巧妙地予以回绝。有一次，朝中有人向他献上一面古镜，自称能照见方圆二百里以内的东西，希望送给吕蒙正。吕蒙正笑着说：“我的脸只有一只碟子那么大，怎么用得上这照见方圆二百里的镜子呢！”在不动声色中打消了送礼者想借此来谋求升官的念头。
吕蒙正还大有识人之明，并有古人“外举不避仇、内举不避亲”的风度。吕蒙正识人、荐人，是不论亲疏远近的。景德二年（公元1005年），吕蒙正告老还乡，回到洛阳，颐养天年。大中祥符年间，宋真宗东封泰山，西祀汾阴，祭拜宋太宗赵光义的永熙陵。经过洛阳时，两次到吕蒙正家中看望。宋真宗想寻找一些人才，便问吕蒙正：“你的这几个儿子中，谁可以担当重任，能有大用？”吕蒙正回答说：“臣的这几个儿子都不中用。但臣有个侄子，叫吕夷简，现在在颖州（今安徽阜阳县）任推官，他具有宰相之才，可有大用。”宋真宗记住了吕夷简这个名字。后来，吕夷简果然成为宋代的名相。