当初，李建成做太子时，太子洗马魏征经常劝说他及早除去秦王，等到李建成被杀以后，身边的人都为魏征担惊受怕。李世民传召魏征，严厉地责问他为什么要挑拨自己兄弟之间的关系，魏征镇定自若，回答说：“如果已故的太子能早些听从我的进谏，肯定不会有今天的祸事。”李世民对魏征的直率敢谏早有所闻，就十分器重他，于是改变了对他的态度，以礼相待，并任命他担任了詹事主薄。
魏征从小丧失父母，家境贫寒，但他十分喜欢读书。隋朝末年，魏征是隋朝武阳郡丞的门客，后归降李密，李密任命他为元帅府文学参军，专掌文书卷宗。
公元618年，李密失败后，魏征入观降唐。第二年，魏征在黎阳被窦建德俘虏。窦建德被打败后，魏征再次回到长安，被太子李建成引用为东宫僚属。魏征看到太子与秦王李世民的冲突日益加深，多次劝太子要先发制人，及早动手。
玄武门之变以后，李世民由于早就欣赏他的胆识才能，非但没有怪罪他，反而让他担任詹事主簿。李世民继位后，经常把魏征叫入宫中，询问政事得失。魏征因受到重用，才能得以发挥，因而竭尽所能，常常知无不言，言无不尽。
有一次，唐太宗向魏征问道：“什么样的君主是明君，什么样的君主是昏君呢？”魏征回答说：“明君能够广开言路，昏君只会偏听偏信。以前秦二世胡亥深居宫中，不见大臣，只是偏信宦官赵高一个人，直到天下大乱以后自己还被蒙在鼓里；隋炀帝偏信虞世基，天下郡县多以失守，自己却不得而知。”太宗对他的话深表赞同。
公元627年，魏征被升任尚书右丞。这时，有人举报魏征偏袒他的亲属，唐太宗立即派御史大夫温彦博调查此事。结果查无证据，纯属诬告。但唐太宗仍派人转告魏征说：“今后要避开嫌疑，不要再惹出这样的麻烦。”之后，魏征面奏说：“我听说君臣之间，相互协助，同为一体。如果不讲究秉公办事，只讲避开嫌疑，那怎么能行呢？”他还上奏太宗说自己要做良臣，而不是要做忠臣。太宗询问他忠臣和良臣有何区别，魏征答道：“使自己身获美名，使君主成为明君，这样的人是良臣；使自己深受杀戮，使君主沦为暴君，这样的人是忠臣。”太宗点头称是。
由于魏征能够犯颜直谏。即使唐太宗在大怒之际，他也敢据理力争，从不退让，所以唐太宗对他产生了敬畏之心。有一次，唐太宗想要去秦岭山上打猎取乐，行装都已经准备好，却迟迟未能成行。后来魏征问及此事，太宗笑着答道：“当初确有这个想法，但害怕你又要直言进谏，所以很快便打消了这个念头。”还有一次，唐太宗得到了一只上好的鹞鹰，把它放在自己的肩膀上，很是得意。但当他看见魏征远远地向他走来时，便赶紧把鹞鹰藏在怀中。魏征假装没有看见，故意跟太宗聊了很久，魏征走后，鹞鹰已被闷死在太宗怀中。
公元629年，魏征被认命为秘书监，并参长朝政。不久，长孙皇后听说一位姓郑的官员有一个年仅十六七岁的女儿才貌出众，便请求太宗将其纳为嫔妃，太宗便下诏将这一女子纳为妃子。魏征听说这个女子已经许配陆家，便立即入宫进谏：“陛下为人父母，抚爱百姓，当忧其所忧，乐其所乐。居住在宫室之中，要想到百姓都有屋宇之安；吃着山珍海味，要想到百姓没有饥寒之患。现在郑氏之女早已许配陆家，陛下未加详细查问，便将她纳入宫中。如果传出去，难道这是为民父母的道理吗？”太宗听后大惊，当即深表内疚，并决定收回成命。但房玄龄等人却认为郑氏之女并没有许配给任何人，陆家也派人递上表章，声明并无定亲之事。这时，唐太宗半信半疑，又召来魏征询问。魏征直截了当地说：“陆家之所以否认此事，是害怕陛下以后借此怪罪他们。”唐太宗这才恍然大悟，坚决收回了诏令。
公元632年，群臣都请求唐太宗去泰山封禅，借以向天下炫耀功德，只有魏征表示坚决反对。唐太宗觉得很奇怪，便问魏征说：“你不想让我去封禅，是不是认为我的功劳不高、德行不好？”魏征回答说：“陛下您本人英明神武，但自从隋朝末年天下大乱以来直到现在，人口并未恢复，各地粮仓空虚，您要是兴师东巡，耗费巨大，沿途百姓根本承受不了。况且陛下封禅，必然有很多外国使节出席，而如今中原一带人烟稀少、灌木丛生，使者们看到我们国家如此虚弱，岂不产生轻视之心？如此仅图虚名而受实害的事，陛下为什么要干呢？”太宗觉得他说的很有道理，从此不再提封禅之事。
公元636年，魏征奉命主持编写的《隋书》《梁书》《陈书》《北齐书》等史籍，历时七年，至此完搞。其中《随书》的序论、《梁书》《陈书》和《北齐书》的总论都是魏征亲笔撰写的。
公元639年，魏征看到唐太宗逐渐怠惰，懒于政事，追求奢靡，便奏上了著名的《十渐不克终疏》，令太宗警醒。
公元643年，魏征患病卧床，唐太宗派来探望的使者络绎不绝。不久，魏征在家中病逝。唐太宗亲自来到他家吊唁，痛哭失声，并对人说：“以铜为镜，可以正衣冠；以古为镜，可以知兴替；以人为镜，可以明得失。现在魏征去世，我失去了一面宝镜啊！”
魏征在世时，为唐太宗先后上书二百余条，一再向唐太宗强调“监听则明，偏听则暗”，这对唐太宗开创“贞观之治”起到了重大的作用。
魏征雕像
魏征的“忠言逆耳”细细品味，很有道理！