魏征字玄成，馆陶（今属河北）人。生于公元580年。第二年，杨坚在大兴城宣布隋朝建国，年号开皇。从婴孩到青年，魏征的成长正好在隋文帝在位期间。这是隋朝蒸蒸日上的时期。可惜，魏征赶上了好时代，却没赶上好家庭。魏征的父亲叫魏长贤，在在很小的时候就去世了。年幼的魏征既无父母照顾，也没有兄长依靠，生活异常艰苦。

都说穷人的孩子当家早，但是魏征并不善于经营生活。他不懂得如何种地糊口，也不知道怎样做生意赚钱。但他并不是游手好闲的浪荡青年，他爱读书，是个有理想的穷苦青年。有理想是好事，但并不代表有饭吃。理想没法充饥，魏征只好求助于道观，出家当了道士，这才勉强安身。

杨广即位，定年号大业。因为杨广的好大喜功，隋朝社会的不安定因素逐渐增多。魏征看到，天下逐渐偏离太平轨道，走上动荡的弯路。为了能够应对即将来临的“风暴”，他开始学习纵横之术，对苏秦、张仪的事迹了如指掌。

大业末年，烽烟不断，社会动荡不安。此时的魏征已到而立之年，是该走出道观“创业”的时候了。此时，正好有个人请魏征出山。此人叫元宝藏，武阳郡丞。他曾听人说起魏征是个有才学的人。于是请魏征到他军中担任“书记”，处理军中的文书。魏征欣然前往。元宝藏的起义军势力并不大，元宝藏本人也并没有什么过人的军事才能。李密做大之后，元宝藏便举军归降瓦岗。在元宝藏与李密的奏疏往来中，李密发现元宝藏的文笔很好，也很有独到见解。

在与元宝藏当面交谈时，李密夸奖他的奏疏写得好。元宝藏这个人非常实在，他说那些奏疏都不是他写的，而是出自魏征的手。他还将向李密介绍了魏征，说他是个很有才学的人。李密正在用人之际，便召见了魏征。召见之后，魏徵对瓦岗军的前途充满期待，但他也注意到瓦岗军中的一些问题，便给李密上了一封奏疏，在奏疏中，魏征提出了壮大瓦岗势力的十条计策，李密看后，啧啧称奇，对魏征更加另眼相看。但他并没有采纳这些计策。

虽然李密并没有采纳魏征的建议，但魏征并没有离开瓦岗军。大业十四年，王世充袭击李密，魏征再次提出破敌之策。

王世充是西域胡人。开皇年间因军功升至兵部员外郎。大业年间，他在江都做宫监，深得隋炀帝信任，之后又参与平定杨玄感叛乱，声望很高。李密做大，王世充当然不会坐视不管。

王世充先袭击仓城，但是被李密给击败。王世充转而进攻洛口，又被李密击败。李密连连获胜，但魏征却认为这并不是破敌的最好方法。他对李密的长史郑颋分析当前战争局势：“我们虽然多次取胜，但敌死一千我亡八百，加之瓦岗没有府库，将士们取得战功得不到赏赐，缺乏激励措施。

这样下去不是长久之道。眼下最好的办法是不要与王世充碰硬，应该深沟高垒，占据险要，与敌人相持。王世充军中缺乏充足的粮草，不能持久。粮尽必退。待那时再率军追击，一战而胜，彻底消灭王世充。”

这本来是个不错的建议，但是郑颋却不以为然，他对魏征说，你这根本就是老生常谈，根本不可能奏效。

魏徵听了非常气愤，他说：“这明明是奇谋深策，怎么就成了老生常谈了呢？”然后拂袖离去。他只是离开了郑颋的军帐，并没有离开李密，他仍旧在瓦岗军中做事。

唐武德二年（619年），李密被王世充彻底击败，手下大将很多都不再跟随李密。但魏征仍旧追随李密，李密归降李渊，魏征也跟随他一起投降唐朝。

李密根本不重用魏征，在李密手下，魏征的政治前途非常暗淡。可他为何还要跟随李密呢？他为什么不离开瓦岗，主动到李唐这边或者到王世充一边？

这其中原因，还得从魏征的出身来找。

对于一个穷人出身的人来说，安身立命是第一位的，之后才是政治前途。魏征出身贫苦，为了生计当道士。在瓦岗军中，他有事情干，虽然不知道工资多少，但填饱肚子那肯定没有问题。假如魏征离开李密，主动投靠李唐或者王世充，情况会怎样呢？

此时的魏征没有什么名气，既没有指挥过重大战役，手下也没有一帮人跟随。除了肚子里的才学，他什么也没有。而此时他也没有发挥才学的平台。魏征这种人，你给他三米的跳台，他能挑出三十米甚至更远。而问题是谁会给他这个平台？如果他此时离开瓦岗，离开李密，很可能各方势力都不会要他，更别说重用。他后来的经历可以印证这一点。他跟随李密投降唐朝，李渊没有给他平台；他被李建成收入门下，也没有得到重用。对此时的魏征来说，安心在李密手下干才是最好的选择。