隋朝末年天下大乱，分崩离析，到处都不太平，然而只有一个地方远离了漩涡的中心，始终在不动声色的旁观。一个叫李渊的太原留守镇守在今天的山西太原（并州）一带。历史上，太原被称为北都，是拱卫首都长安和洛阳的北方军事重镇。
李渊为什么能出任太原留守这一职位呢？作为皇帝的经济根基，太原在中国北方有着极其特殊的地位，被赋予整个太原辖区的全权即最高军政长官乃太原留守。想要担任太原留守这一官职，首先必须是和隋朝皇室有着不一般的关系，是能受到隋炀帝信任的重臣，而李渊恰好都符合这些条件。
李渊的祖父李虎出身于武川镇（位于今天的内蒙古），是西魏建国的功臣，为西魏权力中枢八柱国之一。从唐室李氏曾长期在武川镇担任守卫边关的任务，而且还曾使用过胡姓“大野氏”这一情况来看，李渊的家族来自边镇且几乎可以肯定是混血，世代为将，李渊担任军职也有长达10年的时间。
李渊的母亲是独孤信的第四个女儿，与隋文帝之妻独孤氏（独孤信的七女）是姊妹，因而李渊与隋炀帝实为同一个时期的表兄弟。李家与隋室的关系如此之近，本来应该是隋朝的积极支持者。但李渊从小丧父，很年轻时就承袭了家业，总给人以少年老成的印象。加之李渊不拘小节、行侠仗义的作风使其颇具人望。和李渊形成鲜明对比的是，隋炀帝却是一个十足的独裁者，事无巨细都要亲自裁决，而且猜疑心超乎常人。因此，隋炀帝对于这个本来可以作为自己依靠力量的表兄弟李渊充满了戒心，在李渊患病时，炀帝甚至希望李渊赶快病死。
但是，虽然隋炀帝多心又犹豫不决，可是隋末严峻的形势迫使他还是不得不委任李渊为太原留守。炀帝如此戒备李渊是有原因的，不仅仅是李渊的家世、人望等原因。当时社会上流行一首童谣，说是“桃李子”将成为下一代君主。这个“桃李子”被认为是指姓李的人。所谓童谣，就是在民间的街头巷尾儿童传唱的儿歌。在中国历史上，假托流行儿歌来有意识地预示未来的情况十分常见。隋炀帝自己也深知这一点，因而对于姓李的人非常敏感。当时，隋末群雄之一李密就被隋炀帝认为是最大的威胁，而李渊也被视为是其中的威胁之一。所以隋炀帝又派遣心腹王威、高君雅两人担任李渊的副手，明则协助，其实是为了监视李渊。
综上所述，李渊这么聪明的一个人自然不会甘于充当傀儡。他表面云淡风轻，私下里暗暗地积蓄实力，收留或藏匿逃亡兵士以及被官方追捕的人；借巡视辖区内之际积极网罗各种人才。在这一时期，他的两个儿子，即李建成与李世民，给他以巨大帮助，成为李渊的左膀右臂。只是，关于李渊究竟是怎么想的、何时能下决心起兵反隋？李渊始终难下决心，这些想法，自然对谁也没有透露。于是，李世民等人为了促使父亲尽快起事，便策划了一个计谋。
在太原附近有一个晋阳宫，这是炀帝在全国各地设置的离宫之一。尽管不知道炀帝何时前来行幸，晋阳宫里也还是配备了不少漂亮的宫女待命。负责管理这些宫女的宫监裴寂是李渊的心腹。有一天晚上，裴寂和李渊在晋阳宫中，由宫女服侍一起饮酒。作为臣子来说，这是绝对不能饶恕的犯上行为。当酒喝到高潮时，裴寂告诉李渊，犯下如此大错，已经没有任何退路。促使李渊当场作出了起事的决断。据说这实际上是裴寂与李世民私下串通好的结果。对于上述插曲的真实性，我们虽然无法确切判定，但不管怎么说，优柔寡断的李渊终于作出了决断。李渊杀掉了炀帝派来监视自己的王威和高君雅，从各地汇集了三万兵力，于大业十三年七月树起了反隋的大旗。
李渊的军队从太原沿汾水南下，目标直指长安。自炀帝即位以来，洛阳成为事实上的首都，因而隋末群雄的目光也都盯着从洛阳周边到连接南北的大运河沿线，并在这一带反复展开了激烈的争夺。
与此相对而言，长安附近当然也有反叛势力，但其规模都比较小，不像东方各地那样，各种势力强大的反隋集团相互激烈争战。倘若对当时的状况从空中加以鸟瞰的话，就会发现长安附近宛如一个死角或曰真空地带。长安城虽然有炀帝之孙、十岁的代王杨侑镇守，然而一些有能耐的辅佐之臣当时却并不在长安城内。
李渊的三万人马七月从太原出发，途中连续突破霍邑守将宋老生、河东守将屈突通的隋军防线（均位于今天的山西省内），渡过黄河进入关中（位于今天的陕西省），到十月份终于包围长安。
在这一过程中，还发生了一段关乎后来的插曲。李渊从太原出兵以后不久，在向隋将宋老生的霍邑进兵时，为多日不止的淫雨所困，当时有一位白衣老者自称是附近的霍山（霍太山）神的使者，前来指点迷津，李渊才得以从窘境中解脱。所谓霍山神即指当地的土地神、山岳神，乃是道教之神。这件事情遂成为唐朝与道教结缘的第一个接点。
李氏家族及其支持者承袭建立王朝的经典方式，就是寻找超自然的预兆，举行庄严的皇家仪式。他们收到大部分道士的积极支持，因为道士们追随道教创始人老子留下的古老信仰。老子姓李，因此同姓氏的君王被认为会如“救世主”一般带来道教的千年王国。
到了十一月九日，李渊军发动总攻，一举占领了长安。在东方，李密为了攻占首都洛阳，长期以来一直疲于奔命，却始终未能如愿，但李渊起兵不到半年却成功地攻克了长安。攻人长安以后，李渊尊隋炀帝为太上皇，立代王杨侑为皇帝（隋恭帝），自己成了唐王。此乃李渊迈向禅让的第一步。
此时，隋炀帝正在江都（扬州）沉溺于酒色之中。他完全失去了对于政治的兴趣，不理政务，每天听到的只有亲信虞世基的谄媚之言。看到这种情况，被称作“骁果”的亲卫军将士军心浮动，部分人希望返回北方老家。在这种情况下，一批对于炀帝不满的大臣推举宇文化及为首领，发动宫廷政变，缢杀了炀帝。至此，前后经历文帝、炀帝两代皇帝的隋王朝宣告灭亡。时为大业十四年（618）三月，若按长安方面的年号来说则是义宁二年，炀帝享年五十岁。隋炀帝墓位于今天扬州的北郊。
接到了隋炀帝的死讯之后，李渊遂于当年五月取代隋恭帝登上皇帝宝座，改元武德。自此唐王朝宣告成立，李渊成为唐朝的第一代皇帝高祖。和隋朝的皇室一样，唐朝的创立者也出身于一个西北地区的军事世家，并且同样把老关中的大兴城作为首都，重新以古城长安之名命名。这样一来，由于唐朝以长安为据点，一开始便站在了号令全国的有利地位，在隋末群雄中崭露头角。然而当时的前景仍然很不明朗。以唐王朝的建立为发端，群雄之间的霸权争夺反而愈演愈烈。距离所有人都能看清楚天下统一大业终将由唐朝来完成，则还需要度过数年艰苦的岁月。
