到了隋炀帝大业年间，裴寂已经年近四十多岁了，仍然只不过是个晋阳宫副监的小官，已经对前途不再指望了。当时天下盗贼横行，太原留守李渊想要起兵讨贼，但缺乏军用粮草，无法成行，裴寂筹集了九万斛大米、五万段杂彩，四十万副铠甲给李渊。李渊平定京师盗贼后，出任大丞相，于是任命裴寂为大丞相府长史。

后来李渊开国当了皇帝，对他说：“我能有今天都是你的功劳。”任命裴寂为尚书右仆射，裴寂两次为朝廷领军出征，结果都大败而归，李渊也不和他计较。裴寂想要引咎回乡，李渊不准，说：“我还没有老了，你怎么就不想干了呢？”当时满朝王公贵，没有谁有这样的殊荣。裴寂活了六十岁，死后被封为河东郡公。

（《新唐书》）