李泌从小就非常聪敏，书只看一遍就能背下来，七岁能赋诗。唐玄宗非常喜爱他，张九龄、贺知章等人一见李泌也非常喜欢器重他。

李泌还是儿童的时候，身体很轻，能在屏风上站立，能在薰笼上行走。一个有道术的人说：“这孩子十五岁一定会大白天升天做神仙。”父母和亲族互相约定，如果有一天空中真出现奇异的香味和音乐声，李泌的近亲，一定要迎上去大骂一顿。到了李泌十五岁那年的八月十五日，果然有笙歌响在室内，时时有彩云挂在院子里的树上。李泌的亲朋就一起捣蒜泥，捣了几大桶。等到异音和奇香来到，让人登上屋顶泼蒜泥，音乐和香味就散去了，从此再也不来了。

二年后，李泌赋《长歌行》一首，说道：“天覆吾，地载吾，天地生吾有意无？不然绝粒生天衢，不然鸣柯游帝都。焉能不贵复不去，空作昂藏一丈夫。一丈夫兮一丈夫，平生志气是良图。请君看取百年事，业就扁舟泛五湖。”诗写成之后，传抄的人没有不称赞的。

张九龄出任荆州时，请李泌到郡里住了一年多。他游历衡山和嵩山时遇见神仙降临，看到羽毛制成的车帘和旌旗，流动的云朵和神奇的光彩照耀着山谷，天将亮的时候才散去。神仙们还教给他长生成仙的道术，并警告他说：“太上有命令，因为国家有危险，朝廷多难，你应该以文武之道辅佐皇上，让你的功德遍及天下民众，然后就可以得道成仙了。”从此，他养气辟谷，修习黄光谷神的旨要。李泌还见到明瓒禅师，禅师告诉他说：“你拿到了十年宰相。”

天宝年间，他在表哥郑叔则家，已经辟谷多年了。他在郑家时，有两天不省人事，醒来后他说，看到自己的身体从头顶跳出有二三寸，旁边有一位仙人好象在帮助他。等到脚也升到头顶时，忽然想到并且说，我还有大事未了，还有家庭房闱的留恋，希望把这些事办完。那仙人说，要是这样，还是先让他给皇帝做事吧，然后就醒转来了。两年后，李泌果然被皇帝征入宫中。

李泌住在郑家时，曾经有八个容颜服饰很奇特的隐士来过，说他们仙术齐备，没有办不到的事。临走时叹道：“你的俗缘竟然没了，可惜了你的心志和骨相！”李泌要和他们一块去，他们说不行，姑且给他一个做完宰相的时间罢。那八个人出门就不见了。于是李泌作了《八公诗》记叙这件事。

安禄山叛乱时，李泌和肃宗共商大计，收复了两都，功劳很大。因为李泌经常辟谷，肃宗常常亲自烧两个梨送给他。一次，几个皇子硬要吃那梨，肃宗不给，皇子说：“李先生受到如此恩宠，请允许我们联句，作为以后的故事。”颖王说：“先生年几许，颜色似童儿。”信王说：“夜抱九仙骨，朝披一品衣。”益王说：“不食千钟粟，唯餐两颗梨。”肃宗最后说：“天生此间气，助我化无为。”这就是历史上著名的“烧梨联句”的故事。肃宗又说：“你住在山中，不参与人间的事；住在宫中，秘密谋划救国大计，把握神妙的机宜，你是镇守社稷的人。”

代宗即位后，官员的任免，代宗一定要与他商量。军队和国家的大事，也都让李泌参与决断。因为宠臣忌妒李泌的才能，他几次被诬陷，遭排挤。但他无论在哪里为官，政治都很清明。无论情势多险恶，他总是凭着自己的智慧免遭灾祸。

德宗时，李泌被调回京都做了宰相。德宗说：“这是天把你交给我的。即使管夷吾那样的俊才、傅说那样的好宰相，怎么能比上你呢？”

李泌“死”后，当月有个叫林远的宫中使者在离长安很远的蓝天旅舍中见到了他。李泌独自骑着马，穿着平常的衣服，说暂时去衡山，他向林远述说自己辅佐四代帝王所得到的重用，呆了许久才别去。林远走了很远的路回到长安，才听说李泌已经死了。德宗听说此事之后，尤其感到悲伤和惊奇，德宗说：“李泌先生自己说，他得辅佐四个皇帝，然后再登天作神仙，这话应验了。”

李泌的军事谋略和为相的业绩，记载在《邺侯传》中。《资治通鉴》中也有不少关于李泌的记载，他有文集二十卷传在世上。