宋淳熙《三山志》记载：“太姥山，旧名才山。《力牧录》云：容成先生常栖之，今中峰下有石井、石鼎、石臼、石杵尚寸。”容成子是黄帝时的大臣，曾在此修炼过。到了尧帝时，有老母在此以种兰为业，她为人乐善好施。因家在路旁，对于往来行人不吝给予。一天，一个道士路经她的房屋乞要一碗米汤，老母端给了他。道士随后传授给她九转丹砂之法。老母服下后，在七月七日那天得道成仙。人们相传呼为“太母”，并将此山称作“太母山”。春秋战国时期，此山曾被越国封为东岳。西汉武帝时，令大臣东方朔敕封下天名山。当东方朔游至太母山，感觉犹如走入了仙境，并赞叹道：“山增海阔，海添山雄，山海相成，浑为一体，实乃生平所首见耳！”于是禀明武帝，将其封为全国三十六名山之首，并改太母山为“太姥山”。据说摩霄峰下摩霄庵（今名白云寺）右边石壁上镌刻的“天下第一山”五个大字，即是东方朔所题。

作为仙山的太姥山，自古就不乏修炼者在此修炼。除了黄帝时的容成子，尧帝时的老母外，还有众多的修炼者在此修行，只是见诸史籍的并不多见。比较有名的如唐朝的智饶、明朝的慧明，清代的行智、秀怀、智水等。

唐宋时，佛教在太姥山上的发展十分兴盛，共建有三十六座寺院，规模较大的有国兴、瑞云、灵峰、芭蕉、天王、白云等寺，故有“东天佛国”之称。国兴寺，唐乾符四年（公元877年）建造，南宋淳祐年间毁于大火，今遗址上尚存石柱三百六十根，寺前有楞枷宝塔和石池。瑞云寺始建于五代后晋天福元年（公元936年），殿宇宽敞，结构别致，采用园林式结构。寺内古物众多，藏经万卷。寺旁有一株古树，人手一触，树叶皆被颤动，当地称为“感触树”，亦一奇树。灵峰寺在冷城西侧的翠薇峰下，始建于唐咸通远年（公元860年），宋时称“兰溪寺”，又名“小灵峰”。寺内有大雄宝殿、藏经楼、念佛堂、斋堂、花圃等建筑。

古人有诗赞之：“太姥无俗石，个个皆神工，随人意所识，万象在胸中。” 太姥山上的四绝之一的“石奇”可从白云寺景区的“仙女献花”、“弥勒袒腹”、“仙翁对弈”、“金钟挂壁”，天门寺景区的“韦陀把天门”、“观音坐莲花”等一窥端倪。而“方横断壁千层险”则要去摩霄峰、新月峰、笔架峰、莲花峰、天柱峰等才可以体会的到。

太姥山的岩洞亦是别具特色。比较著名的有葫芦洞、将军洞，一线天、滴水洞、七星洞、一片瓦、犀牛洞、白马洞、鸿雪洞、蝙蝠洞、福成洞、韦陀洞、莲花洞、龙潭洞等，每一个洞都各具特点，都有一段美丽的传说，令人称奇。比如葫芦洞形似葫芦，洞室宽大，可容千人，有“世外桃源”之誉。鸿雪洞长800米，洞中有井，传说系容成子炼丹时的丹井。而关于一线天的由来，还有一个传说。相传太姥娘娘命白猴在炼丹井旁看守出炉的仙丹，由于多日劳累，在仙丹出炉时，白猴竟然昏睡过去。这时，好吃懒做而又想成仙的金老鼠，乘机偷拿了一粒仙丹。但是逃跑时它惊动了白猴，白猴抓起神斧追赶金老鼠。金老鼠一下子钻進了一块巨石下的小洞里。白猴非常生气，就挥动神斧，在巨大的顽石上裂开了一条狭窄深长的石缝这就是“一线天”。

此外，由于大自然的造化，太姥山一年里，竟有100多天云雾，尤其是春夏之交或雨后初晴之时。此时的太姥山一切景致都若隐若现，宛如仙境。

太姥山的仙迹圣景还不仅限于此。山西麓的“九鲤溪瀑”游览区多溪涧，有小玉女峰、“迎仙船”、“仙童望日”、“观音坐莲”等美景。在太姥山东麓还有座冷城古堡，系一山间村寨，自明嘉靖年间起，成为抵抗倭寇的城堡。

唐朝太子太傅薛令之曾作 《太姥山》一诗，赞美了：