黄山有巍峨峻峭的三十六大峰，峥嵘秀丽的三十六小峰。“莲花”、“光明顶”、“天都”三大主峰，海拔均在1800米以上，被称为“三天子都”。此外，黄山还有众多的泉、溪、湖、岩、洞、潭等胜景。

黄山古名黟山，“黟”的意思是黑或黑木，大概是因为这座山的山石有着黑黝黝的光泽，故名。那么何时，又是什么原因更名为“黄山”的呢？北宋景佑著的《黄山图经》根据道教旧籍《周书异记》、《神仙补阙传》所载，称：江南黟山，据得其中，云凝碧汉，气冠群山，有古木灵药，名花异果，瀑水飞泻，汤泉香温，是轩辕黄帝‘栖真之地’。于是在天宝六年（公元747年），信道的唐玄宗下令将其更名为黄山。唐朝著名僧人释岛云有诗题为《望黄山诸峰》：“峰峰寒列簇芙蓉，静思嵩阳秀不如。峭拔虽传三十六，参差何啻一千余。浮丘处处留丹灶，黄帝层层隐玉书。终待登临最高顶，便随鸾鹤五云车。”其中关于隐玉书的黄帝，民间一直流传着其在此修道成仙的故事。

传说，中华民族的始祖黄帝，在位一百多年，深受百姓的爱戴。但他一心向道，曾经向仙人广成子求道。后来，黄帝将帝位传给了颛顼，然后，跟随着仙人容成子、浮丘公学道修炼。浮丘公对他说：“修道炼丹，一定要选择灵山秀水。”于是他们遍历五岳三山，最后来到了江南的黟山。只见这里奇峰错列，拔地而起，且各具情态；而且云雾缭绕，宛若人间仙境。黄帝认为这里是炼丹修仙最理想之处，便与浮丘公、容成子同留此山。

为了炼取丹药，他们每天伐木烧炭，采药煮石，从不间断。经过十几年，金丹终于炼成了。黄帝服了一粒，顿觉身轻如燕，而且可以腾空而起；他的头发也由白变黑。随后，黄帝在紫云峰崖隙间突然流出的红泉中浸泡了七天七夜，使全身老化的皮肤全部随水漂去。此时的黄帝已然脱胎换骨、返老还童。而与此同时，天上突然降下珠函一件、玉壶一把。黄帝打开一看，函中有霞衣、宝冠、珠履，壶中盛满了琼浆玉露。黄帝穿上天赐仙衣，饮下甘露琼浆，回到望仙峰石室，接受群臣的祝贺。这时，空中又降下白龙、彩幡、珠盖，黄帝与浮丘公、容成子一起乘上白龙，彩幡引路，珠盖护顶，从望仙峰顶飞升而去。围观的臣民匍匐在地，齐声欢呼。现在黄山七十二峰中的轩辕峰、浮丘峰和容成峰、望仙诸峰以及浮丘仙坛、浮丘观、黄帝坑、炼丹台、洗药溪、药臼、丹井，就是因他们在此修炼并成仙而命名的。《新安志》载：“昔日浮丘先生，居黄山十三峰(即浮丘峰)下修道，后人建庙以示纪念。峰上有浮丘仙坛，曾有山中人至其处，见峰顶有楼台，金碧辉煌。台旁有池，池中生白莲花，亭亭玉立，香风袭人，俨然神仙居地。池左右积有盐米甚多。但不见人，其人遂回家率众登山取盐米，竟迷路不知所处。”南宋宝枯间丞相程元凤七世孙程孟诗云：“阆风玄圃知何许，珠树琼芝果有无？仁看黟山北峰上，五云深处有仙都。”

而那个成仙的容成子，后来又出现在周穆王时期，行辅助、劝导之事。

此后，在黄山上修道的人亦不少见，只是见诸于史籍的比较少。《神仙补阙传》载：“黟山北峰乃神仙游处，时有彤云拥簇，白鹤飞翔。”这里的北峰是神仙居住之地，因此被命名为“仙都峰”。后世较有名且见于史籍的有宋末道士张尹甫等。明末后，黄山上已不见道教活动的踪迹。在黄山建立较早的道观有浮丘观、九龙观等。

同样根据《黄山图经》的记载，佛教早在南朝刘宋间就开始传入黄山。一些僧人也陆续来到黄山修行。

历代先后修建了寺院近百座，比较有名的是号称黄山“四大丛林”的祥符寺、慈光寺、翠微寺和掷钵禅院。在黄山的风景点中，有蒲团石和蒲团松各一处，据说与唐代僧人释岛云在黄山的修行有关。当年，释岛云带着两个徒弟来到黄山，准备建庙修行。不久，他领着两个徒弟登天都峰，登之前，他在坡前就石趺坐，念完经文后准备攀登。由于山高路陡，他的大徒弟有些畏惧，释岛云便说：“修行先要修性，你心不诚意不专，难成正果，为师允许你下山另找庙门去吧！”大徒弟听完师父一番话似有所悟，又不想独自下山，就在释岛云坐过的蒲团石上趺坐了七天七夜，后来重返禅林，修成了正果。小徒弟则咬着牙，跟在师父后面一步步向上攀登，终于登上了顶峰。随后，他们又去攀登奇险、素有天上玉屏之称的玉屏峰。释岛云师徒二人竟然在玉屏峰上发现了“万山拜其下，孤云卧此中”的摩崖石刻。小徒弟想，这个人迹罕至的绝壁，不修到成佛的程度，是不可能留下墨迹的，而师父法号岛云，孤云自然指他。自己留下来也难修成正果。正胡思乱想间，突然被一阵风刮下崖去。释岛云听到徒弟呼救，想救却没有办法。不料几天后，小徒弟突然来到释岛云的面前，禀告师父说，那天一阵狂风，并没有把他吹落到无底深谷，只是把他掀落在一棵平顶松树的枝桠上，挂破了一点皮肉，并未伤筋动骨。释岛云认定是佛祖的保佑，于是将这棵树命名为“蒲团松”。

唐代释岛云之后，明代还有僧人海能、弘智、音可、元则、王寅，清代大均、大涵、檗庵、渐江、雪庄等在黄山修行。

黄山不仅景色奇绝，以“奇松、怪石、云海、温泉”四绝闻名天下，而且仙迹众多，并多伴有美丽的传说。除了上述所提到的仙人、仙迹外，黄山诸多的景致、植物的命名亦与仙家有关。比如黄山的奇松，有名为卧龙松、龙爪松、麒麟松的，有名为接引松、聚音松、探海松、凤凰松的；比如怪石，有名为“仙人下棋”、“天女绣花”、“五老上天都”、“童子拜观音”等。由奇松与怪石构成的奇景，有名为“梦笔生花”、“喜鹊登梅”、“仙女打琴”等。有些名字的得来今人还可找到其源头，但有些名字如何得来，何时开始已经无从考据了，但这至少反映出黄山的仙风在历史上流传甚远。

黄山著名的景观之一的“梦笔生花”，是指山涧深谷处的一根崛起的擎天石柱，石柱下部直立部分圆滚修长，好象笔杆，顶端好像毛笔尖，一棵古松生长在石柱上面，好像一朵鲜花开放在毛笔的顶端，故名。传说唐代大诗人李白一天深夜在睡梦中，一边吟诗，一边随风飘到了一座海上的仙山。李白正陶醉在大自然的美景中时，忽然见到一支巨大的毛笔耸出云海，足有十多丈高，像一根玉柱一样。正当他想伸手去取之时，李白突然醒了过来。李白梦醒之后，决心遍访名山大川，寻找梦中仙境。后来，李白云游到黄山，一见这支生花巨笔，不觉失声大叫：“以前我梦中所见的生花巨笔，原来就在这里。”据说李白见到“梦笔生花”后，名诗佳句便源源而出，一发而不可收。

李白曾有诗《送温处士归黄山白鹅峰旧居》赞美黄山：