徽州的山，峰峦重重，连绵起伏。黄山、天目山、白际山、五龙山是徽州的四大山脉。
黄山山脉主干沿北向南西伸展，绵亘150千米，东接皖浙交界的天目山，西南蜿蜒至江西境内，北与九华山相连接，南至屯溪盆地。主要分布于歙县、黟县、原太平县、绩溪、石台、旌德县之间，是长江下游与钱塘江的分水岭。
黄山境内海拔1400米以上的高峰有：海拔1864米的莲花峰，莲花峰是安徽的最高峰；光明顶海拔1840米，天都峰海拔1810米，仙桃峰海拔1730米。桃花峰海拔1460米，眉毛峰海拔1430米等。
黄山山脉有三大支脉：一是牯牛降支脉，位于祁门县、石台县交界地带，最高峰牯牛降海拔1700多米；二是大会山支脉，地辖休宁、歙县、绩溪、太平、旌德县，最高峰上阳尖海拔1402米；三是仙严岩山脉，位于绩溪、旌德县交界，最高峰仙严岩海拔1110米。
黄山古称黟山，747年，唐玄宗下令改为“黄山”。黄山的总面积约为1200平方千米。黄山著名的有“三十六大峰”、“三十六小峰”。
实际上，黄山群峰，莫可计数。所以，黄山千峰峥嵘，万壑竞秀，风云变幻，大气磅礴，既有雄伟壮丽的奇景，又有妩媚动人的秀色。
黄山“四绝”名动天下，“四绝”是：灵秀奇特的怪石，苍劲多彩的奇松，变幻莫测的云海，水色晶莹的温泉。
黄山“四绝”之一的怪石，以奇取胜，以多著称。其形态可谓千奇百怪，令人叫绝。似人似物，似鸟似兽，情态各异，形象逼真。黄山怪石从不同的位置，在不同的天气观看情趣迥异。其分布可谓遍及峰壑巅坡，或兀立峰顶或戏逗坡缘，或与松结伴，构成一幅幅天然山石画卷。
黄山四季景色各异，春季繁花似锦，五彩缤纷；盛夏翠谷涌泉，绿荫映地；金秋丹枫如火，山花溢芬；严冬雾凇冰挂，晶莹雅洁。对于黄山的雄奇壮美，绚丽多姿。
唐代大诗人李白赞美写道：黄山四千仞，三十二蓬峰。
丹崖夹石柱，菡萏金芙蓉”
明代地理学家、旅行家徐霞客两次登黄山。据清代闵麟嗣编《黄山志》记载，徐霞客认为“薄海内无如徽之黄山。登黄山天下无山，观止矣！”
黄山支脉牯牛降是黄山山脉向西延伸的主体，面积约30多平方千米。区内地层古老，地貌复杂，奇峰错列，谷岔丛生，茂林修竹，沟壑纵横，风光秀丽。
天目山脉位于绩溪县、歙县与浙江省临安县的交界处，长约25千米。最高峰清凉峰海拔1787米，因其气候特点而得名。天目山脉千米以上的山峰有40余座，峰高如云，悬崖峭壁，奇松怪石，流泉飞瀑，云雾朦胧。物种有国家保护的珍稀植物20余种、动物数十种。
白际山脉东北端在歙县与天目山交会，西南抵休宁县与五龙山相接，长约105千米。最高峰搁船尖海拔1482米，在歙县与浙江临安县交界处。白际山诸峰如啸天龙、长岭尖、外溪岗、歙岭顶、石耳山、大连岭等，海拔都在1200米以上。
这些深山群落中，原始生态保护完整。白际岭一带村庄为典型山地聚落，高山密林，小村独立。
宋代汪若作诗写道：白际摩天秀，秋光满蓼汀。
山呈金字面，田画井文形。
五龙山脉是祁门县、休宁县与婺源县主要分界山。钱塘江水系和鄱阳湖水系的分水岭。全长76千米，宽11千米。最高峰六股尖海拔1629米，是休宁县境内的最高峰，其东北是钱塘江正源新安江的发源地。
环绕着黄山、天目山、白际山、五龙山脉的群峰数以千计，崇山峻岭，遥相呼应，层峦叠嶂，跌宕起伏，巧夺天工地造成了或巍峨壮观、气势雄伟，或怪石嶙峋、瑰奇秀丽，或古木参天、物种珍稀的不可枚举的胜景。
齐云山与黄山遥遥相望，在休宁县城西15千米处，原名为“白岳山”，明代嘉靖年间改名为“齐云山”。该山海拔585米，占地面积约为110平方千米，该山有36座奇峰，72座怪崖，24个山涧，16个洞穴和许多池、泉、瀑等。清代乾隆皇帝称之为“天下无双胜境，江南第一名山。”
齐云山还是著名的道教活动中心，明代嘉靖皇帝下令修建的“玄天太素宫”是道士和香客向往的朝拜圣地。千百年来，许许多多的文人骚客慕名而来，李白、朱熹、朱升、唐寅等人都来过此地。
他们寄情与峰岩之上，或赋诗题词，或树碑为记，留下了极为丰富的珍贵的文化遗产。