黃山歷史悠久，遠(yuǎn)在六、七千年前，即公元前51世紀(jì)，我國母系氏族社會的后期，人類就已經(jīng)在這片美麗富饒的山區(qū)勞動生息了。在距今三、四千年的殷商時(shí)期，這里就居住著一支叫山越的先民。山越乃百越中的一支。在春秋戰(zhàn)國時(shí)期，這里先屬吳，吳亡屬越，越亡屬楚。秦始皇統(tǒng)一六國之后，實(shí)行郡縣制，這里為會稽郡屬地。南朝時(shí)開始設(shè)置新安郡，郡府搬遷又始終未離開新安江上游，徽州古稱新安，其源蓋出于此。宋代徽宗宣和三年五月廿四日（公元1121年），歙州被詔改為徽州。關(guān)于徽州名稱的起源，一說因其境內(nèi)有徽嶺、徽水、大徽村等，州則因地得名；另一說趙宋王朝是取“徽者、美善也”之意，炫耀他對這一地區(qū)的失而復(fù)得。此二說并存了八百多年，州名亦被歷代沿用至今，清康熙六年（公元1667年）建省的時(shí)候，就是摘取安慶、徽州二府首字作為省名的。
徽派文化底蘊(yùn)豐富，內(nèi)涵深廣，是我國三大區(qū)域文化（藏學(xué)、敦煌學(xué)、徽學(xué)）之一，涵蓋了哲、經(jīng)、史、醫(yī)、科、藝諸多領(lǐng)域。黃山市位于皖浙贛三省結(jié)合部，群山環(huán)抱之中，古代徽州歷來有“山深不偏遠(yuǎn)，地少士商多”之說。每當(dāng)中原戰(zhàn)亂之秋，這里就成了藏龍臥虎之地，它既是亂世的世外桃源，又是治世的人才寶庫。古徽州文風(fēng)昌盛，教育發(fā)達(dá)，“十家之村，不廢誦讀”，因此歷史上以才入仕、以文垂世者，代不乏人，燦若繁星。《辭海》的單列條目中，徽州名人有50多人，列全國各州府之首。據(jù)不完全統(tǒng)計(jì)，明清兩代中進(jìn)士542人，舉人多達(dá)1513人，
“連科三殿撰，十里四翰林”、“父子宰相”、“四世一品”者并不鮮見。明清時(shí)代徽商稱雄商界長達(dá)二、三百年，有“無徽不成鎮(zhèn)”之說。徽商賈而好儒，“官、賈、儒”三位一體，形成了獨(dú)具特色的徽州文化，歷史上各種人才應(yīng)運(yùn)而生，學(xué)術(shù)研究異彩紛呈。例如，活字印刷術(shù)創(chuàng)始人畢升，宋代理學(xué)集大成者朱熹，明清三朝元老、軍機(jī)大臣許國（歷仕明嘉靖、隆慶、萬歷）、曹振鏞（歷仕清乾隆、嘉慶、道光），富可敵國的大鹽商鮑漱芳，著名戲劇家汪道昆，醫(yī)學(xué)家汪機(jī)、汪昂，徽墨、歙硯高手李廷、李少微，新安畫派的創(chuàng)立者和近代著名代表漸江、黃賓虹，哲學(xué)家戴震，理財(cái)家王茂蔭（馬克思《資本論》中提到的唯一中國人），珠算大師程大位，近代教育家、學(xué)者有陶行知、胡適，音樂家張曙，還有工程技術(shù)專家詹天佑、鄭復(fù)光，孫中山元帥府秘書長、近代法學(xué)家徐謙等，都是徽州人。同時(shí)，由徽商興盛而形成了新安理學(xué)、新安醫(yī)學(xué)、新安畫派、徽派盆景、徽墨歙硯、徽派建筑、徽雕、徽刻、徽劇、徽菜等獨(dú)具地方特色的文化流派。現(xiàn)已發(fā)現(xiàn)地面文物4900多處，其中列入國家和省級重點(diǎn)保護(hù)的45處。直至今日，黃山大地上仍遍布古橋、古塔、古亭閣、古宗祠、古牌坊，猶如一座天然的歷史大博物館。