唐高祖武德四年（621年）新安郡改名歙州。

天寶元年（742年）歙州改名新安郡。

肅宗乾元元年（758年）新安郡改名歙州。

北宋徽宗宣和三年（1121年）歙州改名徽州。

元世祖至元十四年（1277年）改徽州為徽州路。

順帝至正十七年（1357年）改徽州路為興安府。二十七年（1367年）改興安府為徽州府。

民國元年（1912年），廢府留縣，直屬安徽省。三年（1914年）6月，屬蕪湖道。十七年（1928年）8月，廢道直屬安徽省，二十一年（1932年）10月屬安徽省第十行政督察區(qū)。二十九年（1940年）3月，屬皖南行署，同年8月屬皖南行署第七行政督察區(qū)。三十四年（1945年）9月，皖南行署撤銷，歙縣屬安徽省第七行政督察區(qū)。

1949年，4月28日后屬皖南區(qū)人民行政公署，5月13日屬徽州專區(qū)。

1949年，10月，屬徽州專區(qū)。

1956年，3月，屬蕪湖專區(qū)。

1961年，4月，屬徽州專區(qū)。

1974年，屬徽州地區(qū)。

1987年，11月27日，徽州地區(qū)改設(shè)黃山市，歙縣隸屬黃山市。

徽州古城一直是徽郡、州、府治所在地，故縣治與府治同在一座城內(nèi)，形成了城套城的獨特風(fēng)格。建于明、重修于清的歙縣古城，分內(nèi)城、外廓，有東西南北4個門。此外還保留著甕城、城門、古街、古巷等。歙縣從唐宋以來共建了400多座牌坊。