战国赵武灵王置。秦、西汉治善无县(今山西右玉县南)。辖境相当今山西宁武县、雁门关以北，大同市、浑源县以西，和内蒙古黄旗海、岱海以南地区。东汉移治阴馆县(今山西朔州市东南八十里夏官城)。属并州。此后辖境屡有变化。三国魏移治广武县(今代县西南，北魏移治今县)。北魏属司州，太和中改属肆州，后周大象元年(579)为肆州治。隋开皇初废。大业初改代州为雁门郡。唐武德元年(618)复为代州。天宝、至德间又曾改代州为雁门郡。