西汉元鼎六年(前111)平且兰，以其地与犍为郡南部置。治故且兰县(今贵州黄平、贵定二县间)。辖境屡有变动：元封二年(前109)分西部置益州郡;元凤五年(前76)罢象郡，以其部分地区并入。有今贵州大部、广西西北部和云南东部。三国蜀汉建兴三年(225)，分南部置兴古郡;东晋建武元年(317)又分置平夷、夜郎二郡，辖境缩小，西晋移治万寿县(今贵州瓮安县境)。南朝齐改为南牂柯郡。汉至西晋武帝属益州，晋武帝后改属宁州。梁大宝后废。隋大业三年(607)又改牂州为牂柯郡。治牂柯县(今瓮安县境)。唐武德三年(620)复为牂州。