西汉高帝九年(前198)分巨鹿郡置。后屡改为国，元帝永光后为郡。治清阳县(今清河县东南)。辖境屡有变迁，元帝以后相当今河北清河县、故城县及枣强县、南宫市各一部分，山东临清市、夏津县、武城县及德州市、高唐县、平原县各一部分地。东汉改为国，移治甘陵县(三国魏改为清河县。今临清市东北)。建和二年(148)改为甘陵国，建安十一年(206)改为郡。三国魏黄初三年(222)复为清河国，四年复为郡。晋以后辖境缩小。十六国后赵移治平晋城(今临清市东南水城屯)，前秦移治武城县(今清河县西北)。北魏复治清河县。北齐又移治武城县(隋改名清河县)。隋开皇初废。大业及唐天宝、至德时又曾改贝州为清河郡。隋大业七年(611)张金称、高士达起义于此。