北周改西兖州置，治所在左城县 (隋改济阴县，在今山东曹县西北六十里)。隋大业初改济阴郡。唐武德初复为曹州。天宝元年 (742) 又改为济阴郡，乾元元年 (758) 复为曹州。辖境相当今山东菏泽市及定陶、成武、东明和河南民权等县地。北宋崇宁初升为兴仁府。金天会八年 (1130) 复为曹州，大定八年 (1168) 移治古乘氏县 (今山东菏泽市)。明洪武元年 (1368) 移治安陵镇 (今菏泽市西南)。洪武二年 (1369) 又徙治盘石镇 (今山东曹县)。四年(1371) 降为曹县。正统十一年 (1446) 于今山东菏泽市复置曹州，属兖州府。清雍正十三年 (1735) 升为曹州府。

北周武帝以西兖州改置，治左城县(隋改济阴县，今曹县西北)。取古曹国为名。隋大业初改为济阴郡。唐武德初复为曹州。辖境约当今山东省菏泽、曹县、成武、东明及河南省兰考、民权等地。北宋崇宁初升为兴仁府。金天会八年(1130年)复为曹州。大定八年(1168年)移治乘氏县(后改济阴，即今菏泽)。明洪武元年(1368年)，移治安陵城(今曹县西北)，二年移治盘石镇(今曹县)。四年降为曹县。正统十年(1445年)又在乘氏县复置。清雍正十三年(1735年)升为曹州府。唐末在此爆发黄巢起义。