西汉初置。治东平陵县(今章丘市西)。以在济水之南得名。文帝十六年(前164)改为国，封刘肥之子辟光为济南王。辖境约当今山东济南、章丘、邹平、济阳、莱芜、沂源、新泰、平邑等市、县地。景帝三年(前154)以参与吴、楚七国之乱被诛，国除为郡。武帝元狩以后南部辖境缩小，只有今济南、章丘、济阳、邹平等市、县地。东汉建武十五年(39)改为国。西晋复为郡，怀帝永嘉后移治历城县(今济南市)。汉至南朝宋属青州，北魏至北周属齐州。隋开皇初废。