隋开皇十六年 (596) 置，属兖州。治所即今山东泗水县。大业初属鲁郡。唐属兖州。元至元二年 (1265) 废入曲阜县。次年复置。明属兖州府。民国初属山东济宁道。1925年属兖济道。1928年直属山东省。

在山东省中南部、泗河上游。属济宁市。面积 1119 平方千米。人口59.6万。辖9镇、3乡。县人民政府驻泗水镇。春秋为鲁虚朾邑。西汉于县东置卞县，属鲁国。三国魏属鲁郡。西晋改鲁郡为鲁国。北魏废卞县。隋开皇十六年(596年)于今泗水镇始置泗水县，以泗水得名。领原卞县地，属兖州，后属鲁郡。唐、宋、金属兖州。蒙古至元二年(1265年)废入曲阜县，次年复置，属济宁府。明、清属兖州府。1914年属济宁道，1925年属兖济道，1928年直属省。1941年属鲁南专区第一行政区。1944年属鲁南行政区第一专区。1948年属鲁中南行政区第四专区。1949年属尼山专区。1950年属泰安专区。1956年属济宁专区。1983年属泰安地区。1985年属济宁市。地处沂蒙低山丘陵区，境内山峦连绵，沟壑纵横，河流密布，有50余条，属淮河水系。属南温带半湿润气候。农业以产粮为主，粮食作物主要有小麦、玉米、高粱、谷子等，经济作物以花生、黄烟为主。境内矿产有花岗石、石灰石、焦宝石、长石、石英、重晶石、石膏、陶土、煤等。主要工业有建材、机械、酿造、化工、食品等。兖石铁路和327国道公路横跨东西，枣徐公路纵贯南北。名胜古迹有泉林、卞桥及小黄沟大汶口文化遗址、下芦城遗址、古卞城遗址等。