东晋任城(治今山东济宁东南)人，字长道。世代贫寒，务农。自幼好学。荆州刺史殷仲堪嘉其诚，召医为之治病。初为州主簿，尝见桓玄，玄鄙薄不用。早与刘裕相交，及玄篡位，与裕共谋举兵讨玄。元兴三年(404)，玄败，授建威将军、豫州刺史。破桓石绥于白茅(今江苏常熟东白茆口)，败桓歆于历阳(今安徽和县)，斩其氐帅杨秋。义熙元年(405)，进征虏将军、吴国内史。转荆州刺史，持节，都督六州军事，领南蛮校尉。寻卒于官。