清湖南湘乡人，字毅斋。早年由监生捐纳为县丞。后投湘军，随叔父刘松山在赣、皖等省与太平军、捻军作战。旋又入陕、甘镇压西捻军和回民起义。同治九年(1870)，刘松山被回民军击毙，遂接统其军。次年击败金积堡回民军，捕杀马化龙父子。继而攻灭西宁回民军，署甘肃西宁道。继随左宗棠进军新疆，总理营务。光绪二年(1876)，收复乌鲁木齐。次年攻克天山南路达坂、吐鲁番、托克逊等城，阿古柏兵败自杀。再克库车、喀什噶尔、和阗等地，俘杀金相印。擢兵部右侍郎，督办新疆军务。十年，新疆设行省，为首任巡抚。卒于任所。有《刘襄勤公奏稿》。