1912年由呼玛地方析置，驻呼玛尔 (今黑龙江省呼玛县北金山乡)。1913年升为呼玛县。

1912年由呼玛厅设置，治呼玛尔(今黑龙江呼玛县金山)。1913年升县。