1913年改呼玛直隶厅置，属黑龙江省黑河道。民国徐曦 《东三省纪略》 卷2： “以呼玛河得名。” 治所在今黑龙江省呼玛县北金山乡。1916年移治古站 (今黑龙江省呼玛县)。1928年直属黑龙江省。

在黑龙江省西北部、黑龙江西岸。属大兴安岭地区。面积1.43万平方千米。人口34.3万。辖2镇、6乡。县人民政府驻呼玛镇。因境内呼玛河得名。清雍正五年(1727年)设呼玛尔卡伦，光绪三十四年(1908年)改呼玛直隶厅。1912年设呼玛设治局。1913年改呼玛县，治金山镇。1914年移治今呼玛镇，属黑河道。1929年直属黑龙江省。1954年改属黑河专区，1970年划归大兴安岭地区。地处大兴安岭支脉伊勒呼里山北部，呼玛河流经县境。属北温带半湿润气候。农业主产小麦、大豆等。林业有落叶松、樟子松、白桦等树种。特产有木耳、都柿、榛子等。黄金储量丰富。曾被国家授予“黄金万两县”称号。工业有木材加工、建材、机械、食品等。交通以公路和黑龙江航运为主。