西汉武帝置。旧说因西域输入玉石取道于此得名。故址即今甘肃敦煌市西北小方盘城;一说本在今甘肃玉门市西北赤金堡一带，太初二年(前103)李广利伐大宛后，始迁至小方盘城。与西南的阳关同为通往西域的门户：出玉门关为北道，出阳关为南道。东汉建武末废，永平十七年(74)经伊吾之新道开通，成为中西交通要道，复置于今安西东南桥子乡西北马圈村西小古城。关城东濒古河道，即《大慈恩寺三藏法师传》所载“上置玉门关，路必由之”之瓠庐河。旧说六朝时自今甘肃安西县通新疆哈密市的伊吾道日益重要，关址东移至今安西县东双塔堡附近。宋以后，中西陆路交通逐渐衰落，关遂废圮。