秦王嬴政九年（前238年）亲政后，即筹划消灭六国。秦王政十七年（前230年）开始发动统一战争，首先灭掉韩国，十九年（前228年）灭掉赵国，二十二年（前225年）灭掉魏国，二十四年（前223年）灭掉楚国，二十五年灭燕，二十六（前221年）灭齐，十年之间完成统一大业，建立起规模空前的大帝国，废分封，立郡县。勾注山为太原、雁门二郡地。

《史记·秦本纪》庄襄王三年（前247年）：“蒙骜……攻赵榆次、新城、狼孟，取三十七城。初置太原郡。”《正义》注引《括地志》云：“榆次，并州县，即古榆次地。新城，亦曰小平城，在朔州善阳县西南四十七里。狼孟故城在并州阳曲县东北二十六里。”按，新城在雁门关北，狼孟在其南、广武（即代县之前身）当包括在三十七城之内。《汉书·地理志上》，太原郡下有“广武县”，云：“河主（即勾注）、贾屋（即夏屋山）山在北，都尉治。”可见以勾注塞为主防线之广武城，是用武之地。又“雁门郡”条下注云：“秦置，勾注山在阴馆。”阴馆，在今朔州境，是今代县之西北邻。可见勾注山是横于广武与阴馆之间的，而广武彼时属太原郡，阴馆属雁门郡，勾注山为二郡所共辖。

秦王朝除严密注意山东六国的反抗外，还特别积极地对付北部地区（即塞外）的匈奴。匈奴据说是夏王朝的后裔。他们以游牧为生，逐水草而居，强健武勇，长于骑射。大约在战国晚期进入阶级社会。中原地区的物质财富为他们所欲求，因此经常入侵，抢劫财物，掳掠人口。所以当时北边的燕赵秦之国都分别筑长城防守，派驻大批军队驻防。秦始皇统一六国后，第一次出巡就是到这一带视察。始皇三十三年派大将蒙恬率领三十万大军北伐匈奴，修筑万里长城。西起临洮（今甘肃岷县）东至辽东，比现在的明长城更靠北，作为第一道防线。而勾注塞为第二道防线。（据传，代县尚有蒙恬之墓及十多处秦始皇长子扶苏之墓与庙。）

《史记·蒙恬传》：秦已并天下，乃使蒙恬将三十万众北逐戎狄，收河南。筑长城，因地形，用险制塞；起临洮至辽东，延袤万余里；于是渡河逶迤而北。暴师于外十余年。

秦王朝短命，很快便为刘邦建立的汉王朝取而代之。西汉时勾注塞又称为雁门险阻，东汉时又称之为雁门塞。

《史记·孝文本纪》：后六年（前158年），“故楚相苏意为将军，军句注……以备胡。数月，胡人去，亦罢。”又见《汉书·孝文帝本纪》、《资治通鉴》。《汉书·武帝本纪》：元光元年（前134年）“东十月……中尉程不识为车骑将军，屯雁门，六月罢。”元光五年（前130年）“春正月，又发卒万人，治雁门险阻。”雁门险阻之称初见于此。此次治理之险阻即为今代县西北之太和岭上的铁戈门。东汉时，句注塞又称雁门塞。《三国志》卷三十，裴松之注《魏书》曰：“熹平六年（公元177年）遣……匈奴中郎将臧景与南单于出雁门塞。”按，东汉时雁门郡治由善无（今右玉县南）移治阴馆（今朔州市附近，在勾注山北麓）。雁门塞之称始见于此。

当西汉王朝在中国本土完成统一大业之时，匈奴部落也在漠北完成统一。匈奴即蒙古族，以游牧为生，自不如中原内地农业生活之优越。在楚汉相争时，他们乘机强大起来，便向中原进逼，进攻之线路，雁门关当是其中最大之要冲。汉高祖七年（前200年）匈奴以四十万骑进犯。汉高祖刘邦立即发兵抵拒。娄敬分析敌情后加以谏阻，刘邦不听，并将娄敬械系于广武城（在今代县西古城村），出雁门关与匈奴交战，结果被匈奴围困于白登（在今大同县东）。刘邦被围七天，始用陈平计得脱。刘邦经雁门关回师，并释放娄敬，娄敬建议以和亲法缓和与匈奴的冲突。此后，直到汉武帝元光前一直未敢以进攻的姿态面对匈奴，尽管匈奴在边境发生侵扰事件，汉王朝主要是采取守势，而雁门关就是一个守卫的重要门户。公元196年（汉高祖十一年），刘邦将太原、雁门二郡合并为代国，挑选众皇子中“贤知温良”的四子刘恒为代王，以晋阳为都，雁门关当是其缮治之要地。今代县有薄村，据传即代王母薄氏遗迹之地（旧《志》或曰出生地，或曰死葬之地，似应以出生地为可信）。

经过文景之治，经过若干年的休养生息，到汉武帝元光二年（前133年），廷议与匈奴和战问题，武帝决定反击，在马邑诱歼匈奴主力，被匈奴看出破绽而未获成功。马邑即在雁门关北口附近，雁门关当然是其要害之区。此后，汉王朝便由守势转变为攻势，不断经由雁门关出击匈奴。如元朔元年（前128年）“秋，匈奴入辽西，杀太守，入渔阳、雁门，败都尉，杀三千余人。遣将军卫青出雁门，将军李息出代，获虏首数千级、东夷秽君南闾等及口二十八万降。”（《汉书·武帝纪》）延及东汉，时而和亲，时而征战，仍以雁门关为南北巨防。公元73年（汉永平十六年），汉明帝令骑都尉来苗、护乌桓校尉文穆领太原、雁门、代郡等地一万一千骑出平城击匈奴。122年（汉安帝延光元年），鲜卑兵侵入雁门、太原，142年南匈奴句龙吾斯等又一次侵掠并州。此时雁门关时刻须箭拔弩张以备战。