汉灵帝听信了他们的谗言，下令召回皇甫嵩，收回他的左车骑将军印绶，削去他六千户食邑，将他贬为都乡侯。
一夜之间，从巅峰跌落谷底，皇甫嵩却没有丝毫怨言。
他默默地接受了朝廷的任命，回到家中闭门谢客，不问政事。
就这样，皇甫嵩在家中闲居了三年。
这三年里，东汉的局势越来越混乱，各地军阀势力崛起，朝廷的控制力越来越弱。
中平五年（公元188年），凉州人王国再次起兵叛乱，率领数万大军围攻陈仓（今陕西宝鸡市陈仓区），形势危急。
汉灵帝这才想起了皇甫嵩的好，再次启用他为左将军，指挥前将军董卓，各自率领两万人马前往征讨。
接到任命后，皇甫嵩二话不说，立即率军出征。
此时的他，已经年过半百，但报国之心丝毫未减。
到达前线后，皇甫嵩与董卓会面，商议作战计划。
董卓建议：“陈仓城小，兵力薄弱，恐怕难以坚守，我们应该快速进兵，解除陈仓的包围，否则城池一旦被攻破，后果不堪设想！”
皇甫嵩却有不同的看法，他分析道：“陈仓城虽然小，但城池坚固，守军顽强，王国的军队虽然势众，但缺乏攻城的经验和器械，想要攻破陈仓并非易事。我们不如坚守不出，以逸待劳，等敌军久攻不下，疲惫不堪的时候，再趁机出击，定能大获全胜！”
董卓听了，很不高兴，他觉得皇甫嵩是在故意拖延时间，想要抢功。
但皇甫嵩是主帅，董卓虽然心中不满，也只能听从命令。
于是，皇甫嵩下令全军坚守营寨，不主动进攻。
王国率领大军围攻陈仓，从冬天一直到第二年春天，持续了八十多天。
正如皇甫嵩所料，陈仓城坚守不破，黄巾军士兵疲惫不堪，士气低落。
到了中平六年（公元189年）二月，王国见攻城无望，只好下令撤军。
董卓见状，又站出来反对：“兵法云，‘穷寇勿追，困兽犹斗’。现在王国的军队虽然撤退，但如果我们追击，他们必然会拼死抵抗，到时候我们恐怕会吃亏，不如就此作罢！”
皇甫嵩摇了摇头，反驳道：“你说的不对。之前我们不进攻，是为了避其锋芒；现在敌军撤退，是因为疲惫不堪，已经丧失了斗志，这不是‘穷寇’，而是‘疲师’。我们以精兵追击疲惫之敌，定能大获全胜！”
说完，皇甫嵩不再理会董卓，亲自率领大军追击，同时命令董卓率部作为后援。
果然，王国的军队毫无防备，被皇甫嵩打得大败，斩杀敌军首级上万，王国本人也在逃亡途中被杀。
这一战，再次证明了皇甫嵩卓越的军事才能。
可董卓却因为自己的建议被否决，又亲眼看到皇甫嵩立下大功，心中充满了嫉妒和怨恨。
他觉得皇甫嵩故意让他难堪，从此便对皇甫嵩怀恨在心。
陈仓之战胜利后，皇甫嵩率军返回长安。可此时的东汉朝廷，已经暗流涌动。
汉灵帝病重，宦官和外戚为了争夺权力，矛盾日益激化。
中平六年（公元189年）四月，汉灵帝病逝，少帝刘辩继位。
大将军何进想要诛杀宦官，却犹豫不决，最终被宦官所杀。
随后，袁绍、袁术率军入宫，诛杀了所有宦官。
就在京城混乱之际，早就心怀不轨的董卓率领大军进入洛阳，趁机把持了朝政。
董卓废黜了少帝刘辩，改立陈留王刘协为帝，也就是汉献帝。
他自封为相国，独断专行，滥杀无辜，京城上下人心惶惶。
董卓早就对皇甫嵩心怀怨恨，现在大权在握，自然不会放过他。
但皇甫嵩手握兵权，威望素着，董卓不敢直接动他，于是想了个办法，征召皇甫嵩入朝担任城门校尉，名义上是提拔，实际上是想趁机剥夺他的兵权，然后再找机会除掉他。
当时，皇甫嵩正率领三万大军驻扎在扶风郡。
接到董卓的征召令后，他的长史梁衍连忙劝阻：“董卓妄自废立皇帝，独断专行，已经是乱臣贼子。现在他征召将军入朝，必然是想加害于您。将军不如举兵讨伐董卓，迎接汉献帝前往长安，同时与袁绍等关东义军东西呼应，定能击败董卓，匡扶汉室！”
皇甫嵩的侄子皇甫郦也劝他：“本朝失政，天下倒悬，能安危定倾者，只有将军和董卓。现在将军与董卓已经结怨，势不两立。董卓违抗诏命，不肯交出兵权，心怀不轨，而且他凶狠暴戾，将士们都不归附他。将军现在是主帅，手握重兵，以朝廷的名义讨伐他，上显忠义，下除凶害，这是齐桓公、晋文公那样的大功啊！”
面对部下和亲人的劝谏，皇甫嵩陷入了两难之中。
他深知董卓的野心和残暴