可他一生忠君爱国，始终坚守着“君命不可违”的信念。
在他看来，董卓虽然专权，但毕竟是朝廷任命的相国，自己如果擅自起兵，就是谋反。
他叹了口气，对梁衍和皇甫郦说：“董卓固然有罪，但讨伐他需要得到皇帝的诏命。我不能擅自兴兵，否则就成了乱臣贼子，这样只会让天下更加混乱。”
最终，皇甫嵩还是决定遵从朝廷的征召，前往洛阳。
梁衍和皇甫郦见状，都失望不已，但也只能服从命令。
皇甫嵩整顿军队，交代好后事，便带着少量随从，前往洛阳。
不出所料，皇甫嵩一到洛阳，就被董卓下令逮捕下狱，罪名是“勾结关东义军，意图谋反”。
董卓本来想直接杀掉皇甫嵩，以解心头之恨。可就在即将行刑的时候，一件意想不到的事情发生了。
皇甫嵩的儿子皇甫坚寿，与董卓一向交好。
他得知父亲被逮捕下狱后，心急如焚，从长安一路赶到洛阳，求见董卓。
董卓念及旧情，设宴款待皇甫坚寿。
宴席上，皇甫坚寿再也忍不住，当场质问董卓：“我父亲一生忠心耿耿，平定黄巾，保卫国家，立下赫赫战功，从未有过谋反之心。明公为何要听信谗言，杀害忠良？”
说完，皇甫坚寿跪在地上，叩头流泪，为父亲求情。
在座的宾客都被皇甫坚寿的孝心所感动，纷纷起身离席，劝说董卓赦免皇甫嵩。
董卓见状，也有些动容。
他本来就不是真心想杀皇甫嵩，只是想出口气。
现在见皇甫坚寿如此求情，又有众人劝说，便顺水推舟，下令释放皇甫嵩。
皇甫嵩出狱后，被董卓任命为议郎，不久后又升任御史中丞。
虽然保住了性命，但皇甫嵩知道，自己已经失去了兵权，成了董卓手下的一个摆设。
后来，董卓迁都长安，返回长安时，特意命令御史中丞以下的百官在车前参拜。
董卓看到皇甫嵩，用手拍了拍他的肩膀，得意洋洋地问道：“义真，你现在怕不怕我？”
皇甫嵩心中虽然愤怒，但表面上还是笑着回答：“明公以德辅朝廷，大庆方至，我有什么好怕的？如果明公滥用刑罚，逞凶施暴，那么天下人都会害怕，不仅仅是我一个人。”
董卓听了，哈哈大笑，没有再为难他。
此后，皇甫嵩一直低调行事，在董卓的眼皮底下小心翼翼地活着。
初平三年（公元192年）四月，司徒王允与吕布等人密谋，诛杀了董卓。
董卓死后，长安城内一片欢腾，百姓们纷纷走上街头，庆祝乱臣贼子被诛。
王允掌控朝政后，立即想到了皇甫嵩，任命他为征西将军，让他率军攻打董卓的弟弟董旻驻守的郿坞（今陕西宝鸡市眉县）。
郿坞是董卓生前修建的堡垒，地势险要，储存了大量的粮食和财物，董旻率领董卓的残余势力在这里负隅顽抗。
皇甫嵩接到命令后，立即率军出征。
他对董卓恨之入骨，不仅因为董卓曾陷害自己，更因为董卓祸国殃民，导致天下大乱。
这一次，皇甫嵩没有丝毫犹豫，他亲自指挥军队，猛攻郿坞。
由于董卓已死，董旻的军队士气低落，根本抵挡不住皇甫嵩的进攻。
很快，郿坞被攻破，董旻被杀，董卓的三族被全部诛灭。
皇甫嵩下令查抄董卓的家产，将其财物全部上交朝廷，粮食则分给百姓，受到了长安百姓的热烈拥护。
诛灭董氏一族后，皇甫嵩的威望再次达到顶峰。
王允为了表彰他的功绩，升任他为车骑将军，负责镇守长安。
此时的皇甫嵩，已经年近六十，但他依然雄心勃勃，想要辅佐王允，整顿朝政，恢复汉室的秩序。
可好景不长，董卓的部将李傕、郭汜等人得知董卓被杀后，率领数万大军从凉州赶来，围攻长安。
王允虽然忠心，但缺乏军事才能，面对李傕、郭汜的进攻，束手无策。
皇甫嵩虽然率军顽强抵抗，但长安城内兵力有限，最终还是被李傕、郭汜攻破。
长安城破后，李傕、郭汜纵容士兵烧杀抢掠，王允被杀，汉献帝再次落入军阀手中。
皇甫嵩率领残余部队拼死保护汉献帝，才使得汉献帝没有受到伤害。
李傕、郭汜为了拉拢人心，没有杀害皇甫嵩，反而任命他为太尉。
太尉是三公之一，位高权重，但此时的太尉，已经没有任何实际权力，只是一个虚名而已。
皇甫嵩深知李傕、郭汜的残暴，知道自己留在长安也无力回天，只能再次选择隐忍。
他表面上接受了太尉的任命，暗地里却一直在寻找机会，想要恢复汉室。
不久后，因为一颗流星划过夜空，李傕、郭汜认为这是不祥之兆，便以“天降灾异”为由，