志得意满。然而功高盖主的人往往招来世人的妒忌以及主上的猜疑。中平二年三月皇甫嵩征讨西凉边章c韩遂以及北宫伯玉之乱，到五月就在中常侍赵忠张让的弹劾之下，以“连战无功，所费者多”的名义，被罢官免职，降爵为食邑两千户的乡侯。虽然史书记载赵忠张让两人皆是出于公报私仇，皇甫嵩曾经上奏朝廷指责赵忠的住宅超逾规定，而张让则是向皇甫嵩索贿不成怀恨在心，可是我们有理由相信，皇甫嵩被罢官免职的深层次原因与他功高盖主威震天下的声名是密不可分的，史书中也明确记载了一个叫做阎忠的人游说皇甫嵩，希望辅佐他拥兵自重以图天下。皇甫嵩虽然心怀忠义

    一口回绝了阎忠，却终究还是落人口实，让汉灵帝惶惶不安难以安坐在宝座上，而这恐怕也是他没有让皇甫嵩去冀州上任的根本原因吧！

    就这样皇甫嵩被束之高阁了起来，而平定西凉动乱的任务则交给了张温和董卓。可这两个人，一个貌似只想捞取政治资本以图取升任的机会，另一个则充满着野心好像故意拖延等待着时机。这场动乱就这样持续了三年之久。在此期间，数任凉州刺史皆死于动乱，而其中耿鄙的死更是成就了后来三国群雄之一的马腾崛起的契机。

    中平五年，凉州贼王国兵围陈仓，朝廷不得不启用皇甫嵩去解陈仓之围。于是拜皇甫嵩为左将军，督前将军董卓各自带兵两万征讨王国的叛军。皇甫嵩拒绝了董卓先发制人直接去解救陈仓之围的建议，并且与董卓辩论申明自己的战略意图，这一段精彩的辩论被《后汉书》记录了下来：

    “卓欲速进赴陈仓，嵩不听。卓曰：‘智者不后时，勇者不留决。速救则城全，不救则城灭，全c灭之势，在于此也。’嵩曰：‘不然，百战百胜，不如不战而屈人之兵。是以先为不可胜，以待敌之可胜。不可胜在我，可胜在彼。彼守不足，我攻有余。有余者动于九天之上，不足者陷于九地之下。今陈仓虽小，城守固备，非九地之陷也。王国虽强，而攻我之所不救，非九天之势也。夫势非九天，攻者受害；陷非九地，守者不拔。国今已陷受害之地，而陈仓保不拔之城，我可不烦兵动众，而取全胜之功，将何救焉！’遂不听。王国围陈仓，自冬迄春，八十余日，城坚守固，竟不能拔。贼众疲敝，果自解去。嵩进兵击之。卓曰：‘不可。兵法，穷寇勿追，归众勿迫。今我追国，是迫归众，追穷寇也。困兽犹斗，蜂虿有毒，况大众乎！’嵩曰：‘不然。前吾不击，避其锐民。今而击之，待其衰也。所击疲师，非归众也。国众且走，莫有斗志。以整击乱，非穷寇也。’遂独进击之，使卓为后拒。连战大破之，斩首万余级，国走而死。卓大惭恨，由是忌嵩。”

    从皇甫嵩征讨黄巾军和解陈仓之围的这两场战争来看，他绝对是汉末少有的将才，也绝对称得上汉末第一名将。不过，他受到中国传统忠君思想影响颇深，几乎到了愚忠的地步，这也给本就已经摇摇欲坠的东汉政权带来了灭顶之灾，而他自己也险些因此而丧命。

    公元189年，汉灵帝病重，朝廷为了削弱董卓在西凉的势力，采用明升暗降的方法，先后两次征召董卓进京，一次升他为少府，一次将他调任并州刺史，命他将兵权交给皇甫嵩。或许董卓也察觉到了这一点，于是他拒绝了做少府的委任，也拒绝交出兵权，并且上书朝廷称与自己的部队相处十年感情深厚，属下都愿意跟随自己去并州继续效力边陲。可是他却并不等着朝廷的回复就带着自己的亲信部队向并州开拔了。这个时候皇甫嵩游移不定不知怎么办好，他的侄子皇甫郦对他说道“本朝失政，天下倒悬，能安危定倾者，唯大人与董卓耳。今怨隙已结，埶不俱存。卓被诏委兵，而上书自请，此逆命也。又以京师昏乱，踌躇不进，此怀奸也。且其凶戾无亲，将士不附。大人今为元帅，杖国威以讨之，上显忠义，下除凶害，此桓文之事