因其出色的政绩,嘉靖二十八年任职湖广道御史。此时正值北方草原鞑靼积极入侵,边将无能,边境百姓因鞑靼的掠夺苦不堪言。胡宗宪闻此主动上疏朝廷北上巡察边境。
嘉靖二十八年朝廷下疏,任胡宗宪为宣大巡察御史,巡按宣大边防。在巡察边境期间,胡宗宪赶上了大同守军 “聚而哗”。大同守军不同内地卫所,大同是大明九边之一,其守军是有全国一等战斗力的大明边军,所以其军队成员自认为守边有功,十分桀骜不驯。针对此次兵变,边关将领竟然束手无策,最后还是胡宗宪“单骑慰谕,许勿徙,乃定”(《明史》)。在这一过程中胡宗宪显示了过人的勇气和智慧,因势利导,不一味用强,许诺边军不让他们迁徙,安抚他们。巡察边境归来,胡宗宪就给朝廷上了加强边防的奏折,其内容“娓娓数千言,悉中机宜”(卞利《胡宗宪传》)。
嘉靖三十年,胡宗宪重回湖广旧职,协助了湖广总督张岳平定了川贵苗乱。因其出色的军事技能,到嘉靖三十二年,东南倭患日益严重,倭寇在东南如入无人之境,四处掠夺,胡宗宪被调浙江巡按御史。正是以此为开端,留下了胡宗宪的千古美名,也是以此为开端造成了胡宗宪不得善终的下场。