此時公孫述已經在蜀地成帝，而劉秀也已經在洛陽即位，隗囂自知西州荒弊，無法偏安一隅，得有所歸屬。但是究竟歸蜀還是歸漢，他心裏一直在猶豫。為了了解兩地的情況，隗囂派馬援前去打探。馬援首先去見公孫述，這是有私人原因的，他跟公孫述是老相識，私交一直非常好。
當馬援站在了公孫述的皇宮外邊的時候，公孫述正在裏麵擺威風。他傳令召馬援覲見。馬援進去了，隻見兩邊侍衛林立，戒備森嚴，每個人都用警惕的目光看著他。從這些戟陣槍林中間走過，馬援感到一陣心寒。他並非貪生怕死，他心寒的是，曾經的故友，如今卻是以這樣的方式見麵。他以為公孫述會拍著手笑著出來迎接，以為公孫述會擁抱著他說：“好兄弟，現在正是用人之際，希望你能跟隗將軍說一下，來幫我。”可是沒想到卻是這樣。命運總會捉弄人。
這還不算什麽，進了大殿，隻見公孫述高高地坐在大殿之上，神情肅穆，完全一派帝王作風，似乎根本不認識馬援。遞交了書信，公孫述傳令讓馬援到驛館休息，然後派人給馬援送來衣服，請他在宗廟中相見，百官陪位，馬援站在舊交之位，。公孫述坐著輿車，前麵鳴鑾開道，兩邊山唿萬歲。隻見他麵容冷峻，煞有介事，就連那些官員，一個個也是公事公辦的樣子。看來雖然隻有短短的時間，但是公孫述已經完全融入了皇帝這個角色，這裏的小朝廷已經有模有樣了。雖然剛剛坐定蜀地，公孫述已經開始睥睨天下了。馬援看著這些人的表演，笑著直搖頭。公孫述終於表了態，他要給馬援封侯，拜馬援為大將軍。
眼前的排場，公孫述的承諾，讓馬援帶來的賓客都非常動心，他們個個勸馬援留下來，但是馬援早就看穿了公孫述，他對大家說：“現在天下未定，得人才者得天下。有國士來歸，公孫述不知道握發吐哺以迎，反而修飾這些禮節，他不是個成大器的人。”他沒有留在成都，他想到洛陽那邊去看看。
建武四年，馬援帶著隗囂的書信來到洛陽。漢帝劉秀在宣德殿召見了他。一見麵，劉秀就笑著說：“先生遨遊於兩帝間，今天見到先生，讓人心生愧疚啊！”馬援馬上說道：“當今之世，並非隻是君擇臣，臣子也要選擇明君。我跟公孫述是故交好友，過去關係非常好，但是我到成都的時候，他戒備森嚴。我來到這裏，陛下卻簡易如此，陛下難道不擔心我是刺客嗎？”
劉秀笑著說：“先生不是刺客，隻不過是說客罷了。”
短短數語，漢帝的氣度，他的談吐，給馬援留下了非常深刻的印象，他由衷地說道：“帝王將相，果然有真。”從洛陽迴到天水，馬援一再建議隗囂，一心奉漢，共謀天下。於是隗囂將兒子隗恂送往洛陽，向漢稱臣。馬援隨隗恂一同來到洛陽。
之後不久，隗囂聽信部將王元等人的建議，對漢態度開始模棱兩可。馬援多次寫信責備他，同時上書朝廷，希望能夠爭取隗囂歸順。光武帝配給馬援五千騎兵，讓他遊說隗囂的部將，瓦解西州。
對於馬援的責備，隗囂非常惱火。在他看來，他對馬援推心置腹，甚至比親人有過之而無不及，他時常跟馬援抵足而眠，共論天下大勢，不是親信，豈能如此？但是馬援，居然背叛了他！但是馬援有不同想法。皇帝自有命，明者見機而作，何必學公孫述做井底之蛙！他認定光武帝是真龍天子，就會忠於光武帝。他是個重情重義之人，當然希望朋友們能夠長久在一起，但這是私人感情，如果公私有衝突，他還是會選擇忠於朝廷。所以後來他多次幫助光武帝，最終擊敗隗囂，平定了涼州。
但他的功業不是在涼州，而是在西羌。
西羌是一個古老的民族，起自三苗，到春秋戰國時期逐漸強大。西羌無君王，分為很多種係，每一個種係有豪酋。幾千年來不事農業，以放牧為生，追逐水草，居無定所。直到西漢時期，才在隴西一代定居下來。後來武帝擴邊，羌人被趕過湟水，趕到西海、鹽池一代。這些地方土地貧瘠，水草缺乏，所以羌人對湟中非常思慕，求著爭著要迴到湟中去。王莽末年，羌人趁中國正亂，趁機侵犯金城、隴西。此時隗囂雖然擁兵十萬，但他並沒有對羌人采取強硬措施，而是以安撫為主，借羌人抵抗漢軍。隗囂敗亡後，朝廷設置了護羌校尉，建武十年，羌人趁校尉牛邯去世之際侵犯邊境，被來歙擊敗。十一年夏，先零羌再次侵犯臨洮。
隴西危急，此時來歙正率領蓋延馬成等人討伐公孫述，無法抽身平定西羌，於是他推薦馬援率軍平叛。他上書光武帝，羌人之亂，非馬援不能平定。朝廷拜馬援為隴西太守，給兵三千人前去。馬援率軍趕到臨洮，斬首幾百，截獲馬牛羊上萬頭，招降幾千羌人。又與揚武將軍馬成聯軍，打敗羌人，斬首上千級。這一戰，馬援受了傷，弓箭射穿了他的小腿。
雖然平叛取得勝利，但是朝中此時卻陷入爭論之中。很多大臣認為破羌縣以西路途遙遠，實在不值浪費國家人力財力。這種聲音漸漸占了上風，朝廷大有放棄金城以西的意思。馬援親臨其地，他知道一個地方的價值，並不隻在經濟和政治上，還要有戰略上的考量。如果放棄破羌以西，那麽羌人將會對邊境成蠶食之勢。他上書朝廷：“亢吾以西，數十裏一城，城皆完堅。舊製置塞，因山阻海，其蹊徑輒有候尉，故虜不得妄動。即棄亢吾，以西北為殖養虜根，內自迫促。宜及兵威，疾往除之。金城諸縣，皆田地肥美，溉灌流通，自有本民，易還充實，誠不宜有所斷棄。若二郡平定，流民還本業，不複為國家憂。”
有的人，他站在高山，看到的或許隻是腳下的方寸之地，因為他要時時刻刻防備不會摔下去；，有的人，縱然是站在一個小山頭，卻仍然可以看盡天下，因為天下一直就在他胸中。這不僅僅是立足點的問題，更是思想境界的問題。
馬援的心中，裝著天下，棋局就在心中，他知道該怎麽走。這些東西不是他從書上學來的，而是在他幾十年的生活經曆中參悟出來的。書上的知識來自生活，但這知識是死的，在生活中得到的東西才是最鮮活的。所以光武帝非常喜歡跟馬援聊天，大事小事，天南海北，尤其喜歡聊軍事，光武帝算得上東漢最優秀的軍事家之一，跟馬援聊到高興處，他總是興奮地說：“伏波論兵，與我意合”。皇太子、諸侯王他們更喜歡聽馬援聊三輔舊事，人情軼聞。馬援眉目如畫，蒼顏白發，在他們眼中，這個老者如同神仙一般，無所不知無所不曉。正如後世曹雪芹所言，世事洞明皆學問，人情練達即文章。
馬援鎮撫西羌近十年，先後平定維汜、徵側等人的叛亂，上奏朝廷，重新分劃諸縣，所過之處，為郡縣修繕城郭、大興水利，為百姓提供良好的生活條件。讓百姓安居樂業，這才是安撫人心最好的辦法。
建武二十年，西羌平定，凱旋而歸。很多故友跑來迎接，見了麵紛紛稱賀。平陵人孟冀也來恭喜。馬援說：“方今匈奴、烏桓尚擾北邊，欲自請擊之。男兒要當死於邊野，以馬革裹屍還葬耳，何能臥床在兒女子手中邪！”老當益壯，五十八歲的老將軍馬援用自己的一生為自己的豪言做出了最好的注解。這次迴來，除了捷報，他還帶迴來一尊銅馬。他素來愛馬，也喜歡研究相馬之術。在平定叛亂的過程中，他得到駱越銅鼓，便鑄成銅馬，以為相馬之式，並獻表朝廷：“水火欲分明（水火在鼻兩孔間也。）上唇欲急而方，口中欲紅而有光，此馬千裏。頷下欲深，下唇欲緩。牙欲前向。牙去齒一寸則四百裏，牙劍鋒則千裏。日欲滿而澤。腹欲充，兼欲小，肋欲長，懸薄欲厚而緩（懸薄，股也）。脅堂欲平滿，汗溝欲深長，而膝本欲起，肘腋欲開，膝欲方，蹄欲厚三寸，堅如石，鬃欲戴，中骨主三寸（鬃，中骨也），頰欲開，而膺下欲廣一尺以上，能久走。觜儆方（頸前），胸欲直而出（髖骨前麵）。鳧間欲開，望視之如雙鳧。”天下萬事，他似乎真的無所不能。
但是在另一個問題上，馬援犯錯誤了。這一錯，葬送了他一生的英明。他的侄子馬嚴、馬敦好褒貶人物，結交俠客。身在交趾的馬援寫信規勸他們：“吾欲汝曹聞人過失，如聞父母之名，耳可得聞，而口不可得言也。好論議人長短，妄是非正法，此吾所大惡也，寧死不願聞子孫有此行也。汝曹知吾惡之甚矣，所以複言者，施衿結衤離，申父母之戒，欲使汝曹不忘之耳。龍伯高敦厚周慎，口無擇言，謙約節儉，廉公有威，吾愛之重之，願汝曹效之。杜季良豪俠好義，憂人之憂，樂人之樂，清濁無所失，父喪致客，數郡畢至，吾愛之重之，不願汝兒也。效伯高不得，猶為謹敕之士，所謂刻鵠不成尚類鶩者也。效季良不得，陷為天下輕薄子，所謂畫虎不成反類狗者也。訖今季良尚未可知，郡將下車輒切齒，州郡以為言，吾常為寒心，是以不願子孫效也。”
當馬援站在了公孫述的皇宮外邊的時候，公孫述正在裏麵擺威風。他傳令召馬援覲見。馬援進去了，隻見兩邊侍衛林立，戒備森嚴，每個人都用警惕的目光看著他。從這些戟陣槍林中間走過，馬援感到一陣心寒。他並非貪生怕死，他心寒的是，曾經的故友，如今卻是以這樣的方式見麵。他以為公孫述會拍著手笑著出來迎接，以為公孫述會擁抱著他說：“好兄弟，現在正是用人之際，希望你能跟隗將軍說一下，來幫我。”可是沒想到卻是這樣。命運總會捉弄人。
這還不算什麽，進了大殿，隻見公孫述高高地坐在大殿之上，神情肅穆，完全一派帝王作風，似乎根本不認識馬援。遞交了書信，公孫述傳令讓馬援到驛館休息，然後派人給馬援送來衣服，請他在宗廟中相見，百官陪位，馬援站在舊交之位，。公孫述坐著輿車，前麵鳴鑾開道，兩邊山唿萬歲。隻見他麵容冷峻，煞有介事，就連那些官員，一個個也是公事公辦的樣子。看來雖然隻有短短的時間，但是公孫述已經完全融入了皇帝這個角色，這裏的小朝廷已經有模有樣了。雖然剛剛坐定蜀地，公孫述已經開始睥睨天下了。馬援看著這些人的表演，笑著直搖頭。公孫述終於表了態，他要給馬援封侯，拜馬援為大將軍。
眼前的排場，公孫述的承諾，讓馬援帶來的賓客都非常動心，他們個個勸馬援留下來，但是馬援早就看穿了公孫述，他對大家說：“現在天下未定，得人才者得天下。有國士來歸，公孫述不知道握發吐哺以迎，反而修飾這些禮節，他不是個成大器的人。”他沒有留在成都，他想到洛陽那邊去看看。
建武四年，馬援帶著隗囂的書信來到洛陽。漢帝劉秀在宣德殿召見了他。一見麵，劉秀就笑著說：“先生遨遊於兩帝間，今天見到先生，讓人心生愧疚啊！”馬援馬上說道：“當今之世，並非隻是君擇臣，臣子也要選擇明君。我跟公孫述是故交好友，過去關係非常好，但是我到成都的時候，他戒備森嚴。我來到這裏，陛下卻簡易如此，陛下難道不擔心我是刺客嗎？”
劉秀笑著說：“先生不是刺客，隻不過是說客罷了。”
短短數語，漢帝的氣度，他的談吐，給馬援留下了非常深刻的印象，他由衷地說道：“帝王將相，果然有真。”從洛陽迴到天水，馬援一再建議隗囂，一心奉漢，共謀天下。於是隗囂將兒子隗恂送往洛陽，向漢稱臣。馬援隨隗恂一同來到洛陽。
之後不久，隗囂聽信部將王元等人的建議，對漢態度開始模棱兩可。馬援多次寫信責備他，同時上書朝廷，希望能夠爭取隗囂歸順。光武帝配給馬援五千騎兵，讓他遊說隗囂的部將，瓦解西州。
對於馬援的責備，隗囂非常惱火。在他看來，他對馬援推心置腹，甚至比親人有過之而無不及，他時常跟馬援抵足而眠，共論天下大勢，不是親信，豈能如此？但是馬援，居然背叛了他！但是馬援有不同想法。皇帝自有命，明者見機而作，何必學公孫述做井底之蛙！他認定光武帝是真龍天子，就會忠於光武帝。他是個重情重義之人，當然希望朋友們能夠長久在一起，但這是私人感情，如果公私有衝突，他還是會選擇忠於朝廷。所以後來他多次幫助光武帝，最終擊敗隗囂，平定了涼州。
但他的功業不是在涼州，而是在西羌。
西羌是一個古老的民族，起自三苗，到春秋戰國時期逐漸強大。西羌無君王，分為很多種係，每一個種係有豪酋。幾千年來不事農業，以放牧為生，追逐水草，居無定所。直到西漢時期，才在隴西一代定居下來。後來武帝擴邊，羌人被趕過湟水，趕到西海、鹽池一代。這些地方土地貧瘠，水草缺乏，所以羌人對湟中非常思慕，求著爭著要迴到湟中去。王莽末年，羌人趁中國正亂，趁機侵犯金城、隴西。此時隗囂雖然擁兵十萬，但他並沒有對羌人采取強硬措施，而是以安撫為主，借羌人抵抗漢軍。隗囂敗亡後，朝廷設置了護羌校尉，建武十年，羌人趁校尉牛邯去世之際侵犯邊境，被來歙擊敗。十一年夏，先零羌再次侵犯臨洮。
隴西危急，此時來歙正率領蓋延馬成等人討伐公孫述，無法抽身平定西羌，於是他推薦馬援率軍平叛。他上書光武帝，羌人之亂，非馬援不能平定。朝廷拜馬援為隴西太守，給兵三千人前去。馬援率軍趕到臨洮，斬首幾百，截獲馬牛羊上萬頭，招降幾千羌人。又與揚武將軍馬成聯軍，打敗羌人，斬首上千級。這一戰，馬援受了傷，弓箭射穿了他的小腿。
雖然平叛取得勝利，但是朝中此時卻陷入爭論之中。很多大臣認為破羌縣以西路途遙遠，實在不值浪費國家人力財力。這種聲音漸漸占了上風，朝廷大有放棄金城以西的意思。馬援親臨其地，他知道一個地方的價值，並不隻在經濟和政治上，還要有戰略上的考量。如果放棄破羌以西，那麽羌人將會對邊境成蠶食之勢。他上書朝廷：“亢吾以西，數十裏一城，城皆完堅。舊製置塞，因山阻海，其蹊徑輒有候尉，故虜不得妄動。即棄亢吾，以西北為殖養虜根，內自迫促。宜及兵威，疾往除之。金城諸縣，皆田地肥美，溉灌流通，自有本民，易還充實，誠不宜有所斷棄。若二郡平定，流民還本業，不複為國家憂。”
有的人，他站在高山，看到的或許隻是腳下的方寸之地，因為他要時時刻刻防備不會摔下去；，有的人，縱然是站在一個小山頭，卻仍然可以看盡天下，因為天下一直就在他胸中。這不僅僅是立足點的問題，更是思想境界的問題。
馬援的心中，裝著天下，棋局就在心中，他知道該怎麽走。這些東西不是他從書上學來的，而是在他幾十年的生活經曆中參悟出來的。書上的知識來自生活，但這知識是死的，在生活中得到的東西才是最鮮活的。所以光武帝非常喜歡跟馬援聊天，大事小事，天南海北，尤其喜歡聊軍事，光武帝算得上東漢最優秀的軍事家之一，跟馬援聊到高興處，他總是興奮地說：“伏波論兵，與我意合”。皇太子、諸侯王他們更喜歡聽馬援聊三輔舊事，人情軼聞。馬援眉目如畫，蒼顏白發，在他們眼中，這個老者如同神仙一般，無所不知無所不曉。正如後世曹雪芹所言，世事洞明皆學問，人情練達即文章。
馬援鎮撫西羌近十年，先後平定維汜、徵側等人的叛亂，上奏朝廷，重新分劃諸縣，所過之處，為郡縣修繕城郭、大興水利，為百姓提供良好的生活條件。讓百姓安居樂業，這才是安撫人心最好的辦法。
建武二十年，西羌平定，凱旋而歸。很多故友跑來迎接，見了麵紛紛稱賀。平陵人孟冀也來恭喜。馬援說：“方今匈奴、烏桓尚擾北邊，欲自請擊之。男兒要當死於邊野，以馬革裹屍還葬耳，何能臥床在兒女子手中邪！”老當益壯，五十八歲的老將軍馬援用自己的一生為自己的豪言做出了最好的注解。這次迴來，除了捷報，他還帶迴來一尊銅馬。他素來愛馬，也喜歡研究相馬之術。在平定叛亂的過程中，他得到駱越銅鼓，便鑄成銅馬，以為相馬之式，並獻表朝廷：“水火欲分明（水火在鼻兩孔間也。）上唇欲急而方，口中欲紅而有光，此馬千裏。頷下欲深，下唇欲緩。牙欲前向。牙去齒一寸則四百裏，牙劍鋒則千裏。日欲滿而澤。腹欲充，兼欲小，肋欲長，懸薄欲厚而緩（懸薄，股也）。脅堂欲平滿，汗溝欲深長，而膝本欲起，肘腋欲開，膝欲方，蹄欲厚三寸，堅如石，鬃欲戴，中骨主三寸（鬃，中骨也），頰欲開，而膺下欲廣一尺以上，能久走。觜儆方（頸前），胸欲直而出（髖骨前麵）。鳧間欲開，望視之如雙鳧。”天下萬事，他似乎真的無所不能。
但是在另一個問題上，馬援犯錯誤了。這一錯，葬送了他一生的英明。他的侄子馬嚴、馬敦好褒貶人物，結交俠客。身在交趾的馬援寫信規勸他們：“吾欲汝曹聞人過失，如聞父母之名，耳可得聞，而口不可得言也。好論議人長短，妄是非正法，此吾所大惡也，寧死不願聞子孫有此行也。汝曹知吾惡之甚矣，所以複言者，施衿結衤離，申父母之戒，欲使汝曹不忘之耳。龍伯高敦厚周慎，口無擇言，謙約節儉，廉公有威，吾愛之重之，願汝曹效之。杜季良豪俠好義，憂人之憂，樂人之樂，清濁無所失，父喪致客，數郡畢至，吾愛之重之，不願汝兒也。效伯高不得，猶為謹敕之士，所謂刻鵠不成尚類鶩者也。效季良不得，陷為天下輕薄子，所謂畫虎不成反類狗者也。訖今季良尚未可知，郡將下車輒切齒，州郡以為言，吾常為寒心，是以不願子孫效也。”