馬援乃名將趙奢之後，之所以與先祖姓氏不同，原因是趙奢的爵位為馬服君，後世子孫便以馬為姓了。從漢武帝時期開始，馬家就一直有人在朝中為官，直到馬援的曾祖父馬通因兄長何羅謀反受牽連，馬家才開始逐漸沒落。

等到了馬援這代，馬家總算從低谷中走了出來。當時馬援和幾個弟兄個個才華出眾，除了馬援之外，其他幾個兄弟都在朝中謀了個二千石級別的職位。馬援之所以沒和兄長們一樣被朝廷重用，只是因為他不喜歡操弄文字，只想著耕作放牧而已。

兄長馬況死後，馬援開始務起了正業，做了郡的督郵。當時正是王莽時期，苛政非常的多，因此很多人被冤枉做了囚犯。馬援在某次押解囚犯的途中，因憐憫犯人的經歷，竟然將犯人給放了。不得已，馬援只能放棄官職逃走了。

馬援逃去了北方隴右一帶，在那邊逃亡的日子，他似乎過得很是愜意，因為他終於實現了耕作放牧的夢想。當朝廷終於赦免了馬援罪責的時候，他已經在北邊蓄養了不少牛羊，耕種了不少田地。據記載，馬援當時從事耕作放牧，牛羊積攢了數千頭，糧食積累了上萬斛。

時間到了王莽末年，天下戰亂紛紛，但隴右這邊還算是安穩。不過，馬援卻沒能過上安穩的日子，他將所有財富都分給了賓客以及兄弟後，就被朝廷召去做了新成大尹。沒多久，王莽敗亡，馬援投奔了隗囂。

說實際的，隗囂的確不是個好老闆，他一直在劉秀和公孫述兩股勢力之間左右橫跳，只想從中撈取一些好處罷了。而馬援也是倒黴，剛從王莽那裡脫身就跟了這麼個主子，哪怕有再大的才能也白搭。

來到隗囂這邊後，馬援接到第一個重要使命便是出使蜀地，前去觀察公孫述的情況。馬援來到蜀地後，發現公孫述不是個做帝王的料，卻妄自尊大自命為帝。於是，馬援就建議隗囂歸附東邊的劉秀。

聽了馬援的建議，隗囂就讓他出使洛陽，再去觀察下光武帝劉秀情況如何。馬援領命而去，在與劉秀充分交流之後，確定了劉秀的為人，心中斷定天下必將歸劉秀所有。於是馬援在回去後，誇讚劉秀水平遠超漢高祖劉邦，隴右應該歸漢。

隗囂被馬援這麼一通說，內心終於開始傾向了光武帝劉秀這邊。於是，隗囂就派遣長子隗恂到京師做了人質。馬援也攜帶家屬，隨同隗恂一起到了洛陽。

可惜的是，馬援來到洛陽後，始終沒有被重用。幾個月後，馬援再也忍不住了，就請求光武帝將上林苑暫時借給他屯田。這時候天下經歷數年戰亂以及天災，正是缺乏糧食的時候，光武帝想著上林苑閒著也是閒著，就同意了馬援的請求。於是，馬援再次回到了耕田放牧的生活。

然而沒多久，隗囂在王元的攛掇下開始懷疑起馬援來，並最終反叛了漢朝。馬援得知隗囂反叛，立即上疏說明情況，解釋自己可不是和隗囂一夥的。並且，他還請願回到洛陽，陳述消滅隗囂的策略。於是，光武帝就把馬援召到了洛陽。

來到洛陽之後，馬援的確為劉秀獻了不少計策，並且最後他還親自領兵前往隴右，利用以前的關係離間隗囂將領。最後，隴右逐漸出現了君臣離心的情況，諸多將領背叛隗囂投降漢朝，徹底將隗囂逼到了絕路。

最後，光武帝決定親率大軍西征。馬援得知後，就將隴右地形詳細告知給了光武帝。經過馬援的描述，隴右的地形完完全全呈現到了光武帝面前。光武帝為此感慨說：“敵虜已在我眼中！”

第二天，隗囂就潰敗了。平定隗囂後，馬援終於得到了光武帝重用，被拜為了太中大夫。