岳飛飽讀兵書，嫻熟武藝，早就盼著有一天能夠投身疆場，殺敵報國。在靖康之變發生的前幾年，金已經嚴重威脅著宋的安全，而岳飛家鄉也面臨金兵的直接威脅。那個時候，投軍報國是每一個熱血青年的選擇。所以，當真定府路安撫使招募敢死隊時，他就報名參加。由于岳飛個人素質出眾，不久就被任命為一個管10個人的小隊長。這個職務大概相當于現代軍隊里的班長。

在當小隊長期間，岳飛立了一功，那就是抓住了當地的黑幫頭子陶俊、賈進和。不過，這段軍事生涯并沒有持續多久，因為岳飛的父親岳和死了。按照封建時代的規矩，父母死，要按丁憂規定回家守孝三年，這是非常重要的人倫，如果不遵守會有大的麻煩，何況岳飛本來就是個大孝子。所以在得到父親去世的消息后，岳飛立即回家守孝。

守孝期滿，岳飛繼續投軍，這回是到了名將韓琦手下，但是沒當上正規軍，而是做韓家的莊客，也就是做看家護院的事。在這期間，岳飛也曾經在農民軍來犯的時候顯示了一下他的神箭，一箭射殺了對方首領。

韓琦是一代名將，岳飛更是中國歷史上軍神一類的人，但兩位軍事家的相遇并沒有擦出什么火花，也許是岳飛當時還很年輕，兩人的年齡、地位差距太大。總之，兩位名將失之交臂。

岳飛當然不甘心一輩子給人家看家護院，看看在韓琦這里沒有機會，不久改投駐扎在山西平定的宋軍地方部隊，大概是混了個連長之類的小軍官。雖然混上一個小軍官，但岳飛還是感到郁郁不得志。因為宋朝軍隊分禁軍和廂軍，禁軍是中央直屬部隊，廂軍是地方部隊。岳飛參加的是廂軍，裝備差，士兵大多是老弱病殘，就是參加戰斗也很少打勝仗，所以個人發展的空間很小。

靖康元年12月初，宋徽宗的九兒子康王趙構在河北相州建立大元帥府，自己擔任“天下兵馬大元帥”，下令招募義勇民兵。相州許多窮苦百姓為了保衛鄉土，紛紛從軍。岳飛也經人介紹，參加了趙構統率的軍隊，并且當上了一名小軍官。

一次， 岳飛帶領100名騎兵在滑州練習冰上騎射。

天氣很冷，黃河上結起厚厚的冰。金軍大隊人馬從冰上飛馳而來，岳飛見敵我懸殊，沉著地對部下說：“敵人人數雖多，但他們不知我們究竟有多少人，我們乘他們立足未穩給他們一個迎頭痛擊。”于是岳飛一個人沖進敵陣，一下子殺死一名揮舞大刀的金軍將領。岳飛手下的騎兵也乘機沖殺，殺了不少金兵。岳飛因為這一次的功勞被提拔為秉義郎，大概相當于正規軍的連長。

岳飛的突出表現，引起了所在部隊的最高領導汴京留守宗澤的注意。宗澤對岳飛說：“你在打仗方面的天賦，不比古代的名將差。但用野路子打仗，終究不能算上乘。”于是宗澤把打仗的陣圖傳授給岳飛。雖然面對自己的長官，岳飛也不盲從，說：“擺好了陣再打，只是平常的打法。真正精妙的戰法主要靠自己根據戰場情況靈機一動。”宗澤覺得岳飛說得有理。

岳飛跟著趙構征戰了一年多，沒想到宋朝居然滅亡了。金人俘虜了除康王趙構以外的所有皇子，幸存的趙構于1127年在南京稱帝，建立了南宋政權。趙構也就是高宗皇帝。

這個時候，岳飛以一個下級軍官的身份上書趙構，慷慨陳詞要求奪回中原，驅趕奸臣。這一下搞得宋高宗趙構很惱火。結果岳飛在部隊中的職務被一捋到底，連軍籍都沒保住，被趕回了老家。