李鴻章在直隸練兵的時候，年方二十歲的曹錕毅然決然地告別了他的販布事業，應征入伍。隨著年紀的增長，他慢慢找準了自己的人生定位——他覺得，自己實在不是經商的料。參軍，也許才是自己最好的選擇。在軍隊里，他待人誠懇，處處表現出“曹三傻子”特有的“傻”勁：有好處都讓給別人，吃苦受累則攬歸自己，從來不與人爭權奪利，對別人的橫加指責從不分辯，對所有的刁難都逆來順受，對上級交待下來的活兒更是任勞任怨。軍隊里的滑頭兵都笑話他：真是個大傻子！殊不知，就是這樣一個大傻子，卻慢慢地贏得了上司的肯定。

天津武備學堂剛成立，上頭準備拔一部分士兵進去培訓，曹錕的名單就赫然在列！真是老實人有老實福啊。從走進天津武備學堂開始的那一刻起，他的命運軌跡悄然發生了變化。從武備學堂畢業，他先是在清將宋慶所部的毅軍做了一名哨官。

不久，隨部赴朝鮮作戰。從朝鮮戰場回來，恰逢袁世凱小站練兵，便前去投奔，當上了右翼步隊第一營的幫帶。短短兩年，他已經從一名士兵華麗轉身，成功升為了一名軍官。雖說已經成為了軍官，他卻從不在士兵跟前端架子，“傻”勁依舊，喜歡在士兵跟前自稱老大哥，呼士兵為老弟，把士兵感動得天昏天黑。他還很低調，在每一個上司面前都卑謙地以小輩自居。他聽說了，袁世凱的叔祖父袁甲三有個拜把子兄弟也姓曹，叫曹克忠，很有些權勢，人稱“大帥”，便下足了資本，備上了厚重的禮物前去拜謁。

說來也巧，這曹克忠也是天津人，曾任廣東水師提督，驚喜地發現這個殷勤、會來事的小軍官既姓曹，又是自己的老鄉，心里高興，非常熱情地接見了他。寒暄過后，他還饒有興趣地查了一番族譜。這一查不要緊，曹錕竟是他的孫輩！緣份啊！曹克忠更高興了，當場提出要認曹錕為族孫。曹錕求之不得，福至心靈地跪倒行叩拜之禮。跪拜過后，曹克忠讓自己的姨太太去袁世凱那兒替曹錕說好話。這樣，曹錕的軍旅生涯有了質的提升。

他先是由幫帶升為幫統，不久升統領，再由統領升統制。 曹錕的官大了，但他憨厚的性格似乎卻沒怎么變。他對于部下的軍官兵士，一如既往的愛護有加。某年冬天，天氣特別寒冷。曹錕命人購置了一萬件皮袍，給手下軍官每人發一件。頒發皮袍大會上，他還做了一番熱情洋溢的講話，說：“咱們軍人向有‘同袍’之稱，曹某人今天特意給在座諸位每人發一件羊皮袍子，是讓‘同袍’二字名負其實。”也不知他是真的不懂還是假的不懂，反正，他對“同袍”二字的歪解，取得了很好的搞笑效果，現場的軍官士兵全笑作了一團。

當然，軍官有賞，曹錕也沒忘記士兵。他還買了幾萬袋面粉，每名兵士賞兩袋。一下子軍營里樂開了花，士卒樂于效命。山東督軍張懷芝就是曹錕的忠實追隨者，他的口頭禪是：“曹三爺是我長兄，他走一步，我隨一步；他跑一步，我亦跑一步。”他是這么說的，也是這么做的。1917年，張勛率辮子軍逼宮，黎元洪大總統被迫出走，曹錕發電聲明擁護總統府，張懷芝亦步亦趨跟著發電表示擁護總統府；不久，曹錕受段祺瑞拉攏，推翻了自己之前的聲明，張懷芝也緊隨其后推翻自己之前的聲明。后來，曹錕做了直隸督軍，張懷芝就提出要去山東任督軍，說是“要跟曹三爺走也！”當時，就有人在報紙上作了一句打油詩，曰：“懷芝步步學曹錕”。