岳家军开始在南宋军界崭露头角，尚不是因其战斗力，而是因岳飞能将一个“大锅烩”式的军队变成一个军纪严明的正规军。

独立成军以后，岳飞给部队提出的要求有两条：“纪律严明，秋毫不犯”；“兵不犯令，民不厌兵”。岳飞自己出身于普通农家，在那个战乱时代，底层百姓往往是最受苦的，不管是己方军队，还是异族军队，只要是军队过去，这百姓家中就会被抢劫一空。也恰恰是因为岳飞非常了解这种情况，所以，他不惜用铁的手段来维护岳家军的军纪与声誉。
岳珂如实地记录了祖父在治军方面的严厉——凡涉及军纪之事，一律从严，“取人一钱者，必斩”。有个士兵擅自从百姓家拿了一缕麻来束东西，岳飞得知以后，立即将其斩首——在当时，这种刑法已是相当严酷。
为了维护军纪，岳飞会尽量减少军队与百姓的接触，甚至不接触；每到一地，他都会亲率十几名近卫骑兵围绕军营巡视，生怕有军士做出违反军纪的事情。

有一次，有民居失火，岳家军二号领袖王贵手下有一士兵乖机盗取了民家的芦筏，岳飞偶然得知以后，立即斩了该士兵，并以“管束不力、未及时发现”为由，责打将领王贵一百军棍。
有一次行军时，岳飞发现一间新盖的店家屋顶上缺了一片茅草，立即传问屋主。屋主说，并非军士打扰，而是屋顶原本就少了一片茅草。岳飞却不信——哪有盖屋子少盖一片茅草的？况且屋主并非贫瘠人家。他自知屋主有所隐瞒，下令彻查，最终查到了一个马军军士。该军士承认自己当时正在店中吃饭，听说岳飞将至，急于上马间，不慎扯下一束茅草。眼看这军士被五花大绑，店主全家一起跪下哭泣求情，说这位军士的确未骚扰自家，这位军士才免于处斩，却未能幸免一百军棍。
犯错便打、便杀的威力随后产生了惊人的效用。有一兵士在一名项氏男子那里购买薪柴，项某尊重岳家军，自愿少收两文钱，那士兵却坚决不肯：“吾岂可以二钱易吾首领耶？”意思是，我怎么能为了两文钱去冒掉脑袋的危险？
像项氏一般敬爱岳家军的百姓在当时非常多，看到岳家军路过时，他们多会开门接纳，但士兵们从来不会进门打扰。为了方便岳家军晚上休息，村民多堆放草苇供他们铺床，但次日军士离开，草苇却丝毫不乱。
绍兴三年（1133年），岳飞奉命率军南下征讨叛乱，岳家军路过庐陵，借宿廛民家。天刚亮，将士们便开始给房屋主人扫洒门庭、洗涤碗盆，一切整理干净以后，才整军出发。当时，庐陵太守于郊外设帐，准备为岳飞饯行，可眼看军队都走光了，依然看不到岳飞本人。太守便问后面的士兵：“大将军何在？”士兵回答：“将军和偏裨将校混在一起早走了！”

在和平年代，达到这样的严明或许并不难，但时处南宋初年，国家财政拮据，军队断炊、缺衣之事时有发生。为了让士兵们吃饱穿暖，很多领军者都是默许士兵抢劫的——无他，非此不足以保士兵之安。在这种大局势中，岳家军异军突起，以“冻死不拆屋，饿死不掳掠”的口号建立起了强大的军队凝聚力，赢得了民心。当时，岳飞已成民族英雄，岳家军已成真正的“正义之师”。
没有严明的纪律，军队的正规化就无从谈起。也正是依靠严格的军纪，岳家军才得以从“四方亡命、乐纵、嗜杀之徒”，最终发展成“奉令承教，无敢违戾”的真正军队。靠着刀斧棍棒之威，一个真正意义上的威武之师得以创立。

撼山易，撼岳家军难。