回到山东之后的赵冠侯，手头第一件大事，便是整军。赵冠侯的根基，就是手上的第五镇，他这个巡抚印随时可以交接，只要第五镇在手，就不愁没有官做。反过来没了第五镇，官再大也是空架子。
山东目前的部队除了正军以外，旗城里有旗兵，地方有绿营防营，再加上之前的护路军，林林总总，兵力超过三万以上。况且山东民风尚武，加上由于山东经济发展，各地百姓难民，纷纷逃荒来此找出路。这些人中的青壮，如果不安排到军队里，也可能变成盗贼，破坏地方治安。
可是按袁慰亭给的一镇又一协编制，肯定是安排不开，有一批部队要被裁汰。对于这些兵，赵冠侯并不想放掉，解决的办法，就只能巧立名目。
首先是第五镇，表面上是按照袁慰亭给予的编制设立，但是实际操作中，孙美瑶的骑兵标，是作为架子标来培养。对里面的军官实行培训，日常训练中，也以棚头当排长，排长做哨官训练，这样一到战时，可以迅速扩充为骑兵协。而且单独设立一个镇属警卫营，由过去的米尼步枪哨扩编而来，所有士兵一律装备米尼步枪，军官则额外多两柄左轮手枪以及军刀。
其次就是扩大预备役的编制，大批士兵编入预备役、警查又在部队里额外成立了一个宪兵标，下辖宪兵三营。名义上作为维持军队的执法机构，实际上，所有宪兵操练完全按照步兵标准，战时随时可以转换为步兵。
预备役的军饷，为正规部队的一半，是以转入预备役，在此时，已经被山东部队认为是一种惩罚，这种习惯和认识，一直持续到未来许多年后，始终未变。不少部队宁可在前线上全部打光，也不愿意撤退回去接受转为预备役的惩罚，原因就在于这个耻辱意识。
第三，则是山东率先提出垦殖兵团概念。寓兵于农，将一部分滩涂及荒地由官府出面购买，再由部队进行垦殖，栽种棉花等经济作物。这些部队的收入则由其田地收成来决定，如果遭遇灾荒，则由衙门补给钱粮。武器装备上，则以保护作物为理由，给部队发放枪支，甚至也有手留弹。
武器装备方面，第五镇则重新编制了各部队的武器配备。原本孙美瑶的骑兵标有名无实，这次先是在关外缴获大量马匹，随后又在山东接收了扶桑送来的五百匹阿尔比昂战