接下来开始整理人民军的编制问题了。原来人民军和奉军互不体属还不明显，一旦合并，有许多师的番号都重合了，这是历史问题。
民国军制极其混乱。从清末组建北洋六镇开始即成为后来陆军师之雏形，后来民国成立后陆续增加了十数个镇形成的番号，绝大多数被直皖奉三家分走。
地方上的军阀编练的军队为了与中央军相区别，一般把省名放在各师前面，如陆军第一师是中央的军队，湖北第一师只是地方上的杂牌军。
奉系和人民军内部的编制也很混乱。像原人民军有骑兵第4师、陆军第5、9、10师，原奉军有第4、5、9、10师；原人民军有骑兵26师，新改编直系编号第23师与原奉军23师重合，26师与原人民军骑兵26师重合等等。
解决办法是在老奉军编号的基础上加10，变为第14、15、19、20、33诸师，新编直系的26师改为22师。
番号好办，军衔的紊乱需要大改一次了。人民军脱胎于奉军，与北洋军基本上一脉相承，其团及以下的军衔与国外相类同，但到师旅一级，则有变化，而且这变化还很不合理。
北洋军的旅长一般为少将，师长相对应的军衔为中将。但是当初师从德国时，人家一个师的师长才少将。而且北洋军里上将多如牛毛，参谋本部的总长、陆军部的总长、将军行署的将军（往往比较大的军阀或最早的一师之长）都封为上将军，是典型的衔高职低。
在民国元年颁布的《陆军官佐士兵等级表》分军官为“三等九级”，并有两个特殊的规定：将官衔在未授予之前可以先加一个虚衔，如护国名将蔡锷即为陆军中将可加上将衔，及军官在阵亡或病逝后，可依生前功绩追赠高一级的军衔。
到后来，由于兵争较多，动辄自封“司令”，一些地方军阀也封自己为上将，以至于后来蒋介石曾说：“国民党军队同列强相比，战斗力特弱而将官特多，上将都数不清了…”
本来张汉卿早就想把师长一级降为少将的，但是考虑到各地数不清的降将和许多虽已脱离军界仍然挂着将军衔的各地元老们的感受，以及林遵强烈建议他采用“高官少兵”的办法以保持稳定，这个动议才一直没能成行。
而且能升不能降那是中国官场特色，北洋政|府搞了那么多的上将军在新军制中如何安排？这些人如果沿袭为上将，新军制的上将会多如牛毛，那辛辛苦苦爬到上校、少校的军官岂不寒了心了？当初为了避免引起自己人先闹起来，只能任这种混乱一直下去，现在有机会改变了。
经过1923年改编的师，对于人民军已经完全是标准的3旅9团32310人，直逼国外的军级架构，所以这个时候的师长为中将，还说得过去。在张汉卿对于军衔的构思里，是准备把军长与中将挂钩的，现在的师与未来的军是同一个级别呢，只等着将师扩成军再说了。
另外他准备效仿后世英国军制的作法，每级职务只对应一级军衔，职务不变，则军衔不变。这样的好处是可以激发军官勇于任事的热情，减少能上不能下的弊病。但在副营长以下，有一些变化。
按照他起草的《人民军军衔制度》，军衔分为帅、将、校、尉、士、兵六等二十级：
帅的最高一级为中华民国陆海空军大元帅，目前估计只能是张作霖一人了；其次为中华民国元帅，在职务上与大将相同，为大将之上的荣誉职位，也是终身职务。
将级设大将、上将、中将、少将，准将五级，每级的副职例降一级军衔。注意这里的每级的副职，以师为例，指的是师司令部下属的副师长、参谋长、师政治部主任、师后勤部长等。
大将是人民军行政职务最高级别，由海军、陆军、未来之空军之总司令及军委委员成员担任；因为人民军四总部里的总参谋长和总政治部主任例兼军委委员，所以传统上它们比总后勤部长和总装备部长在级别上高一级，而其副职与各军区司令和其它两部的正职平级。
上将为各军区司令、兵种司令及非军委委员的人民军四总部正职及未来的国防部副部长、海陆空军总部副职等，此外，未进军委的国防大学校长、国防科工委主任也将是此级别。
中将为未来的军长、现在的师长；
少将为未来的师长、现在的旅长；
准将为未来的旅长、现在的副旅长及旅参谋长。
承上启下的校官有三级，同样每级的副职例降一级军衔：上校为团长、中校为副团长、少校为营长。
作为基层核心的尉官有四级：上尉、中尉、少尉、准尉：