武卫军已名不存，实已亡，袁世凯的野心因而可以借机扩展。当时的北洋大臣又兼练兵大臣，袁自朝鲜回国后，就是因练兵而赢得各方称许，如今他已掌大权，更可发挥了。于是他奏陈改革军制，拟定“新军募集操练规则十九条”，获得清廷认可。派王英楷、王士珍分赴各地，精选简募壮丁6000人，又选派武卫右军卒业50名到日本陆军士官学校深造，并在保定设立督练公所，把军权集中于参谋、教练、兵备三处。每处设一位总办，派段祺瑞为参谋处总办，冯国璋为教练处总办，刘永庆为兵备处总办，王士珍为步兵第一协统兼直隶全省操防营务处督理，王英楷为总参议。袁世凯则自任全军总统，正式改名为“常备军”。
常备军可以算做中国正式陆军的开始，袁世凯计划先编成常备新军左镇和常备新军右镇两个军制。每镇辖步队二协，马队一标，炮队一标，工程队一营，辎重队一营。全镇官兵共12512名。当时的军制，所谓镇、协、标、营、队等于现在的师、旅、团、营、连。两镇为一军，是一种战时组织，统率这一军的名叫总统或军统。统制或翼长就是后来的师长，协统就是后来的旅长，标统就是后来的团长，管带就是后来的营长，队官或哨官就是后来的连长，帮带或督队官就是后来的副营长。还有一种混成协，是不同兵种混合组成的一个旅，其规模比普通旅大。
常备军建立后，王士珍任第一协协统。其后又成立了第二协。当时袁世凯有个新规定，是“用人唯才”，因此新军所有高级将领必须经过考试，成绩最佳的出任高职。第二协成立后，举行了一次考试，考得最高的是冯国璋，因此便由冯出任第二协协统。
袁世凯小站练兵时，他的三个重要干部是：王士珍、段祺瑞、冯国璋，号称北洋三杰，王是龙、段是虎，冯是狗。袁对这三杰一视同仁，不分轩轾，这是袁的统御术，要他的三个重要干部平衡发展，以便互相牵制，便于控制。常备军的协统由考试选拔时，王士珍和冯国璋都当了协统。因此袁对段祺瑞感到非常遗憾。在第三个协成立时，袁怕这位成绩不佳的段祺瑞，仍考不上，乃在考试前把试题偷偷告诉了段，这才使段考上了协统。由于这件事使段毕生为之感动，常常对知交说他受袁宫保的私恩太重。
常备军的成立，是袁以方面大任组织中国正式陆军，这就是后来北洋军的源始。
光绪卅年（1904年）以前，北洋军已经成立了一二三镇，由王英楷、吴长纯、段祺瑞分任统制。光绪卅一年（1905年）又成立了四五六镇。第六镇是由“巡警营北段”扩充编制组成的。段祺瑞由第三镇统制调为第四镇统制，张怀芝、冯国璋分任第五、第六两镇统制。不久袁又将第三镇和第六镇两镇的番号互相调换，段祺瑞又被调为变更了番号的第三镇统制。这个新的第三镇本是第六镇，它的前身就是“巡警营北段”，所以其中将领都是北洋各镇的骨干，可以算做北洋各军中的核心部队。这第三镇驻防娘子关时，有一个士兵曾打了洋教官一个耳光，惹出了外交麻烦，袁乃派段芝贵接任该镇统制，直到几个月后事态平息，才叫段祺瑞复职。
在北洋军不断扩充过程中，各镇统制经常调来调去，如段祺瑞就先后担任过第三、第四、第六镇的统制，这显示袁对干部的使用，决不让他们自己形成一个力量，只把他们当作一张牌在打。
袁世凯虽然使用一切手段来敷衍、拢络皇室亲贵，可是随着他的权位和势力膨胀，皇室贵族对袁的疑忌也是日益增大。早在小站练兵时，就有满族大臣说过袁的坏话，并且指使御史参劾袁。到了光绪卅二年（1906年）清廷中满族排挤汉族的风潮发展到顶点，袁的处境也遭遇到空前的艰难。
这一年秋天，清廷举行了一次著名的彰德大操，指定大操地点在安阳、汤阴、淇县之间一个地方举行南北新军大演习。参加会操的，北军是第三镇统制段祺瑞部，南军为第八镇统制张彪部。这所谓的南军和北军，是以驻防地点来区分的。第三镇驻防石家庄和娘子关一带，所以称为北军；第八镇驻防湖北，所以称为南军。这次会操时间定为一个星期。清政府派兵部大臣铁良、直隶总督袁世凯为阅兵大臣，王士珍为总参议兼中央审判长，冯国璋为南军审判长，良弼为北军审判长，各省派来的观操大员，一律被派为审判员。这种安排显示出清廷是有深意的，阅兵大臣满汉各一员，南军审判长是汉人，北军审判长是满人。这时满人中排汉最激烈的是铁良。铁良爬得很快，由道员不几年就做了兵部大臣，其特点就是排汉，受到满族大臣的拥戴。铁良的重要干部之一是良弼。良弼在满族中也是很优秀的一个后进，他从日本士官学校毕业，回国不久就表现得不同寻常。袁惯于用私恩收买别人作他的工具，见到良弼是满族中的人才，遂邀请他担任第六镇的标统。一个刚毕业的学生，一下子就做到标统，在当时是很稀有的事情，可是良弼竟薄标统而不为。