1895年12月，袁世凯向清廷提交了名为《为练新建陆军上督办禀》的报告，提出“必须参用泰西军制，始可照西法操练”。在接手李鸿章新办的“定武军”之前，袁世凯表达了他对编练这支新式陆军的思路。甲午战争败绩，洋务运动数十年成果北洋海陆军尽没。1894年11月，清政府下令成立“督办军务处”，以恭亲王奕为督办，庆亲王奕劻为帮办，翁同龢、李鸿藻、荣禄等人为会办，“参酌中外兵制”，着手编练新军。清廷军务处建立后，朝中地方大员曾有过一次关于军事改革的大讨论。重练西式新军费力费钱费时，多数大臣并不热心。首先提出军制改革的人并不是袁世凯，而是受命在天津办理东征粮台的广西按察使胡燏棻。
《清史稿·兵志》载，胡燏棻在1895年倡议，建立一支在军械和军制上都沿袭西方部队的新型陆军。他建议在北洋辖区训练5万人，在南洋辖区训练3万人，广东和湖北各训练2万人，其余省份各练1万人。胡燏棻在编练定武军时指出了清朝旧军队的荒谬：“军需如故，勇额日缺，上浮开，下折扣，百弊丛生。”当时湘、淮各军武器装备混乱，阵法陈旧，“同属一军，而此营与彼营之器不同，前膛后膛，但期备数，德制奥制，并作一家”，“攻守之法，又沿旧习”。显然，这些问题早是积习，如果不是甲午之败，国将不国，胡燏棻的军制改革也不会有任何回音。
1894年11月，胡燏棻接到清政府督办军务处令其“主练兵”的任命，在天津附近马厂屯驻，募兵训练，聘德员汉纳根为教习，开始编练新式军队。次年春，胡燏棻初步编练成“定武军”，于9月移驻距天津东南70里处的新农镇小站，那里原是淮军周盛传、周盛波所统领盛字营的驻地。鉴于旧军队的弊端，胡燏棻在编制、训练、战术、武器等方面均一改湘、淮各军的旧习，而使用德国陆军的模式。据他在向清廷的上奏中称：“此次创练新军，一切操练章程，均按照西法办理。”然而胡燏棻练兵不到一年，定武军的军权就转交给了袁世凯，决策的原因，是清廷认为，袁世凯更懂军事。
在清末大臣中，胡燏棻算是视野开阔，颇有胸怀，然而他毕竟没有近代军事的学识和军旅历练。当时清廷真正懂得西方近代军事知识的将领也是凤毛麟角。对于现代军事人才的匮乏，清末中国军事历史研究者、美国军官拉尔夫·鲍威尔指出了长期以来清代选择将领的缺陷：“中国人的失着是假定只需有蛮力和勇气就可以成为将才”，武举考试的核心就是举石锁和拉弓射箭之类。
实际情况更糟。由于绿营武装已腐朽多年，依附绿营制度的武举制度选拔出来的武生很难在传统军队中找到职位。“至少是在19世纪末期，多数武举出身的人都没有在军队中服役，而正式的将领则很少有人出身武科。”人才匮乏如此，袁世凯此时被举荐编练新建定武军，不过是他此前在朝鲜有限的军事经历，让他获得了“知兵”的声誉。
1882年，随吴长庆前往清帝国属国朝鲜的袁世凯参与平定“壬午军乱”，后被吴长庆推荐，以“通商大臣暨朝鲜总督”身份留在朝鲜。当时在日本阴谋策划下，朝鲜独立派在1884年12月发动“甲申政变”，由日本公使竹添支持，挟持朝鲜国王到景福宫，迫使朝鲜国王召请日本大使进宫保卫。当时在朝鲜独当一面的袁世凯一面上书李鸿章请求派兵，一方面致书日本公使。未见答复后，他果断率兵进朝鲜王宫，营救出被挟持的朝鲜国王，迫使日本公使竹添逃往仁川。
这种班超式的举动赢得了李鸿章的认可。林明德在《袁世凯与朝鲜》中说，袁世凯当时年仅25岁，“竟能号召中国驻防各营，并策动朝鲜左右两营勤王，在军事上，甚至外交上做详尽周密的部署，发号施令，统驭中韩联军，击溃日军，摧毁政变集团的势力，拯救韩王，恢复李熙政权，同时维持汉城的治安。实为难能可贵”。甲午战前，湘军和太平天国、淮军和捻军的交战虽然持续多年，绵延多省，死亡千万，但在当时西方军人看来，不过是乌合之众的相互残杀。甲午战争中北洋水师虽然显示出近代化海军的战斗力，但中国陆军唯一的“精锐“--淮军却和日军交手一触即溃。西方军事观察家由此普遍认为，从袁世凯小站练兵开始，中国陆军才向真正近代意义上的陆军发生转变。
过去湘军、淮军也以西方武器武装，请西方教官操练，但部队编制并未完全和西方军制接轨。比如湘军以营为单位，不分兵种，每个营的兵员可以几百到上万不等。胡燏棻由于练军时间太短，这方面也没有根本改变。袁世凯新建陆军虽然依旧沿用了淮军的营务处、营、队、哨、棚等传统中式编制名称，但编制上和旧军完全不同。新军不但设立步、马、炮、工、辎等多兵科兵种，还首次在军中成立参谋机构，以军事专业人才取代了以文人为参谋师爷，以西方近代军事的战略战术，而不是中国传统兵法谋略统军作战。在清末编练近代化新式陆军过程中，张之洞和袁世凯一南一北，本来成就难分伯仲，但前者无意经营私人势力，后者却最终成为军阀起源，最终复辟称帝，导致声名尽毁。
1895年12月27日，张之洞在给朝廷的奏折中就表示，他建议在德国教官的帮助下建立1万人的新军，并表示他已经按这种编制建立了13营的“自强军”。张之洞积极建立新军，主要是担心日本入侵长江流域。这支由“步队八营、马队二营、炮队二营和工程队一营”组成的混成部队全部以欧洲武器装备。军队建制模仿德国，不但由工程部队替代了传统的挑夫，还计划编制医官、兽医和军械维修人员。张之洞谋划深远，他还计划在训练半年后，由洋人教习继续训练新军，而已经训练成的部队则由中国军官管辖。如此一则保证训练的质量，同时也避免部队大权为洋人掌控。
然而自强军很快被朝廷调归湘军领袖刘坤一指挥。即便如此，张之洞在1898年再次上奏，表示他将继续编练新军。他甚至已经为这支部队安排了稳固的财政来源，约每年70万两白银。这些经费包括江苏、江西、安徽三省裁撤勇营节省下来的20万两，由芜湖米厘金指拨12万两，苏州与上海米厘金指拨38万两。令人感动的是，张之洞的热情并非要培植私人势力，而是出于对国家安全的远见和国家命运的责任感。朝廷回应的却是猜疑，这反倒正是中国历史千百年颇有讽刺意味的常态。大清帝国对张之洞等人不信任的根源，在于这个少数民族入关立国后，最担心的是臣民(被压制的汉人)的反叛，而不是外国的入侵。
张之洞的一厢情愿也是太平天国后，清廷中央权力向地方转移带来的后果。由于内外战争导致湘军等半私人武装的兴起，削弱了清末的中央权力，导致朝廷和地方权力分配的变化。一个前所未见的情形是满汉官员数量比例发生了颠倒。1861到1890年，清廷任命的44个总督中，有34个是汉人。同一时期朝廷任命的117个巡抚中，汉人占了104个。其次是出身行伍的人日益掌控实权。上述34个汉人总督中，许多出身乡勇而非科举这类传统仕途，而104名汉人巡抚中，有1/4的人甚至从没有考中过进士甚至举人的功名。当朝廷的军事、经济开始为汉族大臣所掌控时，张之洞的努力可以说完全没有摸到满族统治者的心意。
无论是张之洞被辜负的忠诚，还是袁世凯对北洋军一己之私的培植和经营，清廷其实应负最大责任。从重建新军开始，清廷的核心目的并非强国强兵，不过是试图将帝国被分散的武力收回朝廷用以防民防臣，以致同为新军，朝廷却厚此薄彼，空让忠臣白头，让能臣异心。一个国家政府内心如此阴暗叵测，在内忧外患时仍以私利凌驾于国家利益，纵有10个张之洞又如何能改变中国现状？纵有10个袁世凯，又焉能不让其私怀反心？