黎元洪的密使覃寿衡到了天津，先找到张国淦，把黎的命令交给张，请张相机行事。张立刻袖了去见段，他不先把黎的命令拿给段，却先劝段赶快部署讨伐张勋，段说：“我用什么名义来号召呢？”张于是乘机把黎的命令拿出，段一看到黎元洪三字，立刻就沉下了脸，气冲冲地说：“局势变成这样，都怪他无能，他今天还能够算总统吗？他已免了我的职，凭什么我还要接受他的命令？我难道不可以叫几个军人通电推戴我举兵。”
张见段很激动，乃慢吞吞地说：“他今天仍然还是总统，张勋叛逆我们要号召军队讨伐他，如果我们不依正轨而行，不接受总统命令，行使合法职权，其后果是很严重的。因为军人的推戴是不合法的。今天靠军人推戴，乱平后大家恃功而骄，岂不是搬石头打自己的脚？何况所能取得的军人拥戴，不过是北方几省，西南方面仍是承认黎总统，一定不予支持，所以意气之争一定要平息，仍应承认黎为合法总统，使您的任命合法。”张国淦这番话说动了段。于是段接见了黎的密使，也接受了黎的命令。
段受命出山“勤王”后，立即部署一切。虽然徐树铮等都主张段在事前放纵张勋搞复辟，迨其举事，然后自己以再造共和及再造民国为己任，可是却没有拿出一个具体办法来，所以张勋复辟后，段对于他要对张勋用兵，却没有详细的计划。他第一着想就近找直隶省长朱家宝和天津警察厅长杨以德，请他们协助讨逆，不料这两个人认为段已失势，所以不理段。于是段便想自己去南京找冯国璋共商讨伐张勋，有人也认为不可行，第一兵贵神速，如果时间一拖，参加复辟的人员一多，局势便难控制了，找冯等于找远水来救近火；第二冯的态度尚不可知，如果冯附和复辟，岂不是自投罗网，变成了冯的政治俘虏；第三此行如果顺利，说动冯讨逆，则冯功居首，冯便成为北洋系的唯一领袖了。段一听大为感动，遂中止南行。
于是段和亲信智囊再三研究后，决定就近取材，从河北省京畿附近找军队，目标是驻马厂的第八师长李长泰部和驻廊房的第十六混成旅冯玉祥部，以这两支部队作为讨逆军的基本武力，同时和在保定的直隶督军曹锟连络。李长泰和冯玉祥在北洋军中都不是属于段派（皖系）的，而是比较接近直系的军队。他们平日和段关系很冷淡，于是段乃以名利摇动李、冯。李长泰最怕太太，段乃派人送钱给李的太太，把太太说服，由太太去命令她的“忠实丈夫”，果然李长泰乖乖地听话；而对冯玉祥则许以师长地位，冯也听命；对曹锟则许以未来副总统，曹正因为复辟后张勋把他降为直隶巡抚，由张勋自任北洋大臣兼直隶总督而大感不快，所以他也答应参加讨伐张勋。
段在进行军事组织时，外交上遭遇到一点困难，原来根据《辛丑条约》，天津附近20里是不许驻军的，这对于讨逆军很不方便，幸而和日本有密切关系，日本方面且派青木中将帮助段策划军事，借给军费100万元，同时日本公使在公使团会议中建议中国在讨逆时期，各国勉强同意中国军队有行军及运输的自由。7月2日晚9时，段祺瑞偕同梁启超等驰抵马厂，马厂在天津以南。当晚段分别和各将领密谈，进行说服和协调工作。7月3日上午8时第八师司令部举行组织讨逆军军事会议，会议中公举段祺瑞为讨逆军总司令，慷慨誓师。段以急速行动组织了这个司令部，派段芝贵为西路讨逆军总司令，以梁启超、汤化龙、徐树铮、李长泰为讨逆军总部参赞，靳云鹏为总参议。
段祺瑞在财政上除了日本支援以外，旧交通系也予以支持，曾在交通银行预借军饷200万元。
6年7月4日，段祺瑞以讨逆军总司令名义发出讨伐张勋的通电：
“天祸中国，变乱相寻，张勋怀抱野心，假调停时局为名，阻兵京国，至七月一日，遂有推翻国体之奇变。窃惟国体者，国之所以与立也，定之匪易。既定后而复图变置，其害之于国家者，实不可胜言。且以今日民智日开，民权日昌之世，而欲以一姓威严，驯伏亿兆，尤为事理所万不能致。民国肇建，前清明察世界大势，推诚逊让，民怀旧德，优待条件，勒为成宪，使永避政治上之怨府，而长保名义上之尊荣，宗庙享之，子孙保之。历考有史以来二十余姓帝王之结局，其安善未有能逮前清者也。今张勋等以个人权利欲望之私，悍然犯大不韪，以倡此逆谋，思欲效法莽、卓，挟幼主以制天下，竟捏黎元洪奏称改建共和，诸多弊害，恳复御大统，以拯生灵等语，擅发伪谕。横逆至此，中外震骇。若曰为国家耶，安有君主专制之政，而尚能生存于今之世者？其必酿成四海鼎沸，盖可断言。而各友邦之承认民国，于兹五年，今覆雨翻云，我国人虽不惜以国为戏，在友邦则岂能与吾同戏者。内部纷争之结局，势非召外人干涉不止，国运真从兹斩矣。若曰为清室耶，清帝冲龄高拱，绝无利天下之心，其保傅大臣，方日以居高履危为大戒，今兹之举，出于迫胁，天下共闻，历考史乘，自古安有不亡之朝代？前清得以优待终古，既为旷古所无，岂可更置诸严墙，使其为再度之倾覆以至于尽？祺瑞罢斥以来，本不敢复与闻国事，惟念辛亥缔造伊始，祺瑞不敏，实从领军诸君子后，共促其成。既已服劳于民国，不能坐视民国之颠覆分裂，而不一援。且亦曾受恩于前朝，更不忍听前朝为匪人所利用，以陷于自灭。情义所在，守死不渝。诸公皆国之干城，各膺重寄，际兹奇变，义愤当同。为国家计，自必矢有死无贰之诚，为清室计，当久明爱人以德之义。复望戮力同心，戢兹大难，祺瑞虽衰，亦当执鞭以从其后也。敢布腹心，伏维鉴察。”