7年12月29日，北方议和代表团朱启钤、吴鼎昌、王克敏、施愚、方枢、汪有龄、刘恩格、李国珍、江绍杰、徐佛苏等十人由北京动身南下。而南方议和代表团唐绍仪、章士钊、胡汉民、缪嘉寿、曾彦、郭椿森、刘光烈、王伯群、彭允彝、饶鸣銮、李述膺等11人也于8年1月25日到达上海。
上海和会是8年2月20日上午开幕的，旧德国总会会场这天布置一新，南北总代表各引所属代表鱼贯入场，相对而坐，秩序雍容。其实双方代表多为旧识，如今相聚一堂，各有不同心情。
开会后先由南方总代表唐绍仪致辞说：
“国内战争至今日告一结束，但推厥祸源，外力实有以助长之，旧武人派苟不借助外力，则金钱无自来，军械无从购，兄弟阋墙早言归于好矣。何至兵连祸结，延至今日，使人民痛苦，至于此极。今北方已经觉悟，开诚言和，舍旧谋新，请自今始！”
北方总代表朱启钤也接着致辞说：
“民国成立以来，国家政权多握于武力派之手，故战争纷乱，迄无宁岁。迩者时势所趋，潮流所迫，将化干戈为玉帛，换刀剑以赎牛，一切干羽戈矛，皆应视为过去陈旧之骨量。从此战争当无从再起，和平统一，请视诸斯！”
南北代表致辞后，双方全体代表遂起座向国旗行礼，并欢呼中华民国万岁，和平统一万岁！然后进茶点，略作寒暄而散。
21日正式开会，南方总代表唐绍仪首先提出陕西停战问题，双方共同推定了久居陕西的山西人、旧国会议员张瑞玑到陕西监督停战。北方总代表朱启钤承诺立即电告北京政府切实办到陕西停战，如果不能办到，北方议和代表愿意全体辞职以谢国人。双方代表决议催促张瑞玑兼程赴陕执行监视职权。22日唐绍仪又提出停止参战借款，取消参战军和宣布中日密约等问题，朱启钤也承认电达北京政府请示。朱的态度颇为迁就，使得北方代表中的安福系分子大为不满，认为朱的意见不能代表全体，这是安福系暗中阻挠和议的第一步。
在和会开始时，西方外交团向北京政府质问：为什么世界战争已经停止，中国还要招募参战军？是不是用以对内作战？22日北京政府答复外交团说：中国已经进行和议，不会再有内战。
徐世昌借了外交团有压力，劝段将参战军移交陆军部管辖。段不置可否，因为陆军总长靳云鹏也是段系的大将，不过段的另一位大将徐树铮则表示反对。靳和小徐都是段手下四大金刚之一，正因为他两人势同水火，所以徐世昌便拉拢靳来对付徐树铮。
这时候，徐世昌曾拟就一套裁兵计划，为什么裁兵呢？因为全国军队有138万人，军费占去国家财政收入的五分之四，这种负担，对任何一个政府都是制命的危机。所以徐的计划是在和平实现后，统一的中国即向国际银行团借款裁兵，把全国军队缩减为50万人。裁兵完成后，进一步实行军民分治，军人不得兼任省长。这个计划既可减少军费支出，又足以削弱地方军阀的权力，加强中央政府的控制。
徐树铮毕竟足智多谋，他针对徐世昌的计划，向段献策，提出“保存参战军用以监督裁兵”。这样既可以拒绝南方取消参战军的要求，又免外交团的责难。段和小徐就用这个理由来拒绝交出参战军。其实这简直是强辞夺理，掩耳盗铃，不过这也是唯一可以借口的。
南方代表要求停止继续参战借款，段当然也不肯答应，徐世昌无力反对。因此，北京政府以财政困难，军费无着为理由拒绝了南方的要求。
上海和会的实现，江苏督军李纯的促成关系很大。北方总代表赴上海时，曾先到南京拜望李纯，怎知李纯在送客时竟跌了一跤，把背脊跌伤，养了十天才告痊愈。李纯为和平奔走，历时一年多，受尽了骂，吃够了苦，到和谈要开始时，还要他受切骨之痛。
至于陕西方面有没有停战呢？由于南方代表和陕西靖国军方而没有直接的联络，陕西靖国军和南方代表通消息只能用快邮寄递，唐绍仪在2月下旬所接到靖国军的报告还是1月上旬寄邮的。根据这些报告北军管金聚部由凤县攻占宝鸡，继续向凤翔进攻；陈树藩部集中武功，奉军由潼关、吊桥移向兴平、武功，刘镇华的镇嵩军则进攻盩厔；张锡元部则进攻渭南。这证明徐世昌虽然下过停战命令，但是陈树藩部阳奉阴违。而段祺瑞则继续透过参陆办公处调兵遣将。
2月25日唐绍仪因为陕西战争并未停止，所以向北方代表团提出严厉的质询，要求撤换反停战协议、破坏和平的陕西督军陈树藩。26日唐绍仪又接到靖国军1月中旬的报告靖国军在北军强大的攻势下，先后退出乾县、盩厔、郿县、扶风。同时北军还向凤翔、岐山、蒲城、富平进攻。南方代表团大为震动，乃宣布北方不履行停战诺言，从26日起停开正式会议，改开谈话会。同时郑重向北方声明，在北京政府未撤换陈树藩以前，不讨论其它案件。