民国8年4月11日中国驻日公使章宗祥请假回国，偕眷陈氏，在东京中央新桥车站登车，留日学生数10人手持“卖国贼”旗帜前往送行，把章公使包围，学生们气愤填膺，质问章氏，订立多少卖国密约？经手若干借款？情势严重，不久日警闻讯赶至，护送章宗祥夫妇上车。人丛中有人大呼：
“章公使，章宗祥，你既然卖国，何不先卖妻！”
留日学生因身在日本，更体味到日本欺侮中国种种，所以反日的情绪尤为高涨，巴黎和会中国失败消息传来后，留日学生是首先发难的，他们发出一通声讨卖国贼电，全文如下：
“欧洲议和大会，为我国生死存亡所关，凡我国人，应如何同心协力，共挽国权，乃专使方争胜于域外，而权奸作祟于国中，旬日以来，卖国之谋，进行益力。曹汝霖、陆宗舆、章宗祥、徐树铮、靳云鹏等，狼狈为奸，甘心媚日，迹其迩来所为罪状，足以制国家之死命，约有二端，而已往之借款借械，卖路卖矿不计焉。略陈如下，冀共声讨。一曰掣专使之肘以媚日也。此次我国所派专使，尚能不辱国命力争，日本因之大怀疑忌，始则用威吓手段，冀制顾、王之发言，继则行利诱主义，贿通曹、陆之内应。且使章宗祥回国运动，入长外交，以掣专使之肘。并预先商议，改窜已订之中日秘约，以掩中外耳目，而彼诸贼，甘为虎伥。章氏既奉命西归，曹、陆更效忠维谨，日前竟请当局，电饬专使，对日让步。夫中日之利害，极端相反，世所共知。吾国往日所被夺于日本之权利，方期挽救于坛坫。而乃遇事退让，自甘屈服，岂非承认日本之霸权，而欲自侪于朝鲜乎？卖国之罪，夫岂容诛？此其罪状一。二曰借边防之名以亲日也。年来北方军阀之跋扈横行，皆由徐树铮、靳云鹏等，亲日政策之所致，举国权以易外款，杀同胞几如草芥。全国父老，疾首痛心，而若辈迄无悔祸之意。近且大肆阴谋，借边防为名，欲将参战军扩为九师十六混成旅，而与日人实行军械同盟，将各省铁路及兵工厂，抵借日款，并聘日人为教练官及技师。种种企图，无非欲达其武力统一之目的。无论世界潮流，趋向和平，此等背逆时势之举，有百害而无一利，即使果如诸贼计划，有万一之效，而军队训练之权，已操诸日人，兵器制造之厂，已属于敌国，我国家尚能保其独立耶？恐德人利用土耳其之故事，将复见于远东。二次大战，此其导火。既恣恶于现在，复贻祸于将来。诸贼之肉，其足食乎？此其罪状二。凡兹二事，仅举大端，其他违法不轨之行，谅为国人所共睹。同人等游学以来，鲜问内政，惟事涉对外，有损国权，则笔伐口诛，不遗余力。矧诸贼近日卖国之罪，彰明较著，良心所逼，安敢缄默。用特学其事实，诉诸国人，所望全国父老昆季，速筹对待国贼之法，安内攘外，咸系乎此。盖共和国家，民为主体，朝有奸人，而野无志士，将见国家遂即沦亡，而国民无力之讥，永蒙羞于历史矣。”
4月下旬，北京和天津的街头出现了欧美归国留学生所组织的“社会服务团”，公开要求“废除军阀”、“打破列强势力范围”、“实行言论自由”。
北京的大学生们纷纷集议，发动救国运动，反对卖国贼，保全青岛领土。由北京大学为主体。原来自袁世凯接受日本廿一条以后，每年5月7日各界都举行国耻纪念，这一年也预定在天安门大示威。迨获知巴黎和会失败消息后，乃迫不及待，北京大学学生遂于5月3日下午7时假北大法科礼堂召集全校学生开会，会中群情激动，当场决议办法四项：
（一）联合全国各界力争拒斥巴黎和会的决定；
（二）致电巴黎的中国代表团，坚持不在和约上签字；
（三）通电全国各界，于五月七日国耻纪念举行游行大示威；
（四）决定在第二天（星期日，即五月四日）齐集天安门，举行学界大示威。
会场中发言的学生，有的痛哭失声，有的慷慨激昂，最高潮是法科学生谢绍敏在讲台上咬破手指，扯碎衣襟，用手指上的鲜血写成“还我青岛”四个大血字，鲜血映在白色的衣襟上，赫然夺目。台上台下的与会同学一片掌声，并高呼万岁，悲壮激昂，令人感奋。
会后，学生主持人连夜印制传单，并通知北京的其他学校，约定于4日上午邀各校代表借法政专门学校为会场，共商游行示威细节。
5月4日清晨，北京大学、法政专门学校、高等师范学校、中国大学、朝阳大学、工业专门学校、警官学校、农业学校、汇文大学、铁路管理大学、医学专门学校、税务学校、民国大学等校代表齐集法政专门学校的大礼堂。当场议定集会办法，如何演说，如何散布旗帜，如何向外国使馆请愿，如何在曹汝霖官邸示威，并赶制数十面的小白旗，上书：“取消廿一条”、“誓死力争”、“保卫主权”、“勿作五分钟爱国心”、“争回青岛方罢休”、“宁为玉碎，勿为瓦全”、“头可断，青岛不可失”等标语。谢绍敏的血书“还我青岛”也悬挂出来。