5月3日晚上，除了北京大學學生在積極準備外，有的學校，如北京高等師範，其學生社團也在秘密地活動著。五四運動的參加者、當時北京高師的學生周予同，曾經作過如下的回憶：“4月末旬，上述的秘密團體（指同言社，即工學會，傾向無政府主義）的學生們已略有活動，打算做一次示威運動。5月3日的晚上，曾開一次會議，議決用猛烈的方法懲警以前簽字二十一條的當事者曹、陸、章。當時有一位同盟會的老同誌秘密的將章宗祥的照片交給他們……並且設法去弄手槍，但結果沒有成功。他們議決帶鐵器、小罐火油及火柴等去，預備毀物放火。”周在另一篇悼念匡互生（五四當日首先進入曹宅者）的文章中也說：“我們在5月3日夜裏秘密召集社員（指同言社，即工學會）在操場角落的小室中開會。我們覺得同時在開會討論這件事的，隻有北京大學一個和我們同性質的小團體。當開會時，大家頗有點爭辯。有些人隻主張一種普遍的示威遊行，有些人則主張非參加暴動不可。”關於高師的這次會議，當時的親曆者於力（董魯安）也曾回憶說：“五四運動最初是由北大和高師等校學生發動起來的。還記得在五四前一天的整日間，有些人是在為著翌日天安門開大會的準備事項而忙碌著：印傳單、糊小旗、編口號和計劃遊行路線等等工作。晚間，高師操場北端的西花廳裏，會集著以工學會為基幹的十幾個青年，秘密地宣布明日遊行後，還要前往東城趙家樓胡同安福係巨子曹汝霖的住宅去示威的計劃，並布置屆時分給每個人應擔負的任務。”
關於高師的這次會議的情況，以北京高師數學係四年級學生匡互生說得最為詳盡，匡在1925年寫的《五四運動紀實》一書中回憶說：“在提前舉行示威運動的議案議決的前後，各學校的各小團體都有一度的會議。北京高工、高師各校的全體會議，那自然是應有的文章。現在我要特別告訴讀者的，就是前麵所說過的那些小團體在這個時候活動的真相。5月3日那一夜，某校的工學會開全體會議，由會員提議討論‘對於中日的示威運動，本會應取何種態度？’大多數主張采用激烈的手段去對付那幾個仰日本軍閥的鼻息，作國內軍閥的走狗，並且慣以構成南北戰爭以快意的曹、陸、章，就決定次日聯絡各學校的激烈分子，伴大隊遊行至曹、章、陸等的住宅時候，實行大暴動，並一麵派會員先將曹、章、陸等住宅的門牌號數調查明白，以便直接行動。於是5月4日早晨凡在各校主張激烈的分子就由這個工學會的代表實地聯絡的結果，暗中已心心相印了……各校的熱烈分子――20人以內――都有相當的準備，甚至於有連身後的事都向親密的朋友商托好了的！”
從以上所引材料，可以清楚地看出：5月4日火燒趙家樓的行動，確實不是偶然的。當然，也應該指出，這個秘密計劃隻是少數人知道，“除極少數參加核心小組的學生外，大多數學生是沒料到會演出火燒趙家樓曹汝霖住宅和毆傷章宗祥等暴動事件的。”
雖然有的學校已經在5月3日晚上籌備，但是有的學校還不知道5月4日的計劃。因此，在北京大學學生的積極聯絡下，在5月4日的上午10時，又在法政專門學校召開了一個各校學生代表會，學生們在短促的一個半鍾頭內，議決了下列幾件事：
（一）拍電國內外
（二）喚醒各地國人；
（三）預備7日的國民大會；
（四）組織北京學生對外的永久機關；
“（五）本日下午大家遊行示威。路線由天安門經東交民巷美、英、法、意四國使館，轉入崇文門大街。”
這次會議開得很緊急，“大家議論行事很迅速，麵上都帶著很愁很怒的顏色。”會議後，各學校代表便迅速返校準備下午的遊行去了。當年的會議參加者周予同在回憶中說：“5月4日上午，各校派出的代表，在法政專門學校舉行了聯合會議。到會的有數十人，我是高師的代表之一。大家討論了遊行示威的進行辦法，決定散布‘北京學界全體宣言’，提出‘外爭主權，內除國賊’的政治鬥爭口號。那天由高師工學會代表聯絡到的各校激烈分子，有20人左右，大多屬於高師的工學會，高工、北大的共學會等組織。大家相約暴動，準備犧牲，有的還向親密朋友托付後事，我和匡互生等都寫了遺書。”又說：“被推擔任天安門大會主席和遊行總指揮的段錫朋、傅斯年，都是北大新潮社等組織的。他們一點也不知道我們準備用暴動手段懲罰賣國賊的秘密決議和準備。”
天安門集合
雄偉壯闊的天安門廣場，高大巍峨的天安門城樓，是那樣的莊嚴肅穆，是那樣的令人起敬。
這裏，是中國人民引為自豪和永遠值得紀念的地方。作為新民主主義革命開端的五四愛國運動，正是從這裏起步的。
當時的天安門廣場，並不像今天這樣寬闊。原清朝的宗人府、吏部、戶部、禮部等衙門均在這一帶，天安門至正陽門的南北路上，還東西對襯著兩排厚厚的紅牆，天安門前的左右均有三座門擋著東西路口；兩邊的華表就在金水橋旁，也不像現在這樣寬的距離。
雖然如此，但天安門城樓那種富有民族形式的建築，仍然象征著祖國的莊嚴。天安門前槐柳的搖蕩，也使人神往。加以這裏場地適中（四通八達），在當時來說也還算寬敞。所以，群眾聚會，多在這裏進行。
1919年5月4日下午1時許，北京十幾個學校的學生3000餘人，從四麵八方彙集天安門，圍立在金水橋前的兩個華表之下。
關於參加這次集合遊行的人數，一向有3000和5000兩種說法。後來回憶的人，多采用5000的說法。根據北洋政府京師警察廳檔案所存京師警察總監吳炳湘的密電，其說法是：四日，北京大學等十數學校學生二三千人，因青島問題，在天安門前集合，擬赴各使館爭議。當日，京師警察廳是派有密探跟隨遊行隊伍前進的，而且這份材料又是吳炳湘的密電，看來，“二三千人”不會是縮小之說。根據這條檔案，參照各報所載，大體可以斷定：遊行人數3000之說是比較真實的。
北京大學的學生是首先發起者，但他們卻是最晚到達天安門的。這是因為，他們的隊伍被北京政府教育部的代表（次長）和幾個警察阻攔了，不準他們去參加遊行。學生代表鄧中夏、黃日葵等和教育部的代表展開了一段時間的辯論，最後突破阻攔，隊伍才急速向天安門進發。
當北大學生隊伍到達天安門的時候，在場的其他各校學生，熱情地向他們歡呼。