黎自上台之日起，急欲擺脫當初任人擺布的政治傀儡的處境，這又恰恰與心胸狹窄，剛愎自用的段祺瑞扶持黎登台的初衷相悖。段祺瑞不止一次地公開表露：“我是叫他（黎）來簽字蓋章的，不是叫他壓在我頭上的。”
一個要堂堂正正地當總統，另一個卻想惟我獨尊地掌實權，黎段合作的開始本身就已孕育了不可避免的衝突，一場府（總統府）院（國務院）大戰的帷幕徐徐拉開。
黎大總統上台後重提裁軍舊事，一則去除袁世凱時期由他首倡卻有令無效的“裁兵廢督”的虛名，二則通過裁兵，將全國軍隊集中於中央，避免重蹈傀儡覆轍。對此，段總理卻有另番盤算，雖然表麵上支持總統裁兵建議，實際上借此削弱南方軍隊，進一步增強北洋派勢力，由於段祺瑞身兼陸軍部長，總攬全國軍隊的指揮和任免權，竭力阻止黎元洪從中插手此事，致使裁兵終遭流產。
不甘示弱的黎大總統，為與段祺瑞爭奪軍權，越過陸軍部職權範圍，指使幕僚蔣作賓、金永炎致電四川都督陳宦，勸他盡早取消獨立並且解散軍隊。陳宦哪裏知道黎總統與段總理之間的不和，更沒想到服從總統就等於背叛總理。當段祺瑞聽說陳宦未經他的同意竟“私自”宣布取消獨立，解散軍隊的消息後，勃然大怒，立即下令在北京成立軍事法庭，準備借陳宦的頭顱樹立自己的威嚴。幸而陳宦早得消息，躲進了租界，才算保住一條性命。
1916年6月13日，段祺瑞任命其親信徐樹錚為國務院的秘書長。黎元洪素聞徐為段的靈魂，惟恐與己不利，堅決反對，拍案聲稱：“一萬件事我都依從他，隻有這一件辦不到！”在徐世昌的反複勸說下，黎隻得勉強讓步。
徐樹錚上任後處處秉承段的旨意，根本不把大總統放在眼中，平日裏進總統府呈遞公文總是滿臉陰沉，一副傲氣，稍遇不快，即發火頂撞，毫無顧忌。一次，因公布福建三個廳長的任命書，徐到總統府蓋印，當黎問及三人情況時，徐極不耐煩地瞪起眼睛答道：“總統不必多問，請快點蓋印，我的事情很忙。”一句話搞得黎元洪備感難堪，連連歎息道：“昔受項城屈辱，今又見侮於段。”
為回擊段祺瑞的囂張氣焰，黎元洪授意總統府秘書長丁士鐸製訂劃分府院權限的方案，主張大總統對國務院自由行使職權。一時間，社會上盛傳總統府要恢複總統製的消息。這使段對黎元洪稍作讓步，他一麵寫信勸徐樹錚要有所收斂，一麵著手確立府院之間的權限問題。最後，雙方訂立了五條協定，總統取得國務會議前後審閱議程和記錄、聽承議決事項等權利。在這一回合的爭鬥中，黎元洪始獲小勝。
一波未平，一波又起。徐樹錚因侵權越職行為受到內務部長孫洪伊的當麵指責後懷恨在心，借被孫裁減下來的內務部冗員的不滿情緒，挑唆上告孫洪伊。一連四次，徐樹錚手持“孫洪伊著即免職”的命令親赴總統府，請黎蓋印，均遭拒絕。最後，徐請段祺瑞親自出馬，結果同樣。段頓時惱羞成怒，當時威脅黎元洪說：“如總統不肯罷免孫的職務，就請免去我的吧！”
段祺瑞盛怒之下棄職離京。黎大總統原想另起爐灶，在幕僚建議下，他派“北洋一條龍”王士珍赴河南請徐世昌出山組閣。久諳官場內幕的徐世昌懾於段的勢力，不肯就任，油滑地提出一個“擁護元首，維持合肥，不入政界”的兩不得罪方案。待後來黎元洪意識到事態的嚴重，才隻好向段屈服。這樣，在徐世昌的調停下，徐樹錚、孫洪伊以及黎元洪的秘書長丁士鐸同時被免職，事態得以平息。段祺瑞得意洋洋地官複總理原職。黎大總統可謂貼了親信又損兵。
1917年，第一次世界大戰臨近尾聲。日本和美國出於各自的利益考慮，在中國對德的關係問題上，分別支持主戰的段祺瑞和主和的黎元洪，府院之爭再度激化。主戰派之所以熱衷於與德宣戰，在於借助日本的扶持編練“參戰軍”，名正言順地擴充北洋勢力；主和派反對參戰則企圖利用全國反戰輿論打擊主戰派。兩派你爭我奪各不相讓。
3月4日，圍繞對德絕交的問題，段祺瑞率閣員來到總統府與黎元洪展開了一場舌戰。段祺瑞拿出早已擬好的斷交書催促黎元洪盡快簽字：“協約國方麵已不止一次要求我們對德絕交。”
“這是有關國家關係的重大問題，不可草率從事，弄不好對德絕交就是對德宣戰的前聲。”黎元洪也毫不客氣地予以反駁。
段以不耐煩的口氣告訴總統：“內閣已通過對德斷交一案。”
黎聲色俱厲地說道：“這樣我們就不稱其為主權國家了……根據約法，大總統有宣戰媾和的特權！”
段冷笑一聲：“總統既不要我負責，國會又要問我的責任，這樣的總理我沒法幹下去了！”說罷揚長而去，重演以辭職相要挾的故伎，當晚甩手離京。
黎元洪速邀徐世昌、馮國璋、王士珍入府討論時局，意在請徐世昌出任國務總理，王士珍為陸軍總長，徐、王二人堅辭不受。這時，各部閣員又紛紛來電主張挽留總理，無權又無兵的黎元洪隻好忍氣吞聲，請馮國璋從中調停，表示：“外交問題就聽段芝泉的，我完全沒有意見，但要以多數意見為準。”
3月14日，北京政府正式照會德國駐華公使，宣布兩國絕交。
為最終達到參戰目的，段祺瑞變本加厲的向黎施加高壓。在他的唆使下，以安徽督軍倪嗣衝為首的皖、晉、豫、魯、贛等省督軍團進京麵見大總統，向黎麵陳參戰理由。黎元洪一見到這些蠻橫魯莽，出口不遜的武夫們，不由怒火中燒，當即迎頭痛斥倪嗣衝等擅離職守，幹涉外交的無禮行為，段之計謀未能得逞。
段祺瑞對此豈肯善罷甘休，十天之後，他又搜羅了一大批流氓、乞丐、打手數千餘人，號稱“公民請願團”，在國會門前舉行示威活動，對議員們大打出手，強行要求通過參戰案，致使國會被迫休會，議員多人受傷，引起內閣成員的恐懼和不滿。到5月19日，除總理段祺瑞以外的其他內閣成員紛紛辭職，眾議院也以內閣僅剩總理一人為由拒絕討論宣戰案。段祺瑞見其行無效，進而慫恿督軍團武夫脅迫總統解散國會。