不久，南京政府成立，蔣作賓被任為陸軍次長。他主張三點政策，即以南京、武漢、北京為三點，作為革命重要之地，若三點鞏固，革命可望成功。因此，他就職後即創立軍官學校，以培育人才。同時他新編操練第八師，以求鞏固南京一點。至于武漢一點，他不斷電商黎元洪，對起義各軍進行整頓。無奈政府北遷，蔣洞悉袁世凱並無誠意，最初堅決不去，而孫中山、黃興等人認為，民黨勢力，宜謀北漸，北京一點，不可輕視，在他們的催促下蔣才北往任事。
袁世凱帝制運動時，蔣作賓為袁所忌，逃往西山。袁死黎繼，1916年7月黎任命蔣為參謀次長，晉升為協威將軍，是黎元洪的所謂"四大金剛"之一，成為黎的軍事智囊。當時段祺瑞任國務總理，與黎元洪發生齟齬，蔣作賓力主調和，但段氏剛愎自用，以督軍團之力驅逐黎，黎氏無能，違法解散國會，結果釀成張勳複辟之禍。
蔣作賓覺得國家綱紀已被破壞，北方已不可為，非南下護法不足以謀挽救，而武漢為南北樞紐，有事中原先據之。當時握有重兵，擁武漢財富為南北阻礙者，為湖北督軍王占元。若王氏不去，則無事可為。1921年，蔣被推為湖北臨時省總監，遂入湘聯合湘軍將王占元驅逐出境。王雖被逐，但吳佩孚乘機侵入，委任蕭耀南為湖北督軍。武漢重鎮，又落入軍閥之手。
蔣作賓于是南走廣東，商籌北伐大計，隨孫中山到桂林，任幕僚處處長，並到韶關策劃攻贛。陳炯明叛亂時，孫中山倉促避亂于永豐(後改名中山)軍艦，蔣亦相追隨，複奉命聯絡各方，協謀以清除心懷不軌、隨時准備叛亂的人。國民革命軍北伐時，蔣被任為湖北宣撫使。1927年，任湖北省政府委員。次年，任國民政府戰地委員會主席，參與北京，天津的和平接收事宜，任北平政府分會委員，旋又改任駐德公使。三年後任滿返國。1931年7月，與施肇基同被任為國聯會第十二屆大會出席代表，蔣未與會。8月，被任為駐日公使。11月，被選為國民黨第四屆中央監察委員。1935年7月，自日本回國，12月，任內政部部長。
黎元洪任總統後，調任教育總長張國淦為總統府秘書長，這樣張國淦就成為黎元洪的老幕僚。他是湖北蒲圻縣人，字乾若、仲嘉，號石公，前清進士，清末曾入黑龍江將軍程德全幕，開始其幕僚生涯。辛亥武昌起義，黎元洪慕其賢而將他聘入幕府。由于他為人識大體，有操守，無政治野心，不僅為黎元洪所尊敬，亦頗得各方倚重，做過黑龍江省省長、教育總長、司法總長、農商總長、國務院秘書長。從他的民國宦曆來看，他作為老官僚是當之無愧的，可他並沒有官僚習氣，他生平很少聯絡政客，交通聲氣，難進易退，非有大學問和修養的人難以辦到。
哈漢章、金永炎、蔣作賓、黎澍四人經常向黎元洪建議，總統必須掌握兵權，其理由是：責任內閣制是專指政治而言的，總統既然是全國陸海軍大元帥，就不能不管軍事，如不管軍事，則不如不做總統。黎也覺得袁世凱做總統時是何等威風，而自己身為總統雖不集權，但畢竟是總統，就不能不管軍事。
黎元洪的這一意圖與段祺瑞的目的完全背道而馳，段以為他是以國務總理的地位掌握全國政權，以陸軍總長的地位掌握全國軍權，總統不負實際責任，只能安分守己地做一個蓋印機器。段的政治獨裁是建立在軍事獨裁基礎上的，如讓總統管軍事，就等于把自己放在手無寸鐵的空位子上，這是他難以容忍的。在這種情況下，最終爆發了府院之爭。
相對于其他政客如袁世凱、段祺瑞等人而言，黎元洪的智囊不僅人數少，而且謀略低，當中沒有較為出色的人物，除"四大金剛"外，饒漢祥、杜錫鈞、李根源、韓玉辰等人也曾充當過黎元洪的謀臣策士，但他們智謀平平，未見有突出的表現。由于黎氏忠厚有余，智慮不足，因此在重大決策方面，他主要依靠其幕僚的建議行事，自己缺乏主見，決斷不堅，有時其幕僚不免盜用魁柄。