同時，以雷日科夫為首的穩健改革政府遭到了激進民主派的猛烈抨擊，一年中提出了六個針對政府的不信任案。雷日科夫長期從事經濟管理，經驗豐富而且非常盡責，當時蘇聯經濟出現的問題當然不是由他一人一下子就能解決的。在堆積如山的經濟問題和激進改革派屢屢找茬的情況下，他心力交瘁、滿腹委屈，終于在1990年12月26日的"人代會"上爆發，發表了措辭尖銳的回擊，而後突發心髒病住院，辭去了總理職務。
雷日科夫辭職後，戈爾巴喬夫又棋錯一招：提名原蘇聯財政部長帕夫洛夫為蘇聯總理。提名此人做總理令蘇聯和全世界分析家感到奇怪，因為此人一向政績平平，為人不正派，誇誇其談，性格十分古怪。他顯然不是一個很好的總理人選，尤其不能承擔危機時期的總理工作。果然，帕夫洛夫上台後不久就宣稱要打擊"影子經濟"，于1991年1月23日停止1961年版50盧布和100盧布的大額鈔票流通，結果不但沒有打擊"影子經濟"，反而造成民怨沸騰，給激進改革派平白送去一份政治禮物；在激進民主派尖銳指責之後，他的辯解更令人大跌眼鏡，說這樣做是為了阻止"外國銀行的陰謀"，因為他們掌握了80億盧布，打算將這些盧布突然投放蘇聯，把蘇聯經濟搞垮。帕夫洛夫近似夢囈般的胡言亂語遭到了國內外的一致嘲笑，就連克格勃也趕緊發表聲明，表示不知道外國銀行有此"陰謀"。戈爾巴喬夫在這種危機時刻選用此庸人，真是致命的錯誤。
葉利欽的咄咄逼人及其蓄意制造混亂，使得戈爾巴喬夫逐漸轉向強硬派一邊。戈爾巴喬夫成功地促成了亞納耶夫當選蘇聯副總統，並同激進改革派拉開了距離。整個1990年下半年和1991年上半年，戈爾巴喬夫都在與激進改革派做斗爭，直到"8·19"政變為止。1991年2月23日蘇聯建軍節閱兵和群眾集會，戈爾巴喬夫向激進改革派發出了明確的信號。有消息表明，期間，戈爾巴喬夫甚至考慮過采取非常措施"解決"掉葉利欽等人。
戈爾巴喬夫轉向強硬立場，遭到了他的主要政治盟友雅科夫列夫和謝瓦爾德納澤的堅決反對。其中，謝瓦爾德納澤竟然在"人代會"上不同任何人商議突然提出辭職，並且呼籲："民主派同志們，你們逃走吧，獨裁正在來臨……我要辭職，這是我個人的貢獻，也是對獨裁的抗議。"不久以後，雅科夫列夫也宣布辭職。雅科夫列夫和謝瓦爾德納澤的相繼辭職表明，戈爾巴喬夫改革初期的全部班底均已眾叛親離。
但是，新聯盟條約的接近成功，使得戈爾巴喬夫對采取不流血方式解決國內問題增添了信心。他的如意算盤是：先簽署新聯盟條約，再通過經濟、政治甚至軍事手段給拒絕加入聯盟的幾個小共和國施加壓力，促使其加入聯盟，解決好聯盟分權問題，平息分離主義；再集中精力解決國內政治經濟問題。假如沒有"8·19"事件，或許他可以成功。因為聯盟的四個最重要的共和國：俄羅斯、烏克蘭、白俄羅斯、哈薩克斯坦都是要加入聯盟的，至少表面上不敢分裂聯盟。
面對氣勢洶洶的民族分離主義浪潮和聯盟解體的危機，戈爾巴喬夫采取了"慎用武力，以談促變"的手法。應該說這是一個正確的選擇。哪里分離主義鬧得凶，就派軍隊嚇唬一下，讓其收斂；同時通過談判滿足加盟共和國一些要求，保持一個統一的聯盟國家。但是，戈爾巴喬夫太軟弱了，因為有些共和國的分離運動領導人根本就不願意進行任何談判。野心家們一旦掌握了權柄，就不會主動讓出絲毫。15個加盟共和國中格魯吉亞、立陶宛、拉脫維亞、愛沙尼亞、亞美尼亞、摩爾多瓦都明確拒絕加入這個談判。這個時候，戈爾巴喬夫應當采取果斷行動，殺一儆百。可惜，戈爾巴喬夫沒有這麼做，而是派出軍隊猶猶豫豫地進去，遇到對抗就灰溜溜地出來。這種首鼠兩端的做法，不但沒有起到穩定秩序的作用，反而是向分離主義分子示弱，加劇了他們的囂張氣焰。
為了獲取人民的支持，1991年3月17日，戈爾巴喬夫倡議進行了題為"你是否贊成保留一個統一的、經過革新的聯盟？"的全民公決，這也是蘇聯曆史上首次全民公決。根據公決結果，76%的蘇聯公民不希望國家解體，可以說戈爾巴喬夫維護國家統一的努力，是代表了人民意志的。
戈爾巴喬夫的努力取得了一定程度的成功。1991年8月在莫斯科新奧加廖沃國家別墅與9個加盟共和國達成了"91"談判，預定于1991年8月20日簽訂新聯盟條約。在談判過程中，戈爾巴喬夫起初堅持不改變"蘇維埃社會主義共和國聯盟"（簡寫為CCCP）的國名，但是遭到了俄羅斯等共和國代表的堅決反對。為了獲得俄羅斯聯邦，也就是葉利欽的支持，戈爾巴喬夫只好妥協，定國名為"蘇維埃主權共和國聯盟"（簡寫也為CCCP）。其實，這是戈爾巴喬夫維護國家統一所不得不做出的、無奈的選擇。