1976年9月13日，由國務院副總理谷牧負責，毛主席遺體領導小組辦公室正式成立。隨后，他們立即通知了北京、上海等國內10多個重點省市單位，要求這些地方盡快派遣建筑師、設計師等專業人才來北京。

緊接著，谷牧又在辦公室設立了毛主席紀念堂設計小組，由北京市建委主任趙鵬飛掛帥。隨著各地的專家紛紛趕到北京，毛主席紀念堂的設計建造工作也正式開始。

起初，大家的想法是毛主席一生為革命作出了巨大犧牲，應該選擇一處風景優美的地方作為主席的陵墓。

有人提出應該在山水景色不錯的地方建造陵墓，專家組花費了很多時間考察了中南海等地，相比其他地方，中南海的環境是最好的。

不過，由于這里是中央辦公的地方，再加上此地曾是慈禧太后囚禁光緒皇帝的地方，專家們思量再三，決定換個地方。

之后，專家組又決定按照“山頂紅星”的方案，考察了香山、玉泉山等北京的著名山峰。

可這些地方離北京市區比較遠，也不方便群眾瞻仰毛主席，在一段時間的考察之后，專家組放棄了依山傍水建造陵墓的方案。

于是，大家就將目光放在了天安門廣場上，一方面，在這里建造陵墓，不用考慮房屋拆遷等問題，也有現成的公園樹木能用。

此外，國家每年都會在這里舉行盛大的活動，像國慶典禮這些活動，大量的群眾都會聚集在天安門廣場上。到時候，中央領導人在天安門上檢閱游行的群眾，游行隊伍面向天安門的時候，也同樣面向毛主席。

毛主席辛勞一生，一切都是為了人民，在他的心里，人民始終是第一位的。

因此，大家都認為毛主席的遺體安臥在人民群眾之中，這才是最合適的。就這樣，專家組明確了選址，這也得到了中央政治局的批準，大家決定在人民英雄紀念碑南邊修建毛主席紀念堂。

緊接著，大家又圍繞著具體選址展開了討論，最終確定在中華門的位置建造紀念堂。

這里位于天安門中軸線上，可以讓紀念堂與天安門遙遙相對，又夾在人民大會堂與革命歷史博物館這些大型建筑中間，這就營造出了一種眾星捧月的氛圍。

敲定位置后，專家組開始了紀念堂的設計工作，作為領導小組的負責人，谷牧也深度參與設計工作。他發現，大家的設計方案基本是按照陵墓的形式來的，谷牧認為陵墓主要是封建階級剝削者使用的，這一點和人民是對立的。毛主席作為一個偉大的革命者，他的遺體不應該放在陵墓當中。

在他的建議下，專家組放棄了陵墓設計，決定為毛主席建造革命紀念堂。當時，大家能夠參與到毛主席紀念堂的設計工作中，都是一件光榮的事情。

因此，許多人都加入進來，他們提交了眾多設計方案，谷牧審查了這些方案后，又發現了不少問題。原來，大部分方案設計的紀念堂面積都太大了，有的甚至把天安門廣場南部都占滿了。紀念堂作為天安門廣場建筑的一部分，還是應該保持合理的面積。

可提出了這個要求后，設計師們又都犯了難，畢竟紀念堂除了提供群眾瞻仰之外，還有著許多重要作用。要想在有限的面積內，設計一個功能齊全的紀念堂，并不是容易的事情。

一時間，紀念堂的具體設計方案遲遲沒有落成，專家組討論了許久，這才拿出了一個合適的方案。谷牧也多次與葉劍英等人商議，得到中央的批準之后，方案才終于落地。然而，很快又有人提出了設計上的問題。

原來，中國建筑一般坐北朝南，專家們設計時也是按照這個思路。可這么設計后，中央在天安門城樓上檢閱游行隊伍時，只能看到紀念堂的背面。

于是紀念堂的朝向被改變，但這又出現了新的問題。紀念堂正面朝北，當天安門廣場上群眾聚集時，大家都會面向天安門，背對毛主席紀念堂。

谷牧與趙鵬飛等人商議后，決定將紀念堂庭院的東西兩側向里收縮，使兩側廣場面積擴大。一旦舉行群眾大會，在紀念堂東西兩側和南北方向都有群眾環繞，這樣毛主席就在群眾之中，背向問題也就解決了。

經過反復討論，具體方案終于通過，幾天后毛主席追悼大會舉行時，大家發現天安門上的群眾按照這個設計落位，正好讓毛主席處在群眾之中。

就這樣，在谷牧等人的努力下，毛主席紀念堂的建造工作順利完成，這也成為天安門廣場上的標志性建筑之一。