孙中山大元帅府旧址因孙中山1917-1925年间两次在这里建立大元帅府而得名。 孙中山大元帅府前身为广东士敏土（cement）厂，始建于清光绪33年（1907年），生产规模仅次于天津开平水泥厂，是当时我国第二大水泥厂。 1917年7月，孙中山率领部分海军南下，在广州召开国会非常会议，建立中华民国军政府，开展护法运动。1918年5月，由于受盘踞在广东的桂系军阀及政学系的破坏和干扰，孙中山辞海陆军大元帅职离开广州，护法运动以失败而告终。1923年2月孙中山重返广州，建立陆海军大元帅大本营。大本营成立初期先后平定了沈鸿英叛乱和东江叛乱，进一步巩固了广东革命根据地。这一时期孙中山的思想和政策发生了重大转变，在共产国际和中国共产党的帮助下，改组国民党、实现国共合作、开展国民革命。1924年11月孙中山应邀北上商谈国是，于次年3月12日在北京病逝。1925年7月1日,中华民国国民政府在广州正式成立，大本营完成了它的历史使命。 孙中山逝世后，这里又作为国父文化教育馆两广分馆、国父纪念馆等。广州解放后，该处先后成为部队和省有关部门的办公用房，1964-1998年成为广东省农业机械供应公司办公、居住用房。1998年10月，大元帅府旧址被移交给广州市文物管理部门，筹建孙中山大元帅府纪念馆。
大元帅府总占地面积为8020平方米，由南北两座主体大楼、东、西广场和正门等组成。两座主体大楼为三层券拱的殖民地式建筑。广东省农业机械公司1964年进驻大元帅府旧址后，在保护范围内修建了三幢居民宿舍楼，其中正门处的六层居民宿舍楼，直接骑压了大元帅府的原门楼，但残存的门柱和基石仍清晰可见。西边两幢八层宿舍楼则为大元帅府厨房、卫兵房等所在地。广州市人民政府2001年决定投入1500万搬迁六层居民宿舍楼，并复建大元帅府门楼。 1983年8月孙中山大元帅府旧址被广州市人民政府公布为市级文物保护单位，1989年6月被广东省人民政府公布为省级文物保护单位，1996年11月被国务院公布全国重点文物保护单位。 大元帅府旧址主体建筑的已维修复原，原址筹建孙中山大元帅府纪念馆，已于2001年底对社会开放。