寺址在惠福东路惠新中街。此寺前身最初是新藏寺，南汉二十八寺之一。元代（1271-1368）建为福田庵。明代在福田庵旧址上扩建为龙藏寺，今龙藏街即因此得名。当时寺址，北至拱北楼（今北京路与西湖路交界处），南到南城脚，前门在今龙藏街。明末，被改为巡按御史公署，南明桂王永历三年（1649），清兵攻城，公署坍塌。
清初顺治年间，平南王尚可喜（1590-1676）在拱北楼迎送安南（今越南）贵宾，席间议及重建佛寺，获安南王支持捐赠大批楠木作建筑材料，遂在龙藏寺废址上重建佛寺，康熙二年（1663）动工，次年落成。因寺内供奉三尊大铜佛像，故名大佛寺，平南王自撰《鼎建大佛寺碑记》。大殿的建造，先择地铸成佛像，然后就地构筑上盖。以楠木为梁柱[1]的大雄宝殿面阔七开间，内宽32.35米，进深五开间，23.5米，飘簷下之四周走廊，前宽5米，后宽2.4米，两侧各宽4.5米，全殿建筑总面积1277.7平方米。殿内原供奉黄铜铸三宝佛，每尊佛像连座高6米，重10吨，殿内后方的观音铜像也高达四米。该佛像和观音像“文化大革命”后被移至六榕寺供奉。现在大佛寺的三尊大铜佛像，是1993-1995年仿照原像大小和形态重新铸造的。山门取寺名立联：“大道有岸，佛法无边”。雍正十一年（1733）四月十一日，朝廷向全国佛门颁布谕旨，广州府选择大佛寺为宣谕之所，特建宣谕亭。乾隆四年（1739），在大殿两侧增筑韦驮、伽蓝二殿，在寺门前建“佛境”、“禅林”两座门楼。此时寺院范围，东起今北京路，西至龙藏街，南接惠福路，北达西湖路。咸丰元年（1851），因太平天国战事，官府借寺西侧大半僧舍设善后局。
民国初，市政公所亦设在大佛寺内。民国10年（1921），孙中山为大佛寺成立“佛教阅经社”题赠“阐扬三密”四字。民国11年起，市政厅为筹北伐军饷，将大佛寺大部分房地拍卖（当时全寺面积有1100余井约13000平方米），另拨一部分办警察教练所。当时保留下的房地有大殿、后殿、禅堂、库房、斋堂、方丈室及东偏客堂等部分。三尊大佛拟售与某洋行，后因拆迁困难而作罢。民国15年，周恩来曾在大佛寺举办高级干训班。民国23年，“住持和尚月溪修葺大殿，重光佛相，一时颇有中兴气象”。抗日战争后，大佛寺日趋零落。
建国初，该寺原库房地方租给强华（后改名大昌）被服加工厂用。1950年，大昌被服厂用地再辗转给其他单位租用。1966年“文化大革命”中，三尊大佛各被肢解搬走，经周恩来总理指示：是文物的应予保留，才倖免投入熔炉。整个寺院房地被4间街道工厂占用并改作工场；僧人全部撤出，有的入工厂、学校工作，有的回乡闲居。1986年，市政府批准大佛寺交回佛教协会管理、恢复开放。1991年市佛教协会副会长广明法师出任大佛寺住持，负责该寺重修复建等工作。大佛寺在最盛时有常住僧人数十人，挂单僧人百余人。1952年有常住僧人8名，现有常住僧人7名。至1994年，大佛寺收回的房地，除已修好大殿外，正在东面重建地藏殿和僧舍，正面重建山门和天王殿。
注释：
[1]楠木梁柱保存至今尚称完整