新中国成立前，广州穆斯林曾成立过中国回教俱进会粤支部、中国回教协会广州支会等组织，但到广州解放前夕，这些组织都已自行解散。新中国成立后，在人民政府的支持下，广州穆斯林开始筹备自己的宗教组织。1956年10月15日，由沙梦弼等人发起成立广州市伊斯兰教协会筹备委员会。同年11月8日 ，广州市召开了伊斯兰教徒的第一次代表大会，会上正式成立了广州市伊斯兰教协会，还选出阿訇、乡老和穆斯林各界代表17人，组成协会委员会，选举沙梦弼为主任。协会会址设在怀圣寺，下设机构有清真寺民主管理委员会、文史资料研究组和学习组。清真寺民主管理委员会主要负责管理广州伊斯兰教集体财产及清真寺、先贤古墓和坟场等事务；文史资料研究组负责广州伊斯兰教文史资料的搜集和整理；学习组负责组织政治学习。广州市伊斯兰教协会是全国最早成立的地方伊协之一，早期属中共广州市委统战部党群处领导，1959年后归市民族宗教事务委员会行政管理。“文化大革命”期间，伊协停止活动，直到1981年以后才恢复正常活动。
广州伊协成立后，积极协助市政府贯彻宗教信仰自由政策，维护伊斯兰教界人士和穆斯林的合法权益，并团结全市穆斯林积极参加社会主义两个文明建设。先后出版了《广州回族、伊斯兰教文史资料选辑》共三辑。1984年4月30日，经热心老人工作的穆斯林倡议，成立了老人工作组，负责建立“老人之家”，并主持“老人之家”的活动。“老人之家”成立初期只有40多人，后发展到400多人，成员遍及省内各地以及广西、湖北、香港、澳门、台湾等地。1985年5月又成立了妇女工作组，举办各种讲座，组织回族妇女学习时事政治，开展各种文体健身活动，参加市妇联举办的各种有关妇女、儿童的社会公益活动。1990年3月，广州回族联谊会成立，市伊协的老人工作组和妇女工作组划归回族联谊会。
到2000年，广州伊协共召开了八次代表大会，选举出八届委员会，沙梦弼、马景廉、马德光、杨汉光、马毓钧先后当选为主任或会长。

广州市伊斯兰教协会