怀圣寺在光塔街，是伊斯兰教的清真寺，寺后面有仿照阿拉伯塔形建筑的光塔。
怀圣寺与光塔寺历史悠久，是中国最古老的清真寺之一，它的历史可以追溯至唐代。传说穆罕默德在贞观年间，曾派他的母舅艾比•宛葛素来华传教，在广州登陆，并首创怀圣寺、塔。宛葛素后来死在广州，遗体葬于芝兰湖畔，即现在兰圃附近的先贤古墓便是。著名中西交通史研究专家张星烺，在其所编的《中西交通史料汇编》第二册中记载，俄国驻北京总主教柏雷狄斯，于一八七二年（清同治十年）获得古代汉文大字布告一张，这张布告是由阿拉伯译成汉文的，里面记载唐贞观六年（公元六三二年），宛葛素率徒三千，携《可兰经》来中国传教，并建怀圣寺。后来，英国人莫尔干将此译成英文，发表在一八七二年的《凤凰杂志》第三号。张星烺又把它翻译成中文，以印证这一传说是有史料依据的。
清咸丰二年（公元一八五二年），长沙的伊斯兰教徒兰煦所著的《天方正学》卷七，亦有类似的记载，该书称宛葛素为旺各师，并录有《旺各师大人墓志》。
但是，许多历史学家都不相信这两则记载，认为是后人附会之说，特别是日本汉学家桑原骘藏反对尤为激烈。他在《蒲寿庚考》一书写道：“斡歌士（即宛葛素）事出于附会，其不可信，学者均知之，无待喋喋。怀圣寺建于唐代，亦无稽之谈。”关于光塔，他承认与伊斯兰教寺院这普通尖塔相同，但他又说，此等尖塔，“据美国戈太尔之研究，翁来亚王朝瓦立得第一时（公元七0五年至七一五年）始创建于叙利亚，故广东番塔绝非唐初所建矣。”我国有一些学者也同意桑原的意见，认为怀圣寺和光塔皆建于南宋（十二世纪）年代，其主要依据是岳珂的《桯史》。岳珂是岳飞的孙子、南宋绍煕壬子（公元一一九二年），随同他任地方官的父亲来到广州，当时年方十岁，据他的回忆，广州阿拉伯人居住的地方有“礼拜堂”（即怀圣堂），“堂中有碑，高袤数丈，上皆刻异书，如篆籀，是为像主，拜者皆向之。”关于光塔，亦记叙甚详，称为“堵波”，且“高入云表，式度不比它塔……望之如银笔。”还说，每年四、五月间，当阿拉伯商船将要到来时，侨居广州的阿拉伯人便登上此塔，高声呼号，以祈南风。当时该塔还有金鸡一只，能随风向而转动，后来为小偷盗去一足等等。
然而，历史学家又找到比岳珂《桯史》还要早的文献，即方信孺的《南海百咏》，《南海百咏》为南宋开禧二年（公元一二0六年）以前的作品，是一本诗集，有咏番塔（即光塔）诗一首，诗曰：
半天缥缈认飞翚，一柱轮？几十围，
绝顶五更铃共语，金鸡风转片帆归。
诗后记云：“番塔始于唐时，曰怀圣塔。轮直上，凡六百十五丈（实十六丈五尺），绝无等级，其颖标一金鸡，随风南北，每岁五、六月，夷人率以五鼓登其绝顶，叫佛号，以祈风信，下有礼拜堂。”此外，还有一段注释说：“《历代沿革》载怀圣将军所建，故今称怀圣塔。”根这一则史料，学者们进行了考证，认为《历代沿革》是《南海志》这一篇，《南海志》为陈岘在广东做官时所作，故方氏引用《历代沿革》说明寺、塔建于唐代，是有一定历史依据的。考《册府元龟》卷七五，谓唐代开元二十九年（公元七四一年）十二月，曾有“大食（即阿拉伯国家）首领和萨来朝，授左金吾卫将军。”番塔既为夷人所建，则《历代沿革》所载之怀圣将军，当指开元二十九年受封之和萨。因终唐之世，除和萨外，再也没有阿拉伯人受封为将军了。“怀圣”并非将军的称号，乃缅怀圣人穆罕德之谓。元代至正十年（公元一三五0年），郭嘉所撰的《重建怀圣寺碑》亦说，怀圣寺“世传自李唐讫今”。因此，怀圣寺与塔建于唐代是没有什么错误的，只是具体的时间不在贞观六年，而是开元二十九年左右。
说怀圣寺建于唐代，最有力的证据还有苏莱曼的《东游记》，苏莱曼是阿拉伯商人，曾至印度、中国经商，于唐宣宗大中五年（公元八五一年）著成《东游记》。苏莱曼曾到过广州，他在《东游记》中记载广州有回教牧师一人，教堂一所。此教堂就是怀圣寺。
怀圣寺在元至正癸未（公元一三四三年）曾毁于大火，元僧家讷、马合谋集资修复，郭嘉撰写了《重建怀圣寺碑》。明成化年间，又修复了一次，清康煕三十七年（公元一六九八年），将军拜音达再予重修。时至今日，该寺与塔仍完整无损地立于光塔大街，对研究伊斯兰教历史有重要的参考价值。

怀圣寺