公元前二世纪，光孝寺原是西汉南越王赵陀的第三代孙赵建德的居地，称为“王园”。三国时，东吴名臣虞翻平生不信神仙怪诞之说，对孙权和张昭谈论神仙的无稽之谈直斥其非，触怒了孙权而获罪，被流放到广州，把“王园”取名“虞苑”，又称“诃林”，因其在苑中广植诃子树。虞翻是一位很有学问的人，他曾为《老子》、《论语》、《国语》都作过训注，还著过《明杨》、《释宋》等书，对传播中原文化作出有益的贡献。他死后，妻子此归把宅园捐献改作寺院，取名“制止寺”。
东晋隆安元年（公元397年）罽宾国（今克什米尔）昙摩那舍法师从海路来到广州，在这里创建佛殿传教，名为“王苑朝庭寺，”又称“王园寺。”寺名随着朝代的变迁和寺院的修建而九次易改。明宪宗成化十八年（公元1482年）敕赐光孝寺匾额，寺名沿用至今。
随着中外通商的发展，外国佛教文化大量传入中国，特别是六朝以后，印度及东南亚各国的著名僧人求那跋陀、智药三藏、禅宗菩提达摩初祖，波罗末陀等都曾来此传教，译经讲法。特别慧能六祖在寺中剃发受戒，建成中国式的佛教。
光孝寺内，最为吸引游人的是正面那座大雄宝殿。大殿充分体现了我国唐宋以来古代木构建筑的艺术风格，最突出的是：采用梭形柱支承大梁，下檐斗拱分担屋顶重量的结构，不但在力学结构上十分合理，而且增加了庙宇装饰艺术的美感。在大雄宝殿台基的左右两侧，有一对石法幢•高约四米，六角七层如塔式，每层每面凿成小龛，精美古雅，把大殿映衬得格外端庄。
毗邻大殿右侧是伽蓝殿，据传是佛教中护法的神，所有的佛寺都有它的塑像。六祖殿位于伽蓝殿的左后方是为纪念中国著名的禅宗六祖慧能而建筑的。它建于宋朝大中祥符年间，慧能于唐高宗仪凤元年，（公元676年）在光孝寺的菩提树下剃度为僧。慧能自幼丧父，稍长便以卖柴养母亲度日，出家后曾当舂米工役，后以“顿悟”而受弘忍的赏识，被弘忍选为法嗣。他在岭南传教，是南宗实际上的祖师，南宗取代了北宗被看作是禅宗的嫡传。它革除了禅宗以前的烦琐的戒律和复杂的忏礼诵经仪式，使外来的佛教中国化了。殿中安放着六祖慧能的塑像，身披袈裟，双目微闭，盘膝打坐在蒲团上栩栩如生。
六祖殿前有一座风格独特的古塔，高七米多，形八角七层。每层有八个佛龛，龛里镶嵌着小佛像，是六祖瘗发塔，塔下埋藏着慧能出家时剃去的头发。
大殿的东、西两侧，是两座富有东方艺术风格的铁塔-东铁塔和西铁塔。建于公元963年和967年，塔高四米，四方型，共七层。塔面镶着小佛像，塔下有铭文，称乌金铸造千佛宝塔。西铁塔在清末一次房屋倒塌中被压毁了四层；东铁塔成了我国现存铁塔中最古、最大、最完整的一座。
寺内最珍贵最具有历史价值的树木，是诃子树和菩提树。由于历史悠久，虞翻所种的诃子树早已枯死，后来曾补种过，便仅存一株了。菩提树，是六朝梁武帝天监元年（公元502年），由印度僧人智药三藏从故国带来的。因为六祖曾在树下剃发，所以这棵树在佛教中是异常神圣的。菩提树活到清朝仁宗嘉庆五年（公元1800年）被飓风吹倒枯死。现存一棵，是后来派人到韶关南华寺取回枝苗补种的。
菩提树是佛教的灵树，又叫圣树。相传佛教创始人释迦牟尼在年青时，有一次在菩提树下冥思苦想，从而认识了人生的道理，人们传说那是菩提树的灵光显灵。所以在佛教寺院里，总种有菩提树。
光孝寺里的历史文物非常丰富，除了上面介绍外，还有大量雕像、碑刻、石刻。比较珍贵的是六祖、达摩像碑，像碑是两面刻的，一面是六祖像；一面是达摩像。寺里还有一些形似蘑菇的石柱，取名“幢”，现存的悲幢是唐朝宝历元年造的，幢身八面都刻有大悲咒。
光孝寺有许多关于六祖的传说：单说唐高宗年间，有一天全寺僧人集中在大雄殿内听主持和尚印宗讲经，忽然风吹幡动，这本是很平常的自然现象，却引起了正在听经僧徒们的一场争论：有的说是风在动，有的说是幡在动；大家争论不休。当时地位还十分低微的慧能和尚恰好在这，他从容说：“风没有动，幡也没有动，是你们的心在动罢了！”这番奇论使印宗在内的所有和尚都信服，寺里为了纪念那次所谓历史性的争论而建了一座风幡阁以示对六祖的崇敬。
“洗钵泉”相传六朝梁武帝年间，印度达摩和尚来寺传教时，经常在此泉洗饭钵而得名。
“洗砚池”传说唐中宗年间，宰相房融被贬广州时，适逢西域般刺密缔三藏和尚来寺传教，他帮助般刺密缔三藏翻译首楞严经（中国经文），并在这个池中洗砚，而得名。
光孝寺以历史的悠久和文物的珍贵而受到人们的重视，它不仅在古代建筑中享有盛名，而且在佛教史上也有着很重要的地位，被列为全国重点文物保护单位之一。

光孝寺 王园