上世纪初，广州的中学大部分由外国教会垄断。知用中学是广州早期由中国人创办的私立中学之一，追溯它的历史，不得不从知用学社说起。
1922年11月，广东高等师范学校（即中山大学前身）一批进步毕业生陈克文、潘学增、陈贤德、褟参化、余心一、熊润桐等12人，怀着救国梦想，自发成立一个组织：知用学社。到1928年，陆续加入为社员的还有张瑞权、毕磊、唐富言、陈寂、谢申、吴三立、胡金昌、刘冕群等数十人。
这是一个精英会聚的团体。余心一、熊润桐是才华横溢的诗人，他们和佟绍弼、曾希明、李履庵一起有“南国新五子”之称。梅雨天，是留日归来的中国早期水彩国家。张兆驷，有“广州数学四大天王”之称。此外，不少社员后来成为国内外闻名的专家、学者。
不难想象，这群博学而活跃的年轻人，在思想的交流中，会撞击怎样闪亮的火花。他们订下学社的宗旨：“先归纳以求知，复演绎以致用，求知致用双方并重”，平时注重学术研究，“只译述以为务，著文章以自娱，凡公私珍藏，钞刊秘册，七略四部，九流六书，亦有搜罗，共深研究”。
然而，知用学社的青年们并不满足于此。用实际行动救国，是萦绕在他们心中强烈的愿望。他们商议：在教会学校占多数的情况下，办中国人自己的中学，以“格物求知，穷理致用”为校训，“求革命之知，致革命之用”。
1924年9月12日，社友们向当时广东大学（即现在中山大学）校长邹鲁，租借文明路的三间课室开办夏令馆，招收学生100多人，并以开班所得余款，用作建校的费用，租下纸行街（即现在纸行路）90号房屋为校舍。
房屋虽简陋，但知用学社青年教育救国的梦想，却徐徐拉开了帷幕。

知用中学