在清代以前，没有广州市的建制，广州城区分属番禺县、南海县管辖。大抵以今天的广大路、广仁路一线为分界线，以东属番禺县，以西属南海县。
宋代以前，南海县衙在广州城北兰湖里，明洪武二年（公元1369年）迁至城内达德街元妙观左傍，就是在今天六榕街第九居民委员会附近。南海县衙早已茫然无存，至今留下一条“旧南海县街”是唯一的历史佐证。旧南海县街全长58米，宽3.5米。

南海县衙