山上花园水道博物馆包含需要门票的博物馆区与免费的净水区两大部分，两个园区相距约一公里。博物馆区的核心是日本人于1922年完工的自来水厂，提供台南市区的民生用水，目前有快滤池室(A馆)、快滤筒室/办公室(B馆)以及送出唧筒室(C馆)3大栋建筑，B馆与C馆都是优美简洁的红砖建筑。C馆外观是三层楼建筑，应该是整个园区最醒目的地标，馆前的慢滤池变成仙人掌小庭园，馆旁的空地种了一小片波斯菊，让整个C馆完全不像工业厂房。B馆前有一整排高大乔木，树下有阳伞桌椅，可以休憩用餐。三个馆中保留了当年的自来水设施，这些平日少见的槽管唧筒整齐排列，另有一种美感。净水场在一个小丘上，需要爬一段阶梯才能抵达。净水池很像一座石造碉堡，顶端是一大片草皮，草皮上立著几十根通气管，非常奇特。净水池不开放入内参观，如果时间不够，可以略过不去。