陈家祠是集岭南历代建筑艺术之大成的典型代表，包括前院、西院、东院及后院，占地15,000多平方米。其建筑深三进，广五间，由9座厅堂、6个院落、10座厢房和长廊巷组成，建筑中心是高达14.5米的中进主殿“聚贤堂”。整个建筑根据中国古建筑形式美的原则，把众多大小不同的建筑物巧妙地组合布局在平面方形的建筑空间里，前后左右，严谨对称，虚实相间，极富层次。长廊、青云巷使整个建筑四通八达，庭院园林点缀其中，形成各自独立而又相互联系的整体。
陈氏书院的主体建筑正门两边的外墙上有《梁山聚义》、《梧桐杏柳凤凰群》等6幅大型砖雕；全院的门、窗、屏、墙、栏、梁架、屋脊等处装饰中广泛采用木雕、石雕、砖雕、陶塑、灰塑、壁画和铜铁铸等不同风格的工艺，雕刻技法既有简练粗放、又有精雕细琢，上下呼应、相得益彰。
尤具特色的还有第二进后侧长廊上的柚木屏门双面镂雕，分别雕有历代历史故事和民间传说“三顾茅庐”、“赤壁之战”等20幅木雕，被赞誉为“木刻钢刀雕就的中国历史故事长廊”。