Comme la plupart des temples khmers, Vat Phou est orienté vers l’est, bien que l’axe soit orienté à huit degrés au sud du plein est, étant déterminé principalement par l’orientation de la montagne et de la rivière. En incluant les barays (réservoirs), il s’étend sur 1,4 kilomètre (0,87 mi) à l’est de la source, au pied d’une falaise à 100 mètres (330 ft) de la colline. À 6 kilomètres (3,7 mi) à l’est du temple, sur la rive ouest du Mékong, se trouvait la ville, tandis qu’une route au sud du temple lui-même menait à d’autres temples et finalement à la ville d’Angkor.
Approchée de la ville (dont il reste peu de choses), la première partie du temple atteinte est une série de barays. Un seul contient maintenant de l’eau, le baray moyen de 600 par 200 m qui se trouve directement le long de l’axe du temple ; il y avait des réservoirs au nord et au sud de celui-ci, et une autre paire de chaque côté de la chaussée entre le baray moyen et les palais.
Les deux palais se trouvent sur une terrasse de chaque côté de l’axe. Ils sont connus sous le nom de palais nord et sud ou, sans preuve, de palais des hommes et des femmes (le terme « palais » est une simple convention et leur but est inconnu). Chacun était constitué d’une cour rectangulaire avec un couloir et une entrée du côté de l’axe, et de fausses portes aux extrémités est et ouest. Les cours des deux bâtiments ont des murs en latérite. Les murs du couloir du palais nord sont en latérite, tandis que ceux du palais sud sont en grès. Le bâtiment nord est aujourd’hui en meilleur état. Les palais sont principalement remarquables pour leurs frontons et leurs linteaux, qui sont dans le style précoce d’Angkor Wat.
La terrasse suivante comporte un petit sanctuaire à Nandi (la monture de Shiva) au sud, en mauvais état. La route reliant Vat Phou à Angkor passait au sud de ce temple. En continuant vers l’ouest, des escaliers successifs mènent à d’autres terrasses ; entre elles se trouve un dvarapala qui a été vénéré comme le roi Kammatha, constructeur mythique du temple. Sur l’étroite terrasse suivante se trouvent les restes de six petits sanctuaires détruits par les chasseurs de trésors.
Le chemin culmine dans sept gradins de grès qui s’élèvent vers la terrasse supérieure et le sanctuaire central. Le sanctuaire est en deux parties. La partie avant, en grès, est aujourd’hui occupée par quatre images de Bouddha, tandis que la partie arrière en brique, qui contenait autrefois le lingam central, est vide.
La totalité du toit est manquante, bien qu’une couverture de fortune ait été ajoutée à l’avant. L’eau de la source qui émerge de la falaise à environ 60 m au sud-ouest du sanctuaire était canalisée le long d’aqueducs en pierre dans la chambre arrière, baignant continuellement le lingam. Le sanctuaire est plus tardif que les palais nord et sud, appartenant à la période Baphuon de la fin du XIe siècle. Le côté est comporte trois portes : du sud au nord, leurs frontons montrent Krishna terrassant le nāga Kaliya, Indra chevauchant Airavata et Vishnu chevauchant Garuda. Le mur est porte des dvarapalas et des devatas. Les entrées au sud et au nord ont des linteaux intérieurs et extérieurs, dont un au sud de Krishna déchirant Kamsa.
Les autres caractéristiques de la zone sont une bibliothèque, en mauvais état, au sud du sanctuaire, et un relief de la Trimurti au nord-ouest. Il y a d’autres sculptures plus au nord : une empreinte de Bouddha sur la paroi de la falaise et des blocs rocheux en forme d’éléphants et de crocodile. La pierre du crocodile a acquis une certaine notoriété car elle pourrait être le site d’un sacrifice humain annuel décrit dans un texte chinois du sixième siècle. L’identification est rendue plausible par la similitude des dimensions du crocodile avec celles d’un humain.