Como la mayoría de los templos jemeres, Vat Phou está orientado hacia el este, aunque el eje está orientado ocho grados al sur del este, siendo determinado principalmente por la orientación de la montaña y el río. Incluyendo los barays (embalses), se extiende 1,4 kilómetros al este desde la fuente del manantial, en la base de un acantilado a 100 metros de altura. A 6 kilómetros (3,7 mi) al este del templo, en la orilla oeste del Mekong, se encontraba la ciudad, mientras que una carretera al sur del propio templo conducía a otros templos y, finalmente, a la ciudad de Angkor.
Accediendo desde la ciudad (de la que queda poco), la primera parte del templo a la que se llega es una serie de barays. Sólo uno de ellos contiene ahora agua, el baray central de 600 por 200 m que se encuentra directamente a lo largo del eje del templo; había depósitos al norte y al sur de éste, y un par más a cada lado de la calzada entre el baray central y los palacios.
Los dos palacios se encuentran en una terraza a cada lado del eje. Se les conoce como los palacios del norte y del sur o, sin ninguna evidencia, los palacios de los hombres y de las mujeres (el término «palacio» es una mera convención y se desconoce su finalidad). Cada uno de ellos constaba de un patio rectangular con un pasillo y una entrada en el lado hacia el eje, y puertas falsas en los extremos este y oeste. Los patios de ambos edificios tienen muros de laterita. Los muros del corredor del palacio norte son de laterita, mientras que los del palacio sur son de arenisca. El edificio norte está ahora en mejor estado. Los palacios destacan sobre todo por sus frontones y dinteles, que siguen el estilo de los primeros tiempos de Angkor Wat.
La siguiente terraza tiene un pequeño santuario a Nandi (el monte de Shiva) al sur, en mal estado. El camino que conectaba Vat Phou con Angkor salía al sur de este templo. Siguiendo hacia el oeste, sucesivas escaleras conducen a otras terrazas; entre ellas se encuentra un dvarapala que ha llegado a ser venerado como el rey Kammatha, mítico constructor del templo. En la estrecha terraza siguiente se encuentran los restos de seis pequeños santuarios destruidos por los cazadores de tesoros.
El camino culmina en siete gradas de piedra arenisca que se elevan hasta la terraza superior y el santuario central. El santuario está dividido en dos partes. La parte delantera, de piedra arenisca, está ahora ocupada por cuatro imágenes de Buda, mientras que la parte trasera de ladrillo, que antiguamente contenía el lingam central, está vacía.
Falta todo el tejado, aunque se ha añadido una cubierta improvisada en la parte delantera. El agua del manantial que emerge del acantilado a unos 60 m al suroeste del santuario se canalizaba a través de acueductos de piedra hacia la cámara trasera, bañando continuamente el lingam. El santuario es posterior a los palacios norte y sur, y pertenece al periodo Baphuon de finales del siglo XI. El lado este tiene tres puertas: de sur a norte, sus frontones muestran a Krishna derrotando al nāga Kaliya; a Indra montando a Airavata; y a Vishnu montando a Garuda. En el muro este hay dvarapalas y devatas. Las entradas al sur y al norte tienen dinteles interiores y exteriores, incluyendo uno al sur de Krishna destrozando a Kamsa.
Otras características de la zona son una biblioteca, en mal estado, al sur del santuario, y un relieve de la Trimurti al noroeste. Hay otras tallas más al norte: una huella de Buda en la cara del acantilado y rocas con forma de elefante y de cocodrilo. La piedra del cocodrilo ha adquirido cierta notoriedad por ser posiblemente el lugar de un sacrificio humano anual descrito en un texto chino del siglo VI. La identificación tiene cierta verosimilitud por la similitud de las dimensiones del cocodrilo con las de un ser humano.