Likt de flesta khmertempel är Vat Phou orienterad mot öster, även om axeln är riktad åtta grader söder om rakt österut, vilket främst bestäms av bergets och flodens orientering. Inklusive Barays (reservoarer) sträcker den sig 1,4 kilometer österut från källan, vid foten av en klippa 100 meter upp på berget. Sex kilometer öster om templet, på Mekongs västra strand, låg staden, medan en väg söderut från själva templet ledde till andra tempel och slutligen till staden Angkor.
När man närmar sig templet från staden (som det inte återstår mycket av) är den första delen av templet som man når en serie barays. Endast en av dem innehåller nu vatten, den 600 gånger 200 meter stora mittersta baray som ligger direkt längs templets axel. Det fanns reservoarer norr och söder om denna, och ytterligare ett par på vardera sidan av väggen mellan den mittersta baray och palatset.
De två palatsen står på en terrass på vardera sidan av axeln. De är kända som det norra och det södra palatset eller, utan bevis, herrarnas och kvinnornas palats (termen ”palats” är bara en konvention och deras syfte är okänt). Varje palats bestod av en rektangulär gård med en korridor och ingång på sidan mot axeln och falska dörrar i östra och västra ändarna. Båda byggnadernas gårdar har lateritväggar. Väggarna i det norra palatsets korridor är av laterit, medan väggarna i det södra palatset är av sandsten. Den norra byggnaden är nu i bättre skick. Palatsen utmärker sig främst genom sina frontoner och överstycken, som är i den tidiga Angkor Wat-stilen.
På nästa terrass finns en liten helgedom till Nandi (Shivas berget) i söder, i dåligt skick. Vägen som förband Vat Phou med Angkor gick söderut från detta tempel. Fortsätter man västerut leder successiva trappor upp till ytterligare terrasser; mellan dem står en dvarapala som har kommit att dyrkas som kung Kammatha, templets mytiska byggare. På den smala nästa terrass finns resterna av sex små helgedomar som förstörts av skattjägare.
Stigen kulminerar i sju sandstenstrappor som stiger till den övre terrassen och den centrala helgedomen. Helgedomen består av två delar. Den främre delen, av sandsten, upptas nu av fyra Buddha-bilder, medan den bakre delen av tegel, som tidigare innehöll den centrala lingamen, är tom.
Hela taket saknas, även om en provisorisk täckning har lagts till på framsidan. Vatten från den källa som kommer upp ur klippan cirka 60 meter sydväst om helgedomen leddes längs stenakvadukter in i den bakre kammaren och badade kontinuerligt lingamen. Helgedomen är senare än de norra och södra palatsen och tillhör Baphuon-perioden från det senare 1000-talet. Den östra sidan har tre dörröppningar: från söder till norr visar deras frontoner Krishna som besegrar nāga Kaliya, Indra som rider på Airavata och Vishnu som rider på Garuda. På den östra väggen finns dvarapalas och devatas. Ingångarna i söder och norr har inre och yttre överstycken, bland annat ett i söder som visar Krishna som sliter Kamsa i stycken.
Ovriga inslag i området är ett bibliotek, i dåligt skick, söder om helgedomen, och en relief av Trimurti i nordväst. Det finns andra ristningar längre norrut: ett Buddha-fotspår på en klippvägg och stenblock formade för att likna elefanter och en krokodil. Krokodilstenen har fått ett visst rykte eftersom den möjligen är platsen för ett årligt människooffer som beskrivs i en kinesisk text från det sjätte århundradet. Identifikationen är trovärdig på grund av att krokodilens dimensioner liknar en människas.