A legtöbb khmer templomhoz hasonlóan Vat Phou is kelet felé tájolt, bár a tengelye nyolc fokkal délre néz a keleti iránytól, amit elsősorban a hegy és a folyó tájolása határoz meg. A baray-okkal (víztározókkal) együtt 1,4 kilométerre húzódik keletre a forrás forrásától, egy 100 méter magasan lévő szikla tövében. A templomtól 6 kilométerre keletre, a Mekong nyugati partján feküdt a város, míg magától a templomtól délre egy út vezetett más templomokhoz és végül Angkor városába.
A város felől megközelítve (amelyből kevés maradt meg), a templom első része, amelyet elértünk, egy baray-sorozat. Ma már csak egy tartalmaz vizet, a 600 x 200 m-es középső baray, amely közvetlenül a templom tengelye mentén fekszik; ettől északra és délre víztározók voltak, és egy további pár a középső baray és a paloták közötti átjáró mindkét oldalán.
A tengely két oldalán egy-egy teraszon áll a két palota. Ezeket északi és déli palotának vagy – minden bizonyíték nélkül – férfi és női palotának nevezik (a “palota” kifejezés puszta konvenció, rendeltetésük ismeretlen). Mindegyik egy-egy téglalap alakú udvarból állt, a tengely felé eső oldalon folyosóval és bejárattal, a keleti és nyugati végeken pedig álkapukkal. Mindkét épület udvara laterit falakkal rendelkezik. Az északi palota folyosójának falai lateritból, míg a déli palota falai homokkőből készültek. Az északi épület ma már jobb állapotban van. A paloták főként a korai Angkor Wat stílusában készült lábazatukról és karzatukról nevezetesek.
A következő teraszon délre egy kis, rossz állapotban lévő Nandi (Siva hegye) szentély található. A Vat Phou-t Angkorral összekötő út ettől a templomtól délre futott. Nyugat felé haladva egymást követő lépcsők vezetnek fel további teraszokra; közöttük egy dvarapala áll, amelyet Kammatha királyként, a templom mitikus építőjeként tisztelnek. A következő keskeny teraszon a kincsvadászok által elpusztított hat kis szentély maradványai találhatók.
Az út hét homokkő lépcsőfoknál tetőzik, amelyek a felső teraszra és a központi szentélyre emelkednek. A szentély két részből áll. Az elülső, homokkőből készült részt jelenleg négy Buddha-kép foglalja el, míg a téglából készült hátsó rész, amely korábban a központi lingamot tartalmazta, üres.
A teljes tető hiányzik, bár az elülső részre rögtönzött fedést építettek. A szentélytől mintegy 60 méterre délnyugatra a sziklából feltörő forrás vizét kő vízvezetékeken keresztül a hátsó kamrába vezették, folyamatosan fürdetve a lingamot. A szentély későbbi, mint az északi és a déli palota, a későbbi 11. századi Baphuon-korszakból származik. A keleti oldalon három ajtónyílás található: délről észak felé haladva, oromzatukon a nāga Kaliyát legyőző Krishna, az Airavatán lovagló Indra és a Garudán lovagló Vishnu látható. A keleti falon dvarapalák és devaták láthatók. A déli és északi bejáratokon belső és külső karzatok vannak, köztük egy déli karzat, amely Krisnát ábrázolja, amint széttépi Kámsát.
A terület további jellemzői egy rossz állapotban lévő könyvtár a szentélytől délre, valamint a Trimurti domborműve északnyugatra. Északabbra további faragványok találhatók: egy Buddha-lábnyom a sziklafalban, valamint elefántot és krokodilt formázó sziklák. A krokodil kő némi hírnévre tett szert, mivel egy hatodik századi kínai szövegben leírt éves emberáldozat helyszíne lehetett. Az azonosításnak némi hihetőséget ad a krokodil méreteinek hasonlósága az emberéhez.