První hrad byl postaven buď na konci 14., nebo na počátku 15. století, snad jej začal stavět Henry Sinclair, hrabě z Orkney, baron z Roslinu (asi 15. století). 1345-1400). rod Sinclairů neboli St Clare byl francouzského původu a Roslin držel od roku 1280. Hrad byl postaven na skalnatém ostrohu nedaleko místa bitvy u Roslinu, kde Skotové v roce 1303 porazili Angličany. Jindřichův syn Jindřich, 2. hrabě z Orknejí (asi 1375-1422), postavil v jihozápadním rohu novou obdélníkovou pevnost s kulatými rohy, na jejíž nádvoří se vcházelo po padacím mostě přes umělý příkop, který umožňoval přístup k pendlu v malém severním areálu.
V 15. století bylo na hradě skriptorium a pět rukopisů svatého Claira z roku 1488 se nachází ve Skotské národní knihovně. Patří mezi ně i rukopis Rosslyn-Hay, který je považován za nejstarší dochované dílo ve skotské próze. Hrad byl v roce 1452 poškozen domácím požárem. Legenda vypráví, že během domácího požáru byl hrabě v konsternaci kvůli svým cenným rukopisům, které však jeho kaplan spustil z okna do bezpečí.
Roslin byl vážněji poškozen hrabětem z Hertfordu, který hrad vypálil během války o Drsné dvoření v roce 1544. Hradní pevnost byla téměř úplně zničena, ačkoli její jediná zbývající zřícenina je stále patrná.
Hrad byl koncem 16. století přestavěn. Do úbočí skály bylo vestavěno nové pětipatrové východní pásmo a přestavěna byla i brána, tentokrát se stálým kamenným mostem. V roce 1591 laird z Roslinu propadl a hrad držel William Leslie pro hraběte z Huntly. Vzpurný hrabě Bothwell zůstal a narychlo odešel, přičemž za sebou zanechal truhlu s oblečením a stříbrnými talíři.
Vrchní část východního pásma byla v roce 1622 renovována, s renesančními detaily a řezbami na dveřích a okenních obkladech. V roce 1650 Roslin opět utrpěl dělostřeleckým útokem Cromwellova velitele ve Skotsku generála Moncka. V roce 1688 jej dále poškodil reformátorský dav.
V 18. století stavba chátrala, i když část východního traktu zůstala vždy obyvatelná.
James Erskine zdědil panství Rosslyn a Dysart v roce 1789 po svém bratranci Jamesi Patersonovi St Clairovi, načež přijal příjmení St Clair-Erskine. V roce 1805 zdědil titul hraběte z Rosslynu (vytvořený roku 1801 pro Alexandra Wedderburna); od tohoto data je panství Rosslyn v držení hraběte z Rosslynu.
V letech 1982-1988 byl východní trakt restaurován architekty Simpsonem a Brownem. Současný majitel, The Rt Hon. The 7th Earl of Rosslyn, potomek Sinclairů, pronajímá hrad jako rekreační objekt prostřednictvím společnosti Landmark Trust. Hrad je zapsán na seznam památek a je památkově chráněn jako objekt kategorie A.