Det første slot blev bygget enten i slutningen af det 14. eller i begyndelsen af det 15. århundrede, måske påbegyndt af Henry Sinclair, jarl af Orkney, baron af Roslin (ca. 1345-1400). familien Sinclair, eller St Clare, var af fransk oprindelse og har haft Roslin siden 1280. Slottet blev bygget på et klippefremspring i nærheden af stedet for slaget ved Roslin, hvor skotterne besejrede englænderne i 1303. Henrys søn Henry, 2. jarl af Orkney (ca. 1375-1422) byggede et nyt rektangulært, rundhjørnet tårn i det sydvestlige hjørne, og man kom ind i gården via en vindebro over en kunstig grøft, der gav adgang til en pend i den lille nordlige række.
Slottet indeholdt et scriptorium i det 15. århundrede, og fem St Clair-manuskripter fra 1488 befinder sig på National Library of Scotland. Disse omfatter Rosslyn-Hay-manuskriptet, som menes at være det tidligste bevarede værk i skotsk prosa. Slottet blev beskadiget af en husbrand i 1452. Legenden fortæller, at jarlen under husbranden var i forfærdelse på grund af sine værdifulde manuskripter, men at de blev sænket i sikkerhed fra et vindue af hans kapellan.
Roslin blev mere alvorligt beskadiget af jarlen af Hertford, som brændte slottet under Rough Wooing-krigen i 1544. Borgen blev næsten fuldstændig ødelagt, selv om dens ene tilbageværende murruin stadig kan ses.
Borgen blev genopbygget i slutningen af det 16. århundrede. En ny østlig række på fem etager blev bygget ind i siden af klippen, og porthuset blev genopbygget, denne gang med en permanent stenbro. I 1591 blev Laird of Roslin fortabt, og slottet blev holdt af William Leslie for jarlen af Huntly. Den oprørske jarl af Bothwell blev boende og forlod stedet i en fart og efterlod sine kister med tøj og sølvplader.
Den øverste del af den østlige række blev renoveret i 1622 med renæssancedetaljer og udskæringer på dør- og vinduesindfatninger. Roslin led igen under artilleriet fra Cromwells øverstkommanderende i Skotland, general Monck, i 1650. Det blev yderligere beskadiget af en reformatorisk pøbel i 1688. i det 18. århundrede var bygningen forfalden, selv om en del af den østlige række altid har været beboelig.
James Erskine arvede Rosslyn- og Dysart-ejendommene i 1789 fra sin fætter James Paterson St Clair, hvorefter han tog efternavnet St Clair-Erskine til sig. I 1805 arvede han titlen som Earl of Rosslyn (oprettet 1801 for Alexander Wedderburn); siden den dato har Rosslyn-ejendommen været i Earl of Rosslyn’s besiddelse.
Fra 1982 til 1988 blev den østlige række restaureret af arkitekterne Simpson and Brown.
Den nuværende ejer, The Rt Hon. The 7th Earl of Rosslyn, en efterkommer af Sinclairs, udlejer slottet som feriebolig via Landmark Trust. Slottet er et opført på listen over fortidsminder og en kategori A-listet bygning.