Ensimmäinen linna rakennettiin joko 1300-luvun loppupuolella tai 1400-luvun alkupuolella, kenties Henry Sinclair, Orkney’n jaarli, Roslinin paroni (n. 1345-1400).Sinclairin eli St Claren suku oli ranskalaista alkuperää, ja se on pitänyt Roslinia hallussaan vuodesta 1280 lähtien. Linna rakennettiin kallioiselle niemekkeelle lähelle Roslinin taistelun paikkaa, jossa skotit voittivat englantilaiset vuonna 1303. Henrikin poika Henrik, Orkneyn 2. jaarli (n. 1375-1422) rakennutti lounaiskulmaan uuden suorakulmaisen, pyöreäkulmaisen linnoituksen, jonka sisäpihalle pääsi keinotekoisen ojan yli kulkevan vetosillan kautta, josta pääsi pienen pohjoisen alueen pendiin.
Linnassa oli 1400-luvun aikana skriptorium, ja Skotlannin kansalliskirjastossa säilytetään viittä St Clairin käsikirjoitusta vuodelta 1488. Näihin kuuluu Rosslyn-Hayn käsikirjoitus, jonka uskotaan olevan varhaisin säilynyt skotlantilainen proosateos. Linna vaurioitui tulipalossa vuonna 1452. Legendan mukaan kotipalon aikana jaarli oli kauhuissaan arvokkaiden käsikirjoitustensa vuoksi, mutta kappalainen laski ne turvaan ikkunasta.
Roslinin linnaa vahingoitti vakavammin Hertfordin jaarli, joka poltti linnan vuonna 1544 käydyn rovastikuntasodan aikana. Linnoitus tuhoutui lähes täysin, vaikka sen yksi jäljellä oleva raunioitunut muuri on yhä nähtävissä.
Linna rakennettiin uudelleen 1500-luvun lopulla. Uusi viisikerroksinen itäinen rivi rakennettiin kallion kylkeen, ja porttirakennus rakennettiin uudelleen, tällä kertaa pysyvällä kivisillalla. Vuonna 1591 Roslinin Laird of Roslin menetettiin, ja linna siirtyi William Leslien hallintaan Huntlyn jaarlin puolesta. Kapinallinen Bothwellin jaarli jäi, ja hän lähti kiireellä jättäen jälkeensä arkkunsa vaatteineen ja hopealevyineen.
Itäisen rintaman yläosa kunnostettiin vuonna 1622, ja ovia ja ikkunoita ympäröivät renessanssiajan yksityiskohdat ja kaiverrukset. Roslin kärsi jälleen Cromwellin Skotlannin komentajan, kenraali Monckin, tykistöstä vuonna 1650. Uudistusmielinen väkijoukko vahingoitti sitä entisestään vuonna 1688. 1700-luvulle tultaessa rakennus oli rappeutunut, vaikka osa itäisestä rintamamiestalosta on aina säilynyt asumiskelpoisena.
James Erskine peri Rosslynin ja Dysartin kartanot vuonna 1789 serkultaan James Paterson St Clairilta, minkä jälkeen hän otti käyttöön sukunimen St Clair-Erskine. Vuonna 1805 hän peri Rosslynin jaarlin arvonimen (luotu 1801 Alexander Wedderburnille); siitä lähtien Rosslynin kartano on ollut Rosslynin jaarlin hallussa.
Vuosina 1982-1988 itäisen alueen kunnostivat arkkitehdit Simpson ja Brown.
Vuosina 1982-1988 itäisen alueen kunnostivat arkkitehdit Simpson ja Brown.
Nykyaikainen omistaja, The Rt Hon. The 7th Earl of Rosslyn, joka on Sinclairien jälkeläisiä, vuokrasi linnaa loma-asuntojen vuokrausyhtiön (Landmark Trustin) kautta. Linna on Scheduled Ancient Monument ja A-luokan rakennus.