Le premier château a été construit à la fin du 14e ou au début du 15e siècle, peut-être commencé par Henry Sinclair, comte d’Orkney, baron de Roslin (vers 1345-1400). La famille Sinclair, ou St Clare, était d’origine française et tenait Roslin depuis 1280. Le château a été construit sur un promontoire rocheux près du site de la bataille de Roslin, où les Écossais ont vaincu les Anglais en 1303. Le fils d’Henry, Henry, 2e comte d’Orkney (vers 1375-1422) a construit un nouveau donjon rectangulaire à coins ronds à l’angle sud-ouest.On pénétrait dans la cour par un pont-levis au-dessus d’un fossé artificiel, donnant accès à un pendentif dans la petite rangée nord.
Le château contenait un scriptorium au cours du 15e siècle, et cinq manuscrits de St Clair, datant de 1488, se trouvent à la Bibliothèque nationale d’Écosse. Parmi eux, le manuscrit Rosslyn-Hay, considéré comme le plus ancien ouvrage en prose écossaise encore existant. Le château a été endommagé par un incendie domestique en 1452. Selon la légende, pendant l’incendie domestique, le comte était consterné à cause de ses précieux manuscrits, mais ils ont été descendus en sécurité depuis une fenêtre par son aumônier.
Roslin a été plus gravement endommagé par le comte de Hertford, qui a brûlé le château pendant la guerre du Rough Wooing en 1544. Le donjon fut presque totalement détruit, bien que son unique mur en ruine soit encore visible.
Le château fut reconstruit à la fin du XVIe siècle. Une nouvelle rangée est de cinq étages a été construite dans le côté du rocher, et la guérite a été reconstruite, cette fois avec un pont de pierre permanent. En 1591, le Laird of Roslin fut confisqué et le château fut tenu par William Leslie pour le comte de Huntly. Le comte rebelle de Bothwell resta, et partit précipitamment en laissant derrière lui ses coffres avec des vêtements et de l’argenterie.
La partie supérieure de la rangée est fut rénovée en 1622, avec des détails renaissance et des sculptures sur les entourages de portes et de fenêtres. Roslin a de nouveau souffert de l’artillerie du commandant de Cromwell en Écosse, le général Monck, en 1650. Il fut encore endommagé par une foule réformiste en 1688.Au 18ème siècle, la structure était délabrée, bien qu’une partie de la rangée est soit toujours restée habitable.
James Erskine hérita des domaines de Rosslyn et de Dysart en 1789, de son cousin James Paterson St Clair, sur lequel il adopta le nom de famille de St Clair-Erskine. En 1805, il hérite du titre de comte de Rosslyn (créé en 1801 pour Alexander Wedderburn) ; depuis cette date, le domaine de Rosslyn est en possession du comte de Rosslyn.
De 1982 à 1988, la rangée est a été restaurée par les architectes Simpson et Brown.Le propriétaire actuel, The Rt Hon. The 7th Earl of Rosslyn, un descendant des Sinclair, loue le château comme logement de vacances via le Landmark Trust. Le château est un monument ancien répertorié et un bâtiment classé de catégorie A.