Die erste Burg wurde entweder im späten 14. oder im frühen 15. Jahrhundert erbaut, vielleicht begonnen von Henry Sinclair, Earl of Orkney, Baron von Roslin (ca. 1345-1400). Die Familie Sinclair oder St. Clare war französischer Herkunft und besaß Roslin seit 1280. Die Burg wurde auf einem Felsvorsprung in der Nähe des Schauplatzes der Schlacht von Roslin errichtet, bei der die Schotten 1303 die Engländer besiegten. Henrys Sohn Henry, 2. Earl of Orkney (ca. 1375-1422) errichtete einen neuen rechteckigen Bergfried mit runden Ecken an der Südwestecke, der über eine Zugbrücke über einen künstlichen Graben betreten wurde und Zugang zu einem Pend im kleinen Nordbereich bot.
Im 15. Jahrhundert befand sich in der Burg ein Skriptorium, und fünf St. Clair-Manuskripte, die auf das Jahr 1488 zurückgehen, befinden sich in der National Library of Scotland. Darunter befindet sich auch das Rosslyn-Hay-Manuskript, das als das älteste erhaltene Werk in schottischer Prosa gilt. Die Burg wurde 1452 durch einen Hausbrand beschädigt. Die Legende besagt, dass der Earl während des Hausbrandes wegen seiner wertvollen Manuskripte in Panik geriet, diese aber von seinem Kaplan aus einem Fenster in Sicherheit gebracht wurden.
Roslin wurde durch den Earl of Hertford, der die Burg während des Krieges der Rough Wooing im Jahr 1544 niederbrannte, noch stärker beschädigt. Der Bergfried wurde fast vollständig zerstört, obwohl seine einzige verfallene Mauer noch zu sehen ist.
Die Burg wurde im späten 16. Jahrhundert wieder aufgebaut. Ein neuer fünfstöckiger Ostflügel wurde in den Felsen hineingebaut, und das Torhaus wurde neu errichtet, diesmal mit einer festen Steinbrücke. Im Jahr 1591 wurde der Laird of Roslin enteignet, und die Burg wurde von William Leslie für den Earl of Huntly gehalten. Der rebellische Earl of Bothwell blieb und verließ die Burg in aller Eile, wobei er seine Schatulle mit Kleidern und Tafelsilber zurückließ.
Der obere Teil der Ostseite wurde 1622 renoviert und mit Renaissance-Details und Schnitzereien an Tür- und Fenstereinfassungen versehen. Roslin wurde 1650 erneut durch die Artillerie von Cromwells Befehlshaber in Schottland, General Monck, beschädigt. Im 18. Jahrhundert war das Gebäude baufällig, obwohl ein Teil der Ostseite immer bewohnbar blieb.
James Erskine erbte die Ländereien Rosslyn und Dysart 1789 von seinem Cousin James Paterson St. Clair, woraufhin er den Nachnamen St. Clair-Erskine annahm. Im Jahr 1805 erbte er den Titel des Earl of Rosslyn (der 1801 für Alexander Wedderburn geschaffen wurde); seitdem ist das Rosslyn-Anwesen im Besitz des Earl of Rosslyn.
Von 1982 bis 1988 wurde die Ostseite von den Architekten Simpson und Brown restauriert. Der derzeitige Besitzer, The Rt Hon. The 7th Earl of Rosslyn, ein Nachfahre der Sinclairs, vermietet das Schloss über den Landmark Trust als Ferienunterkunft. Die Burg steht unter Denkmalschutz und ist ein denkmalgeschütztes Gebäude der Kategorie A.