Le fonds est resté largement inactif jusqu’en 1969, lorsque John M. Olin a été perturbé par la prise de contrôle de Willard Straight Hall à son alma mater, l’université Cornell. A l’âge de 80 ans, il décida qu’il devait consacrer son temps et ses ressources à la préservation du système de libre marché.
La Fondation est surtout remarquable pour son soutien et son financement précoce du mouvement droit et économie, une discipline qui applique la pensée basée sur l’incitation et l’analyse coûts-bénéfices au domaine de la théorie juridique. Olin croyait que les facultés de droit avaient un impact disproportionné sur la société compte tenu de leur taille et, à cette fin, a décidé d’y concentrer la majorité de son financement.
Le directeur exécutif de la Fondation dans ses premières années était le militant conservateur Michael S. Joyce, qui a quitté pour diriger la Fondation Bradley similaire. William E. Simon, un pionnier du rachat par effet de levier qui a été secrétaire au Trésor des États-Unis sous les présidents Richard Nixon et Gerald Ford, a été président de la fondation de 1977 à sa mort en 2000. Il a souvent évoqué l’engagement de la fondation à soutenir la « contre-intelligence ». L’universitaire conservateur James Piereson a été le dernier directeur exécutif et secrétaire.
La fondation a soutenu des penseurs conservateurs comme Heather Mac Donald du Manhattan Institute ; Mac Donald est le John M. Olin Fellow de cette institution basée à New York. En 2005, suivant des plans de longue date, la fondation a annoncé ses dernières subventions et a fermé ses portes. La fondation a fermé ses portes la même année que la Franklin W. Olin Foundation, qui avait été créée par le père de John Olin, Franklin W. Olin. La Franklin W. Olin Foundation a également fermé ses portes pour des raisons liées à l’intention des donateurs, mais les deux fondations étaient totalement indépendantes et sans lien entre elles, à l’exception du lien familial de leurs fondateurs.
Selon le Philanthropy Roundtable, la Olin Foundation « a distribué des centaines de millions de dollars à des universitaires, des groupes de réflexion, des publications et d’autres organisations » et « a façonné l’orientation et aidé à la croissance du mouvement conservateur moderne qui a commencé à être visible dans les années 1980 ». Selon le New York Observer, la fondation a distribué « des subventions à des groupes de réflexion et à des intellectuels conservateurs – les architectes du mouvement de droite tentaculaire d’aujourd’hui – pendant un quart de siècle ».