Fond byl z velké části nečinný až do roku 1969, kdy Johna M. Olina vyrušilo převzetí Willard Straight Hall na jeho alma mater, Cornellově univerzitě. Ve věku 80 let se rozhodl, že musí svůj čas a prostředky vložit do zachování systému volného trhu.
Nadace je nejvýznamnější pro svou ranou podporu a financování hnutí law and economics, disciplíny, která aplikuje myšlení založené na pobídkách a analýzu nákladů a přínosů do oblasti právní teorie. Olin věřil, že právnické fakulty mají vzhledem ke své velikosti neúměrně velký vliv na společnost, a proto se rozhodl soustředit většinu svých finančních prostředků právě tam.
Výkonným ředitelem nadace byl v jejích prvních letech konzervativní aktivista Michael S. Joyce, který odešel do čela obdobné Bradleyho nadace. Od roku 1977 až do své smrti v roce 2000 byl prezidentem nadace William E. Simon, průkopník pákového výkupu, který byl ministrem financí Spojených států za prezidentů Richarda Nixona a Geralda Forda. Často hovořil o závazku nadace podporovat „kontrarozvědku“. Posledním výkonným ředitelem a tajemníkem byl konzervativní vědec James Piereson.
Nadace podporovala konzervativní myslitele, jako je Heather Mac Donaldová z Manhattan Institute; Mac Donaldová je stipendistkou Johna M. Olina v této newyorské instituci. V roce 2005 nadace podle dlouholetých plánů oznámila poslední granty a uzavřela svou činnost. Nadace byla uzavřena ve stejném roce jako Nadace Franklina W. Olina, kterou založil otec Johna Olina, Franklin W. Olin. Nadace Franklina W. Olina rovněž ukončila činnost z důvodů dárcovských záměrů, ale obě nadace byly zcela nezávislé a nesouvisely spolu, s výjimkou rodinného spojení jejich zakladatelů.
Podle Philanthropy Roundtable Olinova nadace „rozdala stovky milionů dolarů vědcům, think-tankům, publikacím a dalším organizacím“ a „formovala směr a napomáhala růstu moderního konzervativního hnutí, které se poprvé zviditelnilo v 80. letech 20. století“. Podle deníku New York Observer nadace po čtvrt století rozdělovala „granty konzervativním think-tankům a intelektuálům – architektům dnešního rozrůstajícího se pravicového hnutí“.
.