Az alap 1969-ig nagyrészt inaktív volt, amikor John M. Olin-t megzavarta a Willard Straight Hall átvétele alma materében, a Cornell Egyetemen. 80 éves korában úgy döntött, hogy idejét és forrásait a szabadpiaci rendszer megőrzésére kell fordítania.
Az alapítvány leginkább a jog és közgazdaságtan mozgalom korai támogatásáról és finanszírozásáról nevezetes, amely tudományág az ösztönzőkön alapuló gondolkodást és a költség-haszon elemzést alkalmazza a jogelmélet területén. Olin úgy vélte, hogy a jogi egyetemek méretüknél fogva aránytalanul nagy hatást gyakorolnak a társadalomra, ezért úgy döntött, hogy finanszírozásának nagy részét oda összpontosítja.
Az alapítvány ügyvezető igazgatója a korai években a konzervatív aktivista Michael S. Joyce volt, aki a hasonló Bradley Alapítvány élére távozott. William E. Simon, a tőkeáttételes kivásárlás úttörője, aki Richard Nixon és Gerald Ford elnökök alatt az Egyesült Államok pénzügyminisztere volt, 1977-től 2000-ben bekövetkezett haláláig volt az alapítvány elnöke. Gyakran beszélt az alapítványnak az “elhárítás” támogatása iránti elkötelezettségéről. A konzervatív tudós James Piereson volt az utolsó ügyvezető igazgató és titkár.
Az alapítvány olyan konzervatív gondolkodókat támogatott, mint Heather Mac Donald a Manhattan Institute-tól; Mac Donald ennek a New York-i székhelyű intézménynek a John M. Olin Fellow-ja. 2005-ben, hosszú távú terveket követve, az alapítvány bejelentette utolsó támogatásait, és bezárta kapuit. Az alapítvány ugyanabban az évben zárt be, mint a Franklin W. Olin Alapítvány, amelyet John Olin apja, Franklin W. Olin alapított. A Franklin W. Olin Alapítvány szintén adományozói szándék miatt zárt be, de a két alapítvány teljesen független volt és nem állt kapcsolatban egymással, kivéve az alapítóik családi kapcsolatát.
A Philanthropy Roundtable szerint az Olin Alapítvány “több száz millió dollárt osztott szét tudósoknak, agytrösztöknek, kiadványoknak és más szervezeteknek”, és “alakította az 1980-as években először láthatóvá vált modern konzervatív mozgalom irányát és segítette annak növekedését”. A New York Observer szerint az alapítvány “negyedszázadon át osztott támogatásokat konzervatív agytrösztöknek és értelmiségieknek – a mai burjánzó jobboldali mozgalom építészeinek”.”
.