El fondo estuvo prácticamente inactivo hasta 1969, cuando John M. Olin se vio perturbado por la toma de posesión de Willard Straight Hall en su alma mater, la Universidad de Cornell. A la edad de 80 años, decidió que debía dedicar su tiempo y recursos a preservar el sistema de libre mercado.
La Fundación es más notable por su temprano apoyo y financiación del movimiento de derecho y economía, una disciplina que aplica el pensamiento basado en los incentivos y el análisis coste-beneficio al campo de la teoría jurídica. Olin creía que las facultades de Derecho tienen un impacto desproporcionadamente grande en la sociedad dado su tamaño y, con este fin, decidió centrar la mayor parte de su financiación en ellas.
El director ejecutivo de la Fundación en sus primeros años fue el activista conservador Michael S. Joyce, que se marchó para dirigir la similar Fundación Bradley. William E. Simon, un pionero de las compras de apalancamiento que fue Secretario del Tesoro de los Estados Unidos con los presidentes Richard Nixon y Gerald Ford, fue presidente de la Fundación desde 1977 hasta su muerte en 2000. Con frecuencia hablaba del compromiso de la fundación de apoyar la «contrainteligencia». El académico conservador James Piereson fue el último director ejecutivo y secretario.
La fundación apoyó a pensadores conservadores como Heather Mac Donald, del Manhattan Institute; Mac Donald es la becaria John M. Olin de esta institución con sede en Nueva York. En 2005, siguiendo los planes de hace tiempo, la fundación anunció sus últimas subvenciones y cerró sus puertas. La fundación cerró el mismo año que la Franklin W. Olin Foundation, creada por el padre de John Olin, Franklin W. Olin. La Fundación Franklin W. Olin también cerró por razones de intención de los donantes, pero las dos fundaciones eran totalmente independientes y no estaban relacionadas, excepto por la conexión familiar de sus fundadores.
Según la Philanthropy Roundtable, la Fundación Olin «dispensó cientos de millones de dólares a académicos, grupos de reflexión, publicaciones y otras organizaciones» y «dio forma a la dirección y ayudó al crecimiento del movimiento conservador moderno que surgió por primera vez en la década de 1980.» Según el New York Observer, la Fundación distribuyó «subvenciones a grupos de reflexión e intelectuales conservadores -los arquitectos del actual movimiento de derechas- durante un cuarto de siglo».