Der Fonds war bis 1969 weitgehend inaktiv, als John M. Olin durch die Übernahme der Willard Straight Hall an seiner Alma Mater, der Cornell University, beunruhigt war. Im Alter von 80 Jahren beschloss er, dass er seine Zeit und seine Ressourcen in den Erhalt des Systems der freien Marktwirtschaft investieren müsse.
Die Stiftung ist vor allem für ihre frühe Unterstützung und Finanzierung der Bewegung für Recht und Wirtschaft bekannt, einer Disziplin, die anreizbasiertes Denken und Kosten-Nutzen-Analysen auf das Gebiet der Rechtstheorie anwendet. Olin war der Ansicht, dass die juristischen Fakultäten angesichts ihrer Größe einen unverhältnismäßig großen Einfluss auf die Gesellschaft haben, und beschloss daher, den Großteil seiner Mittel dorthin zu lenken.
Der Geschäftsführer der Stiftung in den ersten Jahren war der konservative Aktivist Michael S. Joyce, der dann die Leitung der ähnlichen Bradley Foundation übernahm. William E. Simon, ein Pionier des Leverage Buyout, der unter den Präsidenten Richard Nixon und Gerald Ford Finanzminister der Vereinigten Staaten war, war von 1977 bis zu seinem Tod im Jahr 2000 Präsident der Stiftung. Er sprach häufig über das Engagement der Stiftung zur Unterstützung der „Gegenspionage“. Der konservative Gelehrte James Piereson war der letzte geschäftsführende Direktor und Sekretär.
Die Stiftung unterstützte konservative Denker wie Heather Mac Donald vom Manhattan Institute; Mac Donald ist John M. Olin Fellow an dieser in New York City ansässigen Einrichtung. Im Jahr 2005 gab die Stiftung nach langjährigen Plänen ihre letzten Förderungen bekannt und schloss ihre Türen. Die Stiftung wurde im selben Jahr geschlossen wie die Franklin W. Olin Foundation, die von John Olins Vater, Franklin W. Olin, gegründet wurde. Die Franklin W. Olin Foundation wurde ebenfalls aus Gründen des Spenderwillens geschlossen, aber die beiden Stiftungen waren völlig unabhängig und nicht miteinander verwandt, abgesehen von der familiären Verbindung ihrer Gründer.
Nach Angaben des Philanthropy Roundtable hat die Olin Foundation „Hunderte von Millionen Dollar an Wissenschaftler, Denkfabriken, Publikationen und andere Organisationen verteilt“ und „die Richtung der modernen konservativen Bewegung, die in den 1980er Jahren erstmals in Erscheinung trat, geprägt und ihr Wachstum gefördert.“ Dem New York Observer zufolge verteilte die Stiftung „ein Vierteljahrhundert lang Zuschüsse an konservative Denkfabriken und Intellektuelle – die Architekten der sich heute ausbreitenden rechten Bewegung.“