Im Jahr 1951 traf sich im Gasthaus Johann Hirsch ein kleiner Kreis von sportbegeisterten Bewohnern von Groß-Gerungs zur Gründungsversammlung des Sportvereines. Initiator war Herr Karl MIEDLER.
Die weiteren Gründungsmitglieder waren: Norbert ADAM, Willibald HAIDER, Franz LAYER, Max MENHART und Ludwig VOGL. Als Vereinsfarben wurden orange/schwarz festgelegt. Im August erfolgte der Beitritt zum Niederösterreichischen Fußballverband und es wurde erstmals Meisterschaft gespielt. Im Jahr 1955 wurde unter dem Obmann Herrn Max Menhart der Bau des jetzigen Sportplatzes in Angriff genommen. Die Errichtung erfolgte mit Unterstützung der Gemeinde unter Bürgermeister Meisel sowie aus Mitteln des Sporttotos. Die Eröffnung erfolgte im September 1956.
Bald darauf wurden die ersten Kabinen errichtet und es erfolgte der Beitritt zur UNION. Seither lautet der offizielle Vereinsname: USV Groß-Gerungs. Am 1.8.1980 erfolgte der Spatenstich zur Errichtung der neuen Kabinenanlage sowie zur Versetzung des Hauptspielfeldes. Weiters wurden zwei Tennisplätze und ein Asphaltplatz für die Stockschützen gebaut. Der Dank des Vereines gilt noch heute dem damaligen Bürgermeister Ignaz Besenbäck, der leider die Fertigstellung nicht mehr erleben durfte. Im Jahr 2001, zum fünfzigjährigen Bestandsjubiläum, wurden Renovierungsarbeiten durchgeführt, eine Tribüne errichtet und ein gedeckter Zuschauerbereich geschaffen. Auch diesmal wurden wieder viele unentgeltliche Arbeitsstunden durch die Sportler und Funktionäre geleistet und auch die Stadtgemeinde Groß-Gerungs unter Bürgermeister Max Igelsböck und die Gewerbetreibenden des Ortes waren dem Sportverein wieder wohlwollend gesinnt.
Die Erfolge der Sektion Fußball, waren in den ersten Jahren bescheiden. Im Jahr 1959 musste der Meisterschaftsbetrieb wegen akuten Spielermangels sogar eingestellt werden. Erst 1965 wurde der Spielbetrieb unter Obmann Helmut Gruber wieder aufgenommen. Bereits 1969 dann der erste Höhepunkt mit dem Meistertitel in der 2.Klasse Waldviertel.