El nombre de la ciudad recuerda al coronel Federico Rauch (1790-1829), militar alemán que se incorporó al Ejército Argentino en 1819 y que participó de varias expediciones a la campaña bonaerense. Muerto en el combate de La Vizcacheras el 28 de marzo de 1829.

Una Ley promulgada en julio de 1865, durante el gobierno de Mariano Saavedra, estableció la creación del partido de Rauch. Nombradas sus primeras autoridades se levantó un poblado que sería la futura cabecera del partido. La traza y el reparto de los terrenos en las cercanías del arroyo Chapaleufú se concretaron en 1872. La inauguración de la línea perteneciente al Ferrocarril Sud, que unía Las Flores con Tandil y que pasaba por el pueblo de Rauch, significó un impulso para el desarrollo zonal e indujo a los vecinos a reclamar el traslado de la municipalidad el poblado.