Rudolf Gehring wurde 1888 im damals noch selbstständigen Feuerbach geboren. Nach dem Besuch der örtlichen Volksschule wurde er 1902 Mitarbeiter in einer Stuttgarter Reißzeugfabrik, mit 17 Jahren trat er der Gewerkschaft bei, wenige Jahre später auch der Sozialdemokratischen Partei Deutschlands (SPD). Von 1916 bis 1918 diente Gehring als Soldat im Ersten Weltkrieg, unmittelbar nach seiner Rückkehr aus dem Krieg wurde er Mitglied des Vollzugsauschusses des Arbeiterrats Groß-Stuttgart. Zwischen 1919 und 1920 stand Gehring schließlich als Nachfolger von Hermann Zernicke (1869-1944) an der Spitze des Landesauschusses der Arbeiterräte in Württemberg. In dieser Funktion unterstützte er die Politik des mehrheitssozialdemokratischen Ministerpräsidenten Wilhelm Blos (1849-1927), das heißt, er befürwortete die Zusammenarbeit der SPD mit bürgerlichen Kräften, wogegen er ein stärkeres Abdriften der Revolution nach links ablehnte.
Gleichzeitig arbeitete Gehring bis 1921 als Dreher bei den Bosch-Werken, bevor er zwei Jahre lang als SPD-Parteisekretär tätig war. Dagegen scheiterte eine Kandidatur Gehrings für den Stuttgarter Landtag. Dies gab ihm die Möglichkeit, sich auf seine Tätigkeit im Gemeinderat Feuerbachs zu konzentrieren. Hier hatte er während 14 Jahren den Vorsitz der SPD-Gemeinderatsfraktion inne und setzte sich in besonderem Maße für die Förderung von Feuerbach als Industriestandort ein. Freilich wurde er 1933 von den Nationalsozialisten gezwungen, jegliches kommunalpolitisches Engagement aufzugeben. Jedoch blieb er während der gesamten NS-Diktatur vor weitergehenden Nachstellungen verschont. Beruflich hatte sich Gehring bereits 1923 neu orientiert. In diesem Jahr wurde er Geschäftsführer und schließlich Mitinhaber eines Schotterwerkes. Diese Tätigkeit sollte er erst 1945 aufgeben, aufgrund zunehmend schlechter laufender Geschäfte arbeitete er seit 1938/39 zudem noch als Steuerberater.
Da politisch unbelastet, konnte Gehring ab 1945 am demokratischen Neuaufbau gleich auf drei verschiedenen Ebenen mitwirken.
Zunächst einmal brachte er sich auf der kommunalen Ebene ein. So wurde er 1945 vom neuen Stuttgarter Oberbürgermeister Arnulf Klett (1905-1974) zum Bezirksbürgermeister Feuerbachs, das 1933 nach Stuttgart zwangseingemeindet worden war, ernannt. Zudem gehörte er 1945/46 dem Beirat, das heißt dem ersten – noch ernannten – Gemeinderat Stuttgarts in der Nachkriegszeit, an, anschließend war er 13 Jahre lang Vorsitzender der SPD-Ratsfraktion. Allerdings unterlag er 1946 Klett als Kandidat bei den ersten demokratischen Oberbürgermeisterwahlen.
Zweitens gestaltete Gehring den Neuaufbau als hoher Ministerialbeamter mit. Zwar scheiterte eine Berufung Gehrings als Hauptabteilungsleiter mit der Zuständigkeit für Eisenbahn und Verkehr im Wirtschaftsministerium Württemberg-Badens am Einspruch des christdemokratischen Ministers Josef Andre (1879-1950), doch berief Innenminister Fritz Ulrich (1888-1969) von der SPD seinen Parteifreund Gehring im Februar 1946 zum Polizeidirektor für Württemberg-Baden. Ab Mai 1946 war Gehring, zuletzt als Ministerialrat, bis zu seiner Pensionierung 1952 im Innenministerium für die Bereiche Bau-, Siedlungs- und Wohnungswesen sowie für den Straßenbau und das Feuerlöschwesen zuständig.
Drittens stieg Gehring nunmehr auch zu den führenden Repräsentanten seiner Partei auf Landesebene auf: So wurde er 1946 zunächst in die Verfassunggebende Landesversammlung und schließlich in den Landtag von Württemberg-Baden gewählt. Als Fraktionsvorsitzender der SPD im Stuttgarter Parlament hatte Gehring in der Folge maßgeblichen Einfluss auf die Bildung des zweiten Kabinetts von Reinhold Maier (1889-1971), bei dem es sich zugleich um die erste von den Deutschen gewählte Regierung der Nachkriegszeit handelte. Mit Nachdruck befürwortete Gehring die Bildung einer Allparteien-Regierung, da seiner Überzeugung nach nur durch gemeinsame Anstrengungen aller Parteien die Nachkriegsnot überwunden werden könne. Dies könne, so Gehring in der Generaldebatte des Landtags am 20. Dezember 1946 weiter, eine lediglich von zwei Parteien getragene Regierung nicht leisten; um gemeinsam gegen die Not der Zeit vorzugehen, müssten jedoch alle Parteien Zugeständnisse machen. Daher war Gehring auch nicht bereit, den Führungsanspruch der CDU zu akzeptieren, die nach ihrem Wahlsieg neben dem Amt des Ministerpräsidenten und weiteren Ressorts zusätzlich das Amt des Kultministers für sich einforderte. Wenngleich Gehring keinen Sozialdemokraten als Ministerpräsidenten durchbrachte, so blieb aufgrund der Intervention der SPD der liberale Ministerpräsident Maier im Amt, wogegen das Kultministerium an den Christdemokraten Wilhelm Simpfendörfer (1888-1973) fiel. Diese Entscheidung blieb Gehring suspekt. So meinte er Simpfendörfer mit großem Nachdruck darauf hinweisen zu müssen, dass eines der wichtigsten Unterrichtsziele in der Erziehung der Jugend zur demokratischen Lebensform sowie zur politischen und religiösen Toleranz bestehe. In diesem Sinne gelte es, auch die Lehrkräfte auf ihre Eignung und demokratische Zuverlässigkeit zu prüfen, genauso wie im Schulwesen jeglichem Kastengeist entgegengetreten werden müsse. – Die Vorbehalte Gehrings gegen einen christdemokratischen Kultminister lagen wahrscheinlich nicht zuletzt in der Person Simpfendörfers begründet, der tatsächlich im März 1947 zurücktreten musste, weil er nicht nur 14 Jahre zuvor als Abgeordneter des Christlich-Sozialen Volksdienstes dem Ermächtigungsgesetz zugestimmt hatte, sondern außerdem noch bei der – ohnehin nicht mehr freien – Reichstagswahl 1936 dezidiert zur Wahl Hitlers aufgerufen hatte.
Außer im Schulwesen forderte Gehring, dass ein demokratischer Geist auch in der Polizeiverwaltung Einzug halten müsse, genauso wie die Einübung demokratischer Werte und Normen durch eine Stärkung der Selbstverwaltungsrechte von Kreisen und Kommunen erfolgen solle.
Vor allem aber entwarf Gehring namens seiner Partei im Dezember 1946 ein umfassendes wirtschafts- und sozialpolitisches Programm. An dessen Beginn stand die Aufforderung an die Alliierten, die Deutschen noch mehr bei der Versorgung mit Nahrungsmitteln und Brennstoffen zu unterstützen, sodass es ihnen in Zukunft möglich sein werde, selbst für ihren Unterhalt aufzukommen. Jedoch forderte Gehring darüber hinaus zugleich eine gerechte Verteilung der Nahrungsmittel. In diesem Sinne ermahnte er die Landwirtschaft, ihrer Abgabepflicht nachzukommen. Außerdem versprach sich Gehring eine Steigerung der landwirtschaftlichen Produktivität durch eine Bodenreform.
In der Wirtschaft sollte nach Überzeugung Gehrings der Arbeitnehmer gleichberechtigt neben den Arbeitgeber gestellt werden. Aus diesem Grunde forderte er eine paritätische Mitbestimmung in allen Betriebsangelegenheiten durch die Gewerkschaften. Um das sozialdemokratische Profil in der Wirtschaftspolitik zu stärken, drängte er außerdem mit Erfolg auf die Besetzung des Wirtschaftsministeriums mit einem SPD-Politiker. Überaus wichtig erschien ihm zudem die Einrichtung eines eigenständigen Arbeitsministeriums, das Gehring gleichsam als Anwalt der Arbeiterschaft innerhalb des Kabinetts verstand. Schließlich wünschte er 1946 umfassende gesetzliche Regelungen, um die finanziellen Belastungen, die aus der Niederlage im Zweiten Weltkrieg resultierten, gleichmäßig zu verteilen. D.h. er sah es als Aufgabe des Staates an, diejenigen stärker zu besteuern, die in ihrem Geld- oder Sachwertbesitz verhältnismäßig wenig geschädigt worden waren, um die Not anderer Mitbürger zu lindern.
Bemerkenswerterweise wagte sich der Landespolitiker Gehring 1946 auch auf das Feld der Außenpolitik. Hier wünschte er, eine Brücke nach England wie auch nach Frankreich bauen zu können. Insbesondere sah er im französischen Premierminister Léon Blum (1872-1950), der ebenfalls Sozialist war, einen Gesprächspartner. Blum habe zwar gefordert, so Gehring, dass Frankreich Kohle aus dem Ruhrgebiet erhalte und im Rheinland nie wieder eine gegen Frankreich gerichtete Aufrüstung stattfinden dürfe, doch habe er nicht auf Gebietsabtretungen im Rheinland an Frankreich bestanden. In diesem Zusammenhang stellte Gehring bereits 1946 Überlegungen über eine Europäisierung der Ruhrkohle an. Sein größter Wunsch an die Besatzungsmächte im Dezember 1946 war schließlich eine möglichst baldige Freilassung der noch im Ausland verbliebenen deutschen Kriegsgefangenen.
Wie schon 1946 hatte Gehring auch an der Jahreswende 1950/1951 maßgeblichen Einfluss auf die Bildung des dritten Kabinetts Maier. Die CDU war nunmehr, nachdem sie von der SPD als stärkster Kraft in Württemberg-Baden abgelöst worden war, in die Opposition gegangen. Bei den Wahlen zum Ministerpräsidenten standen sich der Sozialdemokrat Hermann Veit (1897-1973) und der Liberale Maier gegenüber, wobei beide Kandidaten die absolute Mehrheit der Stimmen verfehlten. Infolge von Gesprächen des Vorsitzenden der DVP-Landtagsfraktion Wolfgang Haussmann (1903-1989) mit Gehring einigten sich DVP und SPD auf eine gemeinsame Koalition, in der Maier weiterhin Ministerpräsident blieb, die SPD jedoch die Kabinettsmehrheit stellte. Diese Koalition wurde zum Vorläufer für das sozialliberale Bündnis, das 1952/53 zunächst auch den neu gegründeten Südweststaat Baden-Württemberg regierte.
Gehring schied bei den Landtagswahlen 1950 aus dem Parlament aus, da er die Überzeugung vertrat, dass seine Stellung als hoher Ministerialbeamter und Mitglied der Legislative nicht miteinander vereinbar sei. Jedoch kehrte er bereits 1952 in das Stuttgarter Parlament zurück und vertrat in der Folgezeit zwölf Jahre lang den Wahlkreis Vaihingen-Leonberg. Zugleich wirkte er als erster Vizepräsident des Parlaments. In diesem Amt hat Gehring in erster Linie repräsentative Aufgaben wahrgenommen, hierbei genoss er hohes Ansehen aufgrund seiner umfassenden Kenntnis der Geschäftsordnung und seines ausgleichenden Auftretens.
Als Gehring 1964 aus dem Landtag ausschied, hatte er eine Vielzahl von Ehrungen erhalten, darunter das große Bundesverdienstkreuz (1958), den Stern zum Bundesverdienstkreuz (1963), die Verfassungsmedaille des Landes Baden-Württemberg (1964) und nicht zuletzt die Bürgermedaille der Stadt Stuttgart (1972). Gehring starb 1980 und ist auf dem Friedhof seiner Heimatgemeinde Feuerbach beigesetzt.