Mayer wurde am 9. September 1819 als Sohn eines Richters in Esslingen geboren. Nach dem Schulbesuch u.a. 1835 bis 1837 in Stuttgart studierte er von 1837 bis 1842 Rechtswissenschaften in Tübingen. Während des Studiums lernte er dabei zahlreiche spätere politische Mit- und Gegenspieler kennen, darunter August Oesterlen (1819-1893), Julius Hölder (1819-1887) und Adolf Seeger (1815-1865). Anschließend war er kurz im Staatsdienst tätig, bevor er ab 1845 als Geschäftsmann und Fabrikant in Esslingen arbeitete. Dank einer Erbschaft seiner zweiten Gattin, der Stuttgarterin Emilie Zenneck (1822-1901), in den 1860er Jahren war er schließlich wirtschaftlich unabhängig, sodass er sich ganz der Politik widmen konnte.
Während der Revolution 1848/49 gehörte Mayer zu den Gründern des Vaterländischen Vereins in Esslingen. Im Laufe des Revolutionsjahres entwickelte er sich jedoch nach links und wurde bald zu einem der führenden Demokraten des Landes. Schon 1848 hatte er sich in Esslingen als Ersatzkandidat für ein Mandat in der Paulskirche beworben. Nachdem nun im Juni 1849 der zunächst gewählte Esslinger Abgeordnete ausschied, rückte Mayer nach, wodurch er noch für eine Woche dem jetzt in Stuttgart tagenden Rumpfparlament angehörte. War Mayer schon zuvor Ende Mai 1849 an der Reutlinger Pfingstversammlung als Redner aufgetreten, so war er nach der Sprengung des Rumpfparlaments von der Notwendigkeit revolutionären, d.h. militärischen Handelns zur Durchsetzung der Reichsverfassung überzeugt. Folglich versuchte er als Reichskommissar im Auftrag der Reichsregentschaft, die Bewaffnung der Bevölkerung in Oberschwaben zu organisieren. Der Versuch scheiterte schnell, Mayer ging daraufhin in die Schweiz ins Exil.
Hier wirkte er als Lehrer in Wabern bei Bern und als Goldwarenfabrikant in Neuenburg. Vor allem aber studierte er das politische System der Schweiz, das ihm zum Vorbild wurde, als er nach der Verjährung seiner Strafe – in Württemberg war er während seines Exils in Abwesenheit zu 20 Jahren Haft verurteilt worden – 1864 nach Stuttgart zurückkehrte.
Sofort übernahm er mit Ludwig Pfau (1821-1894) und Julius Haußmann (1816-1889) die Redaktion des in Stuttgart erscheinenden „Beobachters“. Als Redakteur verstand sich Mayer dabei vor allem als Diener der Freiheit, die auch in der national-politischen Diskussion der 1860er Jahre immer den zentralen Stellenwert einnehmen müsse. Dementsprechend solle, so Mayer, auch in Deutschland eine Art Eidgenossenschaft entstehen, also ein föderativer Zusammenschluss republikanisch verfasster Freistaaten, wobei Mayer jegliche österreichische oder preußische Vorherrschaft ablehnte. Auch forderte er in Deutschland die Schaffung eines Milizheeres nach dem Vorbild der Schweiz. Für den Augenblick wünschte er nicht unmittelbar die Beseitigung der monarchisch-konstitutionellen Staatsform. Doch müsse in dieser ein starkes Parlament vorhanden sein, das nach dem allgemeinen, gleichen und direkten Wahlrecht gewählt werde. Gleichzeitig verlangte Mayer, dass alle Politiker aus dem öffentlichen Leben ausscheiden sollten, die an der Durchsetzung der Reaktion beteiligt gewesen waren.
Im Zuge der Krise um Schleswig und Holstein Mitte der 1860er Jahre forderte Mayer die Schaffung eines eigenständigen Staates Schleswig und Holstein unter Leitung des Herzogs von Augustenburg. Zugleich sollten sich alle konstitutionellen Mittelstaaten zu einer Konföderation zusammenschließen und ein Gegengewicht zu Preußen und Österreich bilden. Hatte Mayer ursprünglich seine Distanz sowohl zu Österreich wie auch zu Preußen betont, so stellte er sich im „Beobachter“ während des deutschen Bruderkrieges 1866 hinter Österreich, das er als den Angegriffenen sah. Preußen dagegen mit Otto von Bismarck (1815-1890) an der Spitze schilderte er seinen Lesern als Rechtsbrecher, dem es entgegenzutreten gelte.
An seiner scharfen Kritik an Preußen hielt er auch nach der Niederlage der Württemberger an der Seite Österreichs weiter fest. Das Ziel der Preußen bestehe lediglich darin, Süddeutschland unterjochen zu wollen. Dementsprechend hatte er keinerlei Verständnis für die Vertreter des rechten Liberalismus, die seiner Ansicht nach einen Waffenstillstand geradezu einforderten, die – polemisch zugespitzt – darum bettelten, Preußen werden zu wollen. In diesem Zusammenhang kam es zur endgültigen Spaltung der Fortschrittspartei in Württemberg. Diese hatte sich bereits seit 1864 abgezeichnet, nunmehr trennte sie sich aber unwiederbringlich in die nationalliberale Deutsche Partei mit Hölder und Robert Römer (1823-1879) als Spitzenrepräsentanten und die Demokraten, die von Mayer und Haußmann geführt wurden. Wollte die Deutsche Partei mit Preußen verhandeln, so rief Mayer zu einer Art Guerilla-Krieg gegen die Preußen auf. Gegen die preußischen Zündnadelgewehre, so Mayer, sollten seine Landsleute mit der nächtlich gebrauchten Axt vorgehen. Auch gründete Mayer bereits Anfang Juli 1866 in Stuttgart einen Wehrverein, der vom Landtag die Durchführung militärischer Jugenderziehung und einer allgemeinen Volksbewaffnung forderte.
Aus diesen Plänen wurde freilich nicht viel, vielmehr schloss Württemberg mit Preußen Frieden bzw. verband sich mit der Hegemonialmacht 1866/67 in den Schutz- und Trutzbündnissen, in deren Gefolge es in Württemberg zur Einführung der preußischen Wehrverfassung kam. Auch wirtschaftlich arbeitete Württemberg durch die Erneuerung des Zollvereins jetzt eng mit Preußen zusammen. Alle drei Entscheidungen wurden von Mayer bekämpft. Als Alternativmodell forderte er entsprechend den Bestimmungen des Prager Friedens zwischen Preußen und Österreich den Zusammenschluss der Staaten südlich des Mains zu einem Südbund. Dieser sollte ein gemeinsames Parlament besitzen, dessen Aufgabe es auch war, sich mit außenpolitischen Fragen zu befassen. Zudem sollte dieses Parlament mit dem Norddeutschen Reichstag und mit dem Parlament Österreichs zu einem Reichsrat zusammentreten, um auf dieses Weise die deutsche Einheit voranzubringen.
Mayer, der 1868 in den Stuttgarter Landtag gewählt wurde, entwickelte außerdem ein innenpolitisches Reformprogramm. So wünschte er die Schaffung eines Ein-Kammer-Parlaments, das über ein umfassendes Budget-Recht verfügen sollte. Gleichzeitig forderte er die Abschaffung sämtlicher Adelsprivilegien. Im Rahmen einer Gemeindereform sollte schließlich das Institut der lebenslang gewählten Schultheißen ebenfalls abgeschafft werden.
Im Jahr 1870 gelang es Mayer in einer Unterschriftenkampagne 141.000 Unterschriften gegen das neue Dienstpflichtgesetz, das sich am preußischen Heeresreglement orientierte, zu sammeln. Damit stand er auf dem Höhepunkt seiner Popularität in der Bevölkerung: Niemand, so die Einschätzung des nationalliberalen Parlamentariers Gottlob Egelhaaf (1848-1934), habe in Schwaben seit dem Bauernkrieg derart erfolgreich mobilisiert wie Mayer. Mit dem Ausbruch des deutsch-französischen Krieges kippte die Stimmung jedoch schlagartig. Hatten bis dahin die Demokraten die Regierung unter Druck setzen können, gewann fortan die Deutsche Partei an Zulauf. Vergeblich warb Mayer im „Beobachter“ kurzzeitig für die Neutralität der süddeutschen Staaten. Am Ende sah er sich vielmehr gezwungen, in der Zweiten Kammer seinerseits der Bewilligung der Kriegskredite zuzustimmen. Kurz danach löste die Regierung den Landtag auf und Mayer wurde abgewählt.
Anschließend zog er sich für einige Jahre zurück, jedoch wurde er 1876/77 bis 1882 erneut in den Landtag gewählt. Von 1881 bis 1887 gehörte er schließlich dem Reichstag an. Hier setzte er sich u.a. für eine weitere Demokratisierung der Reichsverfassung ein, indem er die Einführung von Diäten für die Reichstagsabgeordneten, die Herabsetzung des Wahlalters und die Verankerung von Grundrechten in der Reichsverfassung forderte. Auch bekämpfte er Ausnahmegesetze wie das Sozialistengesetz. Gleichzeitig gehörte er 1885 in Stuttgart zu den Gründern des dortigen Zweigvereins der internationalen Schiedsgerichts- und Friedensgesellschaft an. Genauso engagierte er sich in den ausgehenden 1880er Jahren für den Ausbau demokratischer Bezirksvereine, wodurch er die Grundlage für den Wiederaufstieg der Demokraten in den 1890er Jahren schuf.
Mayer starb am 14. Oktober 1889 an den Folgen eines Wundbrandes, aufgrund dessen ihm bereits ein Fuß hatte abgenommen werden müssen. Er wurde auf dem Fangelsbachfriedhof in Stuttgart beigesetzt.
Seinen Zeitgenossen galt Mayer als vielseitig interessierter, durchaus gemütvoller Mensch. Neben seinem politischen Wirken ist er auch als Dichter hervorgetreten. So verfasste er eine breite Fülle von Liebesgedichten, Frühlings- sowie Stimmungsbildern und schließlich noch 1888 das Schauspiel „Die Weiber von Schorndorf“, das zum 200-jährigen Jubiläum der Verteidigung der Stadt Schorndorf durch resolute Bürgerinnen erschienen ist.