Weizsäcker wurde am 25. Februar 1853 in Stuttgart als Sohn eines evangelischen Theologen, der später zum Professor und Kanzler der Universität Tübingen aufgestiegen ist, geboren. Die Familie Weizsäcker fühlte sich deutschnationalem bzw. kleindeutsch-preußischem Denken verpflichtet. Folglich meldete sich der spätere Ministerpräsident, obwohl er gerade einen Sprach- bzw. Studienaufenthalt in Genf absolvierte, 1870 bei Ausbruch des deutsch-französischen Krieges freiwillig. Während des Krieges wurde er verwundet und stieg schließlich zum Fähnrich auf.
Anschließend studierte er 1871 bis 1876 in Tübingen, Leipzig und Berlin Rechtswissenschaften, das erste Staatsexamen konnte er 1877 wie auch das zweite Staatsexamen 1879 mit der Note II a – einer der bestmöglichen Bewertungen – abschließen. Auch in späteren Jahren wurde Weizsäcker allseits stets ein hohes Maß an juristischer Sachkenntnis zugesprochen. Den Einstieg in seine Berufslaufbahn bildete 1877 eine Tätigkeit als Assessoratsverweser beim Amtsgericht Stuttgart. Nach einer kurzen beruflichen Zwischenstation in Calw war er ab 1879 als Amtsrichter wiederum in Stuttgart tätig. Die Karriere Weizsäckers nahm 1883 mit dem Wechsel ins Stuttgarter Justizministerium Fahrt auf. Hier stieg er rasch auf, so wurde er 1886 Kanzleidirektor, sechs Jahre später Ministerialrat und 1897 Ministerialdirektor. In dieser Funktion war er zugleich Generalreferent Württembergs bei der Ausarbeitung des Bürgerlichen Gesetzbuches.
Im Jahr 1900 wurde Weizsäcker von König Wilhelm II. (1848-1921) mit der Leitung des Kultministeriums betraut. Die Bezeichnung Minister erhielt er im darauffolgenden Jahr. Clara Zetkin (1857-1933) kritisierte damals, dass Weizsäcker bei der Amtsübernahme noch über keinerlei Kompetenz auf dem Kultussektor verfügt habe und Weizsäcker selbst war sich ebenfalls seiner fehlenden Erfahrung auf diesem Gebiet der Staatsverwaltung bewusst. Allein Wilhelm II. zerstreute sämtliche Bedenken des neuen Amtsinhabers.
Tatsächlich hat Weizsäcker in seiner sechsjährigen Amtszeit ein umfangreiches Reformprogramm sowohl auf dem Schul- als auch dem Hochschulsektor in die Wege geleitet. So legte er eine neue Turnordnung für sämtliche Schultypen vor, genauso wie die Gymnasien zeitgemäße Lehrpläne erhielten. Vor allem aber wurden die höheren Mädchenschulen in ihrem rechtlichen Status den höheren Knabenschulen gleichgestellt. Beide unterstanden nun der Ministerialabteilung für höhere Schulen im Kultministerium. Damit einhergehend wurden die weiblichen Lehrkräfte an höheren Mädchenschulen auch rechtlich mit ihren männlichen Kollegen auf die gleiche Stufe gestellt. Ferner erhielten Frauen nunmehr grundsätzlich gleichberechtigten Zugang zu den Universitäten.
Unter Weizsäcker als Kultminister erhielt die Universitätsklinik Tübingen einen Erweiterungsbau, wofür der Minister mit einem Ehrendoktortitel ausgezeichnet wurde. Aber auch die Stuttgarter Hochschulen genossen die Förderung des Ministers: Die TH Stuttgart erhielt das Promotionsrecht für technische und naturwissenschaftliche Disziplinen und wurde in der Folgezeit mit der Landesuniversität in Tübingen gleichgestellt. Die landwirtschaftliche Unterrichts-, Versuchs- und Musteranstalt Hohenheim wurde zur Landwirtschaftlichen Hochschule erhoben und aus der Staatlichen Kunstschule Stuttgart wurde die Königliche Akademie der Bildenden Künste.
Dagegen scheiterte die von Weizsäcker dem Landtag vorgelegte Novelle des Volksschulgesetzes 1904 am Widerstand der Katholischen Zentrumspartei. Zwar nahm die II. Kammer das neue Volksschulgesetz gegen die Stimmen von SPD und Zentrum an, jedoch verweigerte eine von den katholischen Standesherren geführte Mehrheit der I. Kammer die Zustimmung. Zentrumspartei und katholische Standesherren widersetzten sich dem neuen Volksschulgesetz, da dieses das Ende der bislang ausschließlich von Geistlichen wahrgenommenen Schulaufsicht bedeutet hätte. Jedoch isolierte sich die Zentrumspartei durch ihre ablehnende Haltung, während gleichzeitig die seit den 1890er Jahren anhängige Frage einer Verfassungsreform wieder in Gang kam.
Die schließlich 1906 verabschiedete Verfassungsreform hatte zur Folge, dass die II. Kammer des Stuttgarter Landtags sich fortan ausschließlich aus vom Volk gewählten Abgeordneten zusammensetzte. Die bislang ebenfalls in der II. Kammer vertretenen Angehörigen des niederen Adels wurden in die I. Kammer versetzt, so dass dort die bis dahin bestehende katholische Dominanz aufgebrochen wurde. Es zogen zudem jetzt Vertreter von Handel und Industrie, Landwirtschaft und Handwerk in die I. Kammer ein, so dass diese teilweise berufsständischen Charakter erhielt.
Mit den neu zusammengesetzten Kammern konnte Weizsäcker ab Ende 1906 als Ministerpräsident eine breite Fülle weiterer Reformbestrebungen verwirklichen: Denn schon im April 1906 war Weizsäcker vom Kult- ins Außenministerium übergewechselt. In seinem neuen Amt war er zugleich für Verkehrsfragen wie auch für die Ordenskanzlei zuständig. Im Dezember folgte er Wilhelm von Breitling (1835-1914) als Ministerpräsident, wobei er zugleich das Außenministerium beibehielt. Die Arbeit Weizsäckers als Ministerpräsident wurde zudem dadurch erleichtert, dass ihn und König Wilhelm II. ein enges Vertrauensverhältnis verband und der Monarch mit seinem engsten Mitarbeiter in nahezu allen politischen Fragen übereinstimmte.
Die „Ära Weizsäcker“ galt in Württemberg bis zum Ausbruch des Ersten Weltkriegs als eine überaus glückliche. Im Jahr 1907 konnte der neue Ministerpräsident den Kammern des Landtags die Pläne für den neuen Stuttgarter Hauptbahnhof vorlegen. Auch der Baubeginn fällt noch in die Amtszeit Weizsäckers, infolge Verzögerungen während des Ersten Weltkriegs konnte der erste Bauabschnitt jedoch erst 1922 vollendet werden. Noch in der Monarchie wurde dagegen der Güterverladebahnhof in Kornwestheim seiner Bestimmung übergeben. Zu den Bahnbauten traten weitere Initiativen im Bereich Bau und Verkehr: So erließ Weizsäcker als Ministerpräsident eine neue Bauordnung samt Denkmalschutzvorschriften und regelte 1912 die Landeswasserversorgung neu. Zudem entstanden erste Pläne für die Kanalisation des Neckars, die jedoch erst in der Weimarer Zeit verwirklicht wurden. Ebenfalls erst in der Weimarer Zeit gingen die württembergischen Staatseisenbahnen in der Reichseisenbahn auf. Weizsäcker hätte diese aus Rentabilitätsgründen gerne schon früher mit einer anderen deutschen Staatseisenbahn zusammengeschlossen, jedoch kam es 1908 lediglich zur Schaffung einer Güterwagengemeinschaft.
Den größten Erfolg Weizsäckers bildete das von ihm und seinem Nachfolger als Kultminister, Karl von Fleischhauer (1852-1921), 1909 vorgelegte und von den Kammern in jetzt veränderter Zusammensetzung gebilligte Volksschulgesetz. Dieses sah zwar die Beibehaltung der Konfessionsschule vor, zog nun aber eben auch Laien für die Schulaufsicht heran. Gleichzeitig wurde der Klassenteiler auf maximal 60 Schüler gesenkt und die Ausbildung der Volksschullehrer normiert und professionalisiert. In diesem Zusammenhang entstanden neue Lehrerseminare in Backnang, Heilbronn und Rottweil. Außerdem wurden einheitliche Lehrpläne eingeführt und insgesamt mehr Geld für das Volksschulwesen aufgewandt.
Mit Blick auf die Vereinfachung der Verwaltung konnte Weizsäcker 1911 endlich den Geheimen Rat abschaffen. Bei diesem handelte es sich um ein aus der vorkonstitutionellen Zeit bis dato übernommenes Beratungs- und Entscheidungsgremium des Königs, das sich jeglicher Kontrolle seitens des Parlaments entzogen hatte. Allerdings hatte der Geheime Rat schon 1876 mit der Bildung des Staatsministeriums an Bedeutung verloren, so dass seine Abschaffung von den Zeitgenossen als überfällig angesehen wurde. Dagegen ist es Weizsäcker nicht gelungen, die Zahl der Oberämter zu reduzieren – hier waren die Widerstände bei den Oberämtern selbst zu stark. Eine Aufhebung der Kreisregierungen scheiterte am Widerspruch der I. Kammer.
Über seine Tätigkeit in Stuttgart hinaus hat Weizsäcker im Auswärtigen Ausschuss des Bundesrates versucht, auch die Außenpolitik des Reichs im Sinne eines Ausgleichs mit Großbritannien zu beeinflussen. Hierbei stand er mit dem ebenfalls in Stuttgart geborenen Staatssekretär im Auswärtigen Amt, Alfred von Kiderlen-Wächter (1852-1912), in engem Austausch. Bereits am Beginn des Weltkriegs äußerte sich Weizsäcker pessimistisch; am Ende des Krieges, so Weizsäcker im Familienkreis, stehe zwangsläufig eine Revolution. Entsprechend skeptisch war er gegenüber den wiederholten Siegesmeldungen. Schließlich protestierte er im Februar 1917 vergeblich im Bundesrat gegen die Durchführung des uneingeschränkten U-Boot-Krieges.
Wenngleich in der Amtszeit Weizsäckers ein breites Bündel von Reformen verabschiedet worden war und eine Weiterentwicklung der Verfassung stattgefunden hatte, so lehnte der Ministerpräsident den von Conrad Haussmann (1857-1922) schon 1907 und erneut während des Weltkriegs geforderten Übergang zum parlamentarischen System recht scharf ab. Weizsäckers verstand sich entsprechend der Staatslehre des Konstitutionalismus des 19. Jahrhunderts ausschließlich als Vertrauensmann des Monarchen, der als Regierungschef über den Parteien stand. Aus diesem Grund hatte er auch nach seiner Berufung zum Minister seine Mitgliedschaft in der nationalliberalen Deutschen Partei aufgegeben. Als es ab Oktober 1918 zunächst in Berlin und schließlich auch in Stuttgart zur Schaffung einer parlamentarischen Regierung kam, legte Weizsäcker sein Amt am 6. November 1918 nieder.
Nach seinem Rückzug aus der Politik handelte Weizsäcker mit der neuen republikanischen Regierung die am Ende recht großzügig bemessene Abfindung für den abgedankten König Wilhelm II. aus, die u.a. auch den Schutz von dessen Privatvermögen und dessen Wohnrecht in Schloss Bebenhausen beinhaltete.
Weizsäcker starb am 2. Februar 1926 in Stuttgart an den Folgen eines Schlaganfalls, seine Asche wurde auf dem Pragfriedhof beigesetzt.