Die JVA Stuttgart-Stammheim wurde in den Jahren 1959 bis 1963 in funktionalistischer Bauweise errichtet. Stuttgart-Stammheim war die erste große Haftanstalt, die in der Bundesrepublik gebaut wurde und das erste bundesdeutsche Gefängnis in Hochbauweise. Die klar strukturierte Architektur sollte die Inhaftierten zu einer geordneten Lebensführung anhalten und in diesem Sinne auf ihr Verhalten einwirken. Durchaus bezeichnend für die 1960er Jahre war aber auch die Technikbegeisterung, die sich im Einbau modernster Sicherheitstechnologien manifestierte.
Der Plan, für den Raum Stuttgart ein neues Untersuchungsgefängnis zu erbauen, reichte bis in die 1930er Jahren zurück. Deshalb hatte das Land Württemberg 1938 ein ca. 6,5 Hektar großes Areal in der damals noch selbständigen Gemeinde Stammheim nördlich Stuttgarts erworben. Nach Ende des Zweiten Weltkrieges wurde auf dem Gelände dann zunächst eine Wohnbausiedlung für Flüchtlinge errichtet. Mitte der 1950er Jahre fasste die Landesregierung erneut den Beschluss, ein zentrales Untersuchungsgefängnis mit rund 800 Haftplätzen zu errichten. Nachdem der Versuch, im Raum Stuttgart ein geeignetes Grundstück zu erwerben, scheiterte, wurde das Gefängnis auf dem ursprünglich vorgesehenen Gelände erbaut. Allerdings stand bei Planungsbeginn nur mehr die Hälfte der ursprünglichen Fläche zur Verfügung, die darüber hinaus aufgrund der noch verbliebenen, ungünstigen Flächenform nicht vollständig bebaut werden konnte. Der architektonische Entwurf, den die Planungskommission im Sommer 1958 vorlegte, sah aufgrund des Platzmangels und der fest vorgegebenen Zahl an Haftplätzen die Errichtung von zwei Hochhäusern vor.
Der im Herbst 1963 schließlich für 20,5 Millionen Mark fertig gestellte Neubau umfasste mehrere Zellenbauten: einen größeren achtstöckigen Zellentrakt für Männer (Zellenblock I) mit 650 Haftplätzen sowie einen kleineren, fünfstöckigen für die Frauen mit 150 Haftplätzen (Zellenblock II), einen Verwaltungs- und einen Wirtschaftsbau. Der Zellenblock I umfasste mit einer Gesamtlänge von fast 100 Metern sieben Stockwerke und war in einen „kurzen“ und einen „langen“ Flügel unterteilt. Nur das siebte Obergeschoss konzipierten die Planer als getrennte, selbständige Einheit. Die Abteilungen dieses Stockwerks, darunter auch die sogenannte III. Abteilung, dienten ursprünglich nicht der isolierten Unterbringung besonders gefährlicher Gefangener, sondern der Inhaftierung Minderjähriger oder solcher Insassen, denen nur minderschwere Straftaten zur Last gelegt wurden. Die Möglichkeit, die hier untergebrachten Gefangenen räumlich vollständig separieren zu können, war dann zwölf Jahre später ausschlaggebend für die Entscheidung, die RAF-Mitglieder im „kurzen“ Flügel des siebten Stocks zu inhaftieren.
Die Gefängniszellen waren nur sehr einfach ausgestattet, verfügten jedoch über jeweils eigene Waschbecken und Wasserklosetts. Verglaste Stahlgitter und eine zentrale Schließanlage sollten ein Höchstmaß an Sicherheit garantieren. Eine architektonische Besonderheit war die Gestaltung der Außenfassade. Die sägezahnartige Ausprägung sollte eine Kontaktaufnahme der Insassen unterbinden helfen. Eine etwa 750 Meter lange und 5,5 bis 7,5 Meter hohe Mauer schirmte die Anstalt nach außen ab. Die Feldraumschutzanlage an der Innenseite der Mauerkrone sowie die in allen Zellen installierten elektrischen Umstellschlösser und Gegensprechanlagen waren bedeutende technische Neuerungen.
Eng mit der architektonischen Konzeption von Stuttgart-Stammheim waren Erwartungen an die Modernisierung des Haftvollzugs verknüpft, die sich allerdings nur teilweise erfüllten: Während Stammheim bis Mitte der 1960er Jahre tatsächlich bundesweit als Modellanstalt galt, büßte die einst modernste und humanste Haftanstalt bereits vor der Verlegung der RAF-Mitglieder an Renommee ein. Spätestens Ende der 1960er Jahre hatte auch Stammheim mit den altbekannten Organisationsproblemen zu kämpfen: Überbelegung, fehlende Beschäftigungsmöglichkeiten, mangelhafte Ernährung und schlechte medizinische Versorgung. Ein menschenwürdigerer Haftvollzug, der sich deutlich gegenüber der Situation in alten Gefängnissen abheben sollte, konnte langfristig nicht verwirklicht werden. Die modernen technologischen Sicherungsmaßnahmen bewährten sich allerdings, denn zwischen 1963 und 1974 wurde nur ein erfolgreicher Fluchtversuch aktenkundig.
Zum Zeitpunkt der Verlegung von Andreas Baader, Jan Carl Raspe, Ulrike Meinhof und Gudrun Ensslin galt Stuttgart-Stammheim somit zwar nicht länger als explizit humane, aber weiterhin als besonders sichere Haftanstalt. Zudem bestand nur in Stammheim die Möglichkeit, ein Gerichtsgebäude in unmittelbarer Nähe zu einer Haftanstalt zu errichten. Im Vorfeld ihrer Unterbringung wurden 1974 in der III. Abteilung punktuelle Umbaumaßnahmen vorgenommen, die jedoch die Behauptung, hier entstehe ein „Hochsicherheitstrakt“, in keiner Weise rechtfertigten. Allerdings hatten sowohl die RAF-Gefangenen und ihre Anwälte als auch Politik und Justiz großes Interesse daran, diese Vorstellung gegenüber der Öffentlichkeit aufrechtzuerhalten.
Bereits in den zwei Jahren vor ihrer Verlegung nach Stammheim waren die inhaftierten RAF-Mitglieder mehrmals in den Hungerstreik getreten, um Verbesserungen im Haftalltag durchzusetzen und ihre Fundamentalkritik an den staatlichen Institutionen zu forcieren. Den Behörden warfen sie vor, ihnen gegenüber eine „Vernichtungshaft“ und „Isolationsfolter“ zu verfolgen. Das seit 1974 für die Haftbedingungen zuständige Oberlandesgericht Stuttgart räumte den RAF-Gefangenen in Stammheim sukzessive Privilegien ein, um diese Vorwürfe zu entkräften. Darüber hinaus sollten die Häftlinge auch davon abgehalten werden, ihre Hungerstreiks fortzusetzen. Nach dem Tod von Holger Meins in Folge seines Hungerstreiks in der JVA Wittlich am 9. November 1974 wollte das Gericht den Tod eines weiteren RAF-Gefangenen unbedingt verhindern.
Im Ergebnis führte diese Entscheidung dazu, dass die RAF-Gefangenen in Stuttgart-Stammheim gegenüber anderen Gefangenen privilegiert wurden: Ihnen standen größere Zellen zur Verfügung, ihre Verpflegung war deutlich besser und jeder Gefangene durfte ein eigens TV-Gerät besitzen. Insbesondere der richterlich genehmigte tägliche „Umschluss“ von weiblichen und männlichen Gefangenen auf dem Flur vor den Zellen, war eine absolute Ausnahme im bundesdeutschen Haftvollzug. Die Hoffnung, die RAF-Gefangenen würden nun ihre Vorwürfe aufgeben und auf weitere Hungerstreiks verzichten, erfüllten sich indes nicht. Vielmehr traten sie bis zum Frühjahr wiederholt in den Hungerstreik, um immer weiterreichende Forderungen durchzusetzen und die Mitglieder der „zweiten Generation“ zu radikalisieren. Ihr eigentliches Bedrohungspotential entfaltete die RAF erst nach der Inhaftierung ihrer Führungsmitglieder und die JVA Stuttgart-Stammheim entwickelte sich rasch zur „Hauptstadt der RAF“.
Im Jahre 1977 eskalierte schließlich der Konflikt zwischen den staatlichen Institutionen und der „zweiten Generation“ der RAF. Eine federführende Rolle spielte dabei Brigitte Mohnhaupt. Mohnhaupt war erst im Juni 1976 nach Stuttgart-Stammheim verlegt worden, nachdem sich Meinhof im Mai 1976 im Gefängnis das Leben genommen hatte. Mohnhaupt verbrachte hier knapp acht Monate gemeinsam mit Baader, Raspe und Ensslin. Unmittelbar nach ihrer Haftentlassung am 8. Februar 1977 übernahm sie dann die Führung der „zweiten Generation“ der RAF, die sich, radikalisiert durch die Diskussion um die Haft- und Prozessbedingungen, in den Jahren 1973 bis 1977 formiert hatte.
Nach der Ermordung von Jürgen Ponto und Siegfried Buback sowie der Entführung von Hanns-Martin Schleyer und der Lufthansa-Maschine „Landshut“ entschied der „Krisenstab“ der Bundesregierung, den Forderungen der RAF unter keinen Umständen nachzugeben. Noch in der Nacht des 18. Oktober 1977 nahmen sich Baader, Raspe und Ensslin in Stammheim das Leben, nachdem die Befreiung der „Landshut“-Geiseln im Radio bekannt gegeben worden war. Nur Irmgard Möller, die seit Februar 1977 in der Haftanstalt untergebracht war, überlebte schwer verletzt.
Im Zusammenhang mit dem Selbstmord der RAF-Gefangenen ergaben sich rasch zahlreiche Fragen und auch Widersprüche. Insbesondere der Umstand, dass hochgefährliche Gefangene sich in einem angeblichen „Hochsicherheitstrakt“ trotz „Kontaktsperre“ verständigen konnten, um anschließend mit Hilfe von eingeschmuggelten Schusswaffen Suizid zu begehen, sorgte für Unverständnis und Empörung. Der vom Stuttgarter Landtag eingesetzte Untersuchungsausschuss lastete die zahlreichen Sicherheitsdefizite zwar vor allem der Vollzugsleitung an; es gelang jedoch nicht, alle Fragen plausibel aufzuklären.
Im Endergebnis führten sowohl bauliche und institutionalisierte Strukturen als auch die besondere Stellung der RAF-Gefangenen dazu, dass das Sicherheitskonzept in Stammheim auf allen Ebenen bereits seit 1974 versagte – und nicht erst im Jahr 1977. Am politischen Willen, alle Widersprüche minuziös aufzuklären, fehlte es jedenfalls.
Nach dem Selbstmord der RAF-Gefangenen verfügte der neue Justizminister Guntram Palm ein neues Sicherheitskonzept für Stuttgart-Stammheim, das diesen Namen nun auch verdiente. Nach 1977 waren wiederholt Mitglieder terroristischer Organisationen in Stuttgart-Stammheim inhaftiert. Darunter etwa das ehemalige RAF-Mitglied Christian Klar, aber auch die Mitglieder der sogenannten „Sauerland-Gruppe“, einer islamistischen Vereinigung, die in der Bundesrepublik Sprengstoffanschläge auf US-Einrichtungen plante.
Nachdem der Zellenbau I rund 50 Jahre nach seiner Inbetriebnahme als zunehmend renovierungsbedürftig galt, beschloss das Finanzministerium 2012 einen konkreten Zeitplan für den Bau eines neuen Gefängniskomplex. Zunächst geplant war der Neubau von fünf Haftblöcken auf dem angrenzenden Gebiet bis 2015 und anschließend der Abriss des alten Haftgebäudes, dessen Renovierung aus wirtschaftlichen Gesichtspunkten als nicht zielführend galt. Die Fertigstellung des Neubaus verzögerte sich, und nachdem die Zahl der Gefangen seit 2015 massiv angestiegen war, wurde zuletzt diskutiert, den Zellenbau I zu erhalten und weiterhin zu betreiben.