1956 wurde eine neue Volksschule am Engländerplatz geplant. Begründet wurde dies damit, dass das St.-Dominikus-Gymnasium die an die Stadt vermieteten und der Leopoldschule zur Verfügung gestellten Schulräume (Dominikanerschule genannt) ab 1958 selbst benötigte. Ins Auge gefasst wurden 20 Klassenzimmer und die entsprechenden Nebenräume. Im Mai 1956 wurde ein Architekturwettbewerb ausgeschrieben. Der erste Bauabschnitt sollte noch 1956 erfolgen.

Im Sommer 1956 begutachtete das Preisgericht 25 Entwürfe. Aber kein einziger war dabei, der 100-prozentig Zustimmung fand. Die drei besten Arbeiten wurden als gleichwertig befunden und mit je 3000 DM bedacht. Die neue Volksschule sollte in drei Bauabschnitten errichtet werden und war gedacht als Ersatz für die alte Dominikanerschule. Zugleich sollte sie als Ausbildungsschule für das Pädagogische Institut dienen. Der Entwurf des Regierungsbaumeisters Arthur Brunisch erhielt den Zuschlag, wurde aber noch in einigen Punkten geändert (Treppenhaus und WC-Anlage). Da sich der Baubeginn verzögerte, konnte die Schule nicht 1957 fertiggestellt werden.

Am 15. Oktober 1957 stimmte der Gemeinderat dem Vorschlag des Stadtschulamtes zu, der neuen Schule den Namen „Hebelschule“ zu geben.

Am 20. März 1958 konnte das Richtfest gefeiert werden, der Rohbau war vollendet. Beim Richtfest trug der Männerchor des MGV Lieder-kranz drei Hebel-Lieder vor.

In den BNN hieß es am 21.3.: „Die auf der Nordseite der Moltkestraße in der Nähe des Engländerplatzes gelegene Hebelschule wird nach ihrer Fertigstellung ein Schmuckstück innerhalb des Schulhausaufbaues der Nachkriegszeit darstellen (...) - darauf hat der Oberbürgermeister beim gestrigen Richtfest verwiesen (...) Abgesetzt vom Lärm des Straßenverkehrs auf der Moltke-straße steht die neue Volksschule mitten im Grünen, fast versteckt zwischen den Laubbäumen des Hardtwaldes, (...)"

Eingeweiht werden konnte die Johann-Peter-Hebel-Schule am 24. September 1958. Am Vormittag nahmen die bisher in der Dominikanerschule untergebrachten Schüler die neue Schule in Besitz. Nachmittags fand vor dem Eingang der Schule eine kleine Feier statt, bei der Johann Peter Hebels Werk mit Liedern und Gedichten im Vordergrund stand. Vier Schülerinnen trugen in Schwarzwald-Tracht Hebels „Chruetzweg" vor. Architekt Brunisch übergab den Schlüssel des Hauses an Oberbürgermeister Klotz. „Bei einem Rundgang durch die neue Schule waren die Gäste der kleinen Feier geradezu begeistert von dem so klar geplanten gut gegliederten ... und geradezu vorzüglich eingerichteten Haus. Das unteilbare Interesse aller gehörte dabei der Küche, deren Ausstattung als beispielhaft angesprochen werden muss." So zu lesen in der BNN vom 25. September 1958.

Schon in der ersten Bauphase erhielt die Schule im Innenhof einen Brunnen (beschrieben im neben stehenden Zeitungsartikel). Heute gibt es diesen Brunnen nicht mehr.

Fünf Jahre musste gewartet werden bis die Ergänzung der Hebelschule erfolgen konnte. 1963 wurde der 2. Bauabschnitt mit seinen zwölf Klassenzimmern fertiggestellt. Noch fehlte der 3. Bauabschnitt, die Sporthalle. Erst 1971 wurde sie vollendet.

15 Jahre seit den ersten Planungen 1956 vergingen, bis die Hebelschule baulich vollendet war.

Kaum war der 3. Bauabschnitt mit der Sporthalle abgeschlossen, gab es einen größeren Raumbedarf. Die vorhandenen Räumlichkeiten reichten nicht mehr, da Fachräume benötigt wurden. 1974 kam der Erweiterungsbau im südlichen Schulhof. Ein Pavillon mit vier Klassenzimmern wurde erstellt. Da der Raumbedarf mit Fachräumen zunahm, wurde der Pavillon 1992/93 mit vier weiteren Klassenräumen aufgestockt. Die Klassenzimmer im Pavillon wurden von der Grundschule genutzt, dafür konnten jeweils Zimmer im Hauptbau an die Realschule abgegeben werden.

Im Laufe der vergangenen Jahre musste viel Geld in notwendige Sanierungen gesteckt werden. So waren das Flachdach und die Fenster sanierungsbedürftig. Seit Sommer 2005 wurden in drei Bauabschnitten die Fenster erneuert; im Sommer 2008 war diese Baumaßnahme abgeschlossen.

Mit dem Jubiläumsjahr 2008 begann eine Generalsanierung in drei Bauabschnitten. Jeweils von Mai bis September erfolgten die Sanierungsmaßnahmen, die dann im Herbst 2010 beendet waren. In diesen Bauphasen mussten einige Klassen in Containern – aufgestellt im Schulhof – unterrichtet werden.

Bereits im Jahre 2001 starteten die Elternbeiräte des Bismarck-Gymnasiums, der Hebel-Real- und der Hebel-Grundschule eine Unterschriftenaktion bei den Eltern weil die Sporthallen für die zu erteilenden Sportstunden nicht ausreichten. Diese Situation führte dazu, dass das Bismarck-Gymnasium und die Hebel-Realschule viele Sportstunden in anderen Hallen – über Karlsruhe verteilt – halten mussten und immer noch müssen. Überlegungen zu einem Neubau einer Sporthalle gab es auch in der Verwaltung, zu einer neuen Sporthalle führten diese aber noch nicht. Die schwierige Sporthallen-Lage ist ein Problem unserer Schule. Daneben ist auch zu beklagen, dass die Hebelschule keine Aula oder einen großen Raum für Feiern oder Veranstaltungen mit größerer Personenzahl besitzt.

Im Januar 2010 kam in der Frage einer neuen Sporthalle endlich Bewegung. Eine Jury entschied im Wettbewerb um die Erweiterung der Hebelschule. Der Entwurf des Büros Lehmann aus Offenburg wurde als Sieger auserkoren. Das Investitionsvolumen von vier Millionen € umfasste eine Turnhalle, die drei Meter tiefer gelegt werden sollte, und einige Mehrzweckräume für die Grundschule. Das Projekt sollte Ende des Jahres 2012 realisiert sein. Allerdings kam 2011 schon das Aus des Projektes – fehlende Haushaltsmittel ließen die Erweiterung nicht zu.

Was lange währte, wurde endlich wahr: Im Jahr 2014 begann der Bau der Erweiterung mit Sporthalle und einigen Räumen für die Grundschule. 2016 wurde der Bau fertiggestellt. Im Zuge der Erweiterung bot es sich an, den Schulhof neu anzulegen - so geschehen im selben Jahr.

Seit dem Ende der 2020er Jahre wird über den Neubau der verbleibenden alten Sporthallen auf dem Hebelgelände nachgedacht.