Die Jakobschule wurde in den Jahren 1884 bis 1886 vom Baumeister Adolf Wolff unter Mitarbeit von P. Burckhardt als zweiflügliger Bau für Knaben und Mädchen mit einer Backsteinfassade im Stil der niederländischen Renaissance errichtet.
Großteils steht der Schulkomplex auf dem 1823 aufgelassenen Jakobfriedhof, welcher 1564 für die rund 4.000 Opfer der Pestepidemie vor den Toren der Stadt Stuttgart angelegt worden war. Der vierstöckige Bau wurde seinerzeit für 36 Klassen mit je rund 60 Schülern errichtet. Neben den Unterrichtsräumen hat der Bau noch Wohnungen für ledige Lehrer erhalten. Auch verfügte das Schulgebäude über eine Art Badebereich mit Zinkwannen für die Schüler. Die Toiletten wurden aus hygienischen Gründen abseits des Gebäudes im Hof angelegt, nahe eines vorhandenen Quellwasserbrunnens. Heute wird Wolff's Schulbau als Beispiel für die Umsetzung von sozialreformerischen Ideen gesehen. Das Souterrain war einer Polizeistation mit Arrestzellen vorbehalten.
Die Fassade ziert bis heute das Stuttgarter Rössle auf einem Goldmosaik. Das Stadtwappen lässt sich bis ins Jahr 1312 zurückverfolgen. Damals waren es noch zwei Pferde, welche nach rechts aufsteigen. 1433 ist erstmals ein einzeln aufsteigendes Rössle im Stadtwappen zu sehen und 1699 in einem Wappenbuch das aufsteigende Pferd mit goldenem Hintergrund, in Anlehnung an das württembergische Hauswappen, dargestellt. Bis dahin war der Hintergrund bei allen Wappen der Stadt Stuttgart in Silber gehalten. Im Lauf der Jahrhunderte hat sich die Form des Pferdes immer wieder geändert. Die Farben sind jedoch gleich geblieben. Mal war ein steigendes, mal ein stehendes, mal ein schreitendes Pferd dargestellt. Das Stadtwappen, wie wir es heute kennen, wurde am 11. April 1938 als offizielles Wappen der Stadt Stuttgart festgeschrieben.
In direkter Nachbarschaft zur Jakobschule, steht die Feuerwache Süd. Auch ist das Stuttgarter 'Rotlichtviertel' in unmittelbarer Nachbarschaft zu finden. Die Jakobschule ist die einzige öffentliche Grundschule in Stuttgart Mitte. Heute werden an ihr ca. 200 Schüler unterrichtet, im Gegensatz zu ihrer Eröffnung, als sie für gut 2.100 Schüler vorgesehen war.