Geomorphologisch wird vor allem einerseits zwischen der Ostabdachung mit meist gerundeten Bergformen und weiten Hochplateaus (sogenanntes danubisches – donaubündiges – Relief, besonders augenfällig im Norden und Osten auf Buntsandstein) und andererseits dem intensiv zertalten Abbruch zum Oberrheingraben hin (sogenannter Talschwarzwald mit rhenanischem – rheinbündigem – Relief) unterschieden. Dort liegen die höchsten Erhebungen und treten die größten unmittelbaren Höhenunterschiede (bis 1000 m) auf. Die Täler sind meist eng, oft schluchtartig, seltener beckenförmig. Die Gipfel sind gerundet, es kommen aber auch Plateaureste und gratartige Formen vor.

Geologisch ergibt sich die augenfälligste Gliederung ebenfalls in ostwestlicher Richtung. Den Ostschwarzwald bedeckt über größere Flächen das unterste Glied des Südwestdeutschen Schichtstufenlandes, der Buntsandstein, mit endlos scheinenden Nadelwäldern und davon umschlossenen Rodungsinseln. Das im Westen freiliegende Grundgebirge, überwiegend aus metamorphen Gesteinen und Graniten aufgebaut, war trotz seiner Steilheit leichter zu besiedeln und erscheint heute mit seinen vielgestaltigen Wiesentälern offen und freundlicher.

Der Feldberg, höchster Berg des Schwarzwalds.

Die gängigsten Gliederungen teilen den Schwarzwald jedoch in nordsüdlicher Richtung. Zunächst, bis etwa in die 1930er Jahre, wurde der Schwarzwald in Nord- und Südschwarzwald geteilt, wobei man die Grenze an der Kinzigtallinie zog. Später wurde der Schwarzwald in den waldreichen Nordschwarzwald, den im Mittel niedrigeren, vorwiegend in den Tälern landwirtschaftlich geprägten Mittleren Schwarzwald sowie den deutlich höheren Südschwarzwald mit ausgeprägter Höhenlandwirtschaft und von eiszeitlichen Gletschern geprägtem Relief aufgeteilt. Der Begriff Hochschwarzwald stand für die höchsten Bereiche von Südschwarzwald und südlichem Mittelschwarzwald.

Die gezogenen Grenzen waren jedoch sehr verschieden. Robert Gradmann nannte 1931 als Mittleren Schwarzwald den Einzugsbereich der Kinzig und dazu im Westen den Abschnitt bis zur unteren Elz und zum Kinzig-Zufluss Gutach. Eine pragmatische Gliederung, die sich nicht an Natur- und Kulturräumen orientiert, nutzt die wichtigsten Quertäler. Ihr zufolge wird der Mittlere Schwarzwald von der Kinzig im Norden und der Linie Dreisam–Gutach (Wutach) im Süden begrenzt, entsprechend der Bonndorfer Grabenzone und dem Verlauf der heutigen B 31.

Rudolf Metz fasste 1959 die bisherigen Gliederungen zusammen und schlug selbst eine modifizierte Dreiteilung vor, die natur- und kulturräumliche Ansätze verbindet und weite Verbreitung fand. Sein Mittlerer Schwarzwald wird im Norden von der Wasserscheide zwischen Acher und Rench und im weiteren Verlauf zwischen Murg und Kinzig bzw. Forbach und Kinzig begrenzt, im Süden von der Bonndorfer Grabenzone, die den Schwarzwald im Osten einschnürt wie der Freudenstädter Graben weiter nördlich am Übergang zum Nordschwarzwald.

Die Schwarzwald-Randplatten sind aus Sedimenten des Oberen Buntsandsteins aufgebaut und leiten hinsichtlich Klima, Standortverhältnissen, Vegetation, Nutzung und Besiedlungsdichte zu den angrenzenden Gäulandschaften über. Die durchschnittliche Jahrestemperatur beträgt 8,5°C in den Tälern um 250 m NN, geht aber auf den Höhen um 800 m NN auf 6,0°C zurück. Auch die durchschnittlichen Jahresniederschläge schwanken stark von 720 mm am Ostrand bis zu 1300 mm im Südwesten. Die Verteilung von Acker, Grünland und Wald ist hier mit je etwa einem Drittel ausgewogen. Streuobstwiesen sind landschaftsprägend vorhanden.

Der Grindenschwarzwald und die Enzhöhen umfassen die höchsten und niederschlagsreichsten Lagen des Schwarzwalds. Die durchschnittliche Jahrestemperatur liegt bei 8,0°C in den Tälern um 400 m NN, aber bei nur 5,0°C auf den Höhen um 1100 m NN, die Jahresniederschläge variieren von 900 mm am Nordostrand bis zu 2200 mm auf den höchsten Lagen am Westrand. Entsprechend ist der Naturraum der am dichtesten bewaldete in Baden-Württemberg. Hinzu kommt die Neigung zu Vermoorungen (Wildseemoor, Holoh) bzw. Missenbildungen.

Der Nördliche Talschwarzwald umfasst das Grundgebirge nördlich des Kinzigtals. Seine zahlreichen, zum Rhein entwässernden Täler sind wegen der angrenzenden Oberrheinebene klimatisch begünstigt. So erreichen die Täler Jahresdurchschnittstemperaturen von 9,0°C, an den Hängen 7,5°C. Der durchschnittliche Jahresniederschlag liegt bei 1000 mm im Murgtal bis zu 2200 mm auf den höchsten Lagen am Ostrand. Die Täler der dem Rhein in Ost-West-Richtung zustrebenden Flüsse sind vom Obstbau geprägt, während der Grünlandanteil an sich sehr gering ist. Ackerbau wird ebenfalls nur auf wenigen Flächen betrieben, wobei der Anteil der Intensivkulturen mit 25% hoch ist.

Der Mittlere Schwarzwald, der im wesentlichen das Grundgebirge im Einzugsbereich von Kinzig und Elz umfasst, stellt eine kuppenreiche, stark zertalte Landschaft mit zahlreichen Wiesentälern und bewaldeten Höhen dar. Aufgrund der unterschiedlichen Höhenlagen ist von der Feldgraswirtschaft auf den Höhen bis zum Obst- und Weinanbau im unteren Kinzigtal in diesem Raum jegliche Nutzung vertreten. In den Tälern, die in der Freiburger Bucht enden, sind die Böden am besten und Ackerbau stellt hier die vorwiegende Nutzung dar. Hier hat der Lämmersalat (Arnoseris minima) sein derzeitig einziges Vorkommen in Baden-Württemberg. Es ist also darauf zu achten, ob nicht weitere Vorkommen des Lämmersalates oder der anderen seltenen Arten dieser Gruppe existieren. Der Untere Grundgebirgs-Schwarzwald stellt damit eine Spitzenregion im Bezug auf Ackerwildkräuter dar. Die Jahresmitteltemperatur liegt bei 9,0°C in den Tälern um 200 m NN und 6,5°C in den Hochtälern und Höhen um 700 m NN. Der mittlere Jahresniederschlag liegt bei 980 mm an der Kinzig bis zu 2000 mm auf den höchsten Lagen südlich der Kinzig.

Der Südöstliche Schwarzwald weist ein ausgeglicheneres Relief auf als der Westrand des Schwarzwaldes. Im Nordteil sind die Gneisböden tief verwittert und meist bewaldet bzw. als Grünland genutzt. Im Süden herrscht der Granit mit grobkörnigeren Sanden vor. Die Wellenkalke der Nachbarregion reichen mit in die Einheit hinein und ermöglichen Ackerbau. Die durchschnittliche Jahrestemperatur liegt bei 6,0°C in den Tälern und 5,0°C auf den Höhen, bei mittleren Jahresniederschlägen von 800 mm am nördlichen Ostrand bis zu 2000 mm auf den höchsten Lagen im Nordwesten.

Im Hochschwarzwald befinden sich die höchsten, am Feldberg bis in die subalpine Zone reichenden, Erhebungen des Schwarzwaldes. Hochweiden prägen die Höhenlagen, Grünlandwirtschaft überwiegt. Auf tiefer gelegenen, besseren Standorten wird auch Ackerbau betrieben. Die durchschnittliche Jahrestemperatur variiert stark mit den Höhenlagen. So beträgt sie an den Hängen bei 400 m NN 9,0°C, in den Höhen bei 1.400 m NN nur noch 3,5°C. Die Jahresniederschläge liegen bei 1.000 mm am Westrand bis zu 2.000 mm auf den höheren Lagen.

Wegen seiner Unwegsamkeit wurde der Schwarzwald erst gegen Ende des 1. Jahrtausends besiedelt. Nachdem die ersten Siedler Fuß gefasst wurden, wurde der Wald kontinuierlich gerodet, um Siedlungs- und Ackerland zu erhalten, dennoch gab es noch bis ins 17. Jahrhundert hinein unerschlossene Gebiete. Erst mit der Ansiedlung zahlreicher Glashütten in den darauffolgenden 200 Jahren, die einen sehr großen Holzbedarf hatten, wurde durch weitere Rodungen noch mehr Siedlungs- und Weideland erschlossen, so dass der Waldanteil um 1780 im Südschwarzwald nur noch 30% betrug. Auch im Nordschwarzwald war der Wald stark gerodet worden, so dass BÜHLER den Nordschwarzwald um 1831 wie folgt beschreibt: „Wer den Schwarzwald recht bereist hat, wird sich wohl erinnern, schon von weiter Ferne her Berge und deren Einhänge gesehen zu haben, die ganz unbewaldet sich durch eine violette in’s Braune übergehende Farbe recht auffallend auszeichnen […] Dies sind die sogenannten Heideberge. Sie waren früher, wie sich fast überall durch alte Stöcke, Wurzeln und sonstige Bestandsreste nachweisen lässt, bewaldet, und zwar meistens mit Eichen. Aber üble Wirtschaft vor alten Zeiten, starkes Abrechen des Laubes, am allermeisten aber außerordentlich starke ungestörte Beweidung mit einer Menge Vieh von allen Gattungen haben diese Berge nach und nach holzlos gemacht.“

Im Nordschwarzwald wurde der Wald zu Weidezwecken gerodet. Mit dem Aufkommen der Stallfütterung im 18. Jahrhundert ließ zwar der Bedarf an Weideflächen nach, dafür gewann die Waldstreu zunehmend an Bedeutung. Bei dieser Streunutzung wurden im regelmäßigen Wechsel Bestände mit Torfmoos, Pfeifengras, Heidekraut, Zwerg-Beersträuchern und Baumkeimlinge alle 8 – 12 Jahre mit der Streusense gemäht. Dadurch wurde den ohnehin von Natur aus basenarmen Böden ein Großteil der Nährstoffe entzogen, wodurch sich zunehmend Staunässe-Böden entwickelten. Unter den Zwergsträuchern breitete sich vor allen Dingen Torfmoos und Peitschenmoos aus. Es entwickelten sich sog. „Missen“ und „Grinden“ – kleine Moore.

Im Mittleren Schwarzwald war die bezeichnende Nutzungsart die Reutweidewirtschaft. Hierbei wurden die mit Niederwald bewaldeten Berghänge jahrelang als Weide genutzt. Anschließend wurden die aufkommenden Büsche und Bäume gereutet (gehackt), dann folgte das Abziehen der Grasdecke. Die getrockneten Grassoden und das Reisig wurden anschließend verbrannt und dienten somit als Dünger, damit die Fläche 3 – 4 Jahre zum Anbau von Roggen, Kartoffeln und Hafer genutzt werden konnte. Danach diente die Fläche wieder als Weide. Die seit dem Mittelalter derart genutzten Flächen verarmten zusehends. Durch Viehtritt kam es darüber hinaus zu Bodenverdichtung und Erosion. Es entstanden die heute noch vielerorts sichtbaren Besenginsterheiden.

Im Südschwarzwald dagegen herrschten gemeindeeigene Allmend- oder Gemeinschaftsweiden vor, auf denen sich Flügelginsterweiden entwickelt haben. Trotz starker Rückgänge in den letzten Jahrzehnten umfassen diese Weiden gegenwärtig noch eine Fläche von ca. 10.000 ha. Es sind für Deutschland einzigartige kulturgeschichtliche Relikte der germanischen Agrarverfassung.

Weitere kulturgeschichtliche Relikte finden sich u.a. im mittleren Murgtal (Grindenschwarzwald), und zwar die sog. „Heuhüttentäler“. Um das Jahr 1763 wurden diese Täler von Gebüsch und Bäumen befreit, um Futterwiesen für die Viehhaltung im Dorf zu erhalten. Des Weiteren wurden Steine und Felsblöcke, welche die Wiesenbewirtschaftung erschwerten, weggeräumt und an den Flurstücksgrenzen aufgeschichtet, so dass dort teilweise meterhohe Steinriegel entstanden. Da in den engen Dörfern ausreichender Heulagerraum fehlte, wurden Hütten errichtet, aus denen im Winter mit Schlitten oder Rückenkörben das Heu zu Tale transportiert wurde.