Die Teufelsmauer ist eine auf einer Länge von insgesamt 30 km aus der Landschaft herausragende Felsformation. Die Teufelsmauer bildet aber nur in bestimmten Abschnitten die für sie charakteristischen Felsformationen. Sie besteht aus Sandsteinen der Oberkreide, die im Vorland des sich heraushebenden Harzes im Subhercynen Kreidebecken bei flachmarinen Bedingungen abgelagert wurden. Begrenzte Bereiche wurden durch Kieselsäure stark verfestigt und bilden die markanten Felsformationen. Durch die Heraushebung und Überschiebung des Harzes auf das Vorland wurden die Sandsteine nach ihrer Ablagerung steil gestellt und durch die Erosion der weicheren Schichten herauspräpariert.
Durch die tektonische Beanspruchung der Sedimente entstanden die für die Verfestigung der Sandsteine verantwortlichen Deformationsbänder.
Die Teufelsmauer verläuft im nordöstlichen Harzvorland von Ballenstedt über Rieder und Weddersleben bis nach Blankenburg.