Als sich Anfang April 1945 die amerikanischen Truppen näherten, ließ die SS die Mittelbau-Lager räumen. In Bahntransporten oder auf Fußmärschen sollten die Häftlinge in andere Lager gebracht werden. In aller Eile und mit großer Brutalität trieben die Wachmannschaften die Lagerinsassen in Güter- und Viehwaggons. Mehrere Züge mit Tausenden von Menschen verließen bis zum 6. April den Südharz in Richtung der Konzentrationslager Bergen-Belsen bei Celle, Sachsenhauen nördlich von Berlin und Ravensbrück an der Havel. Außerdem schleppten sich viele Kolonnen erschöpfter Häftlinge, angetrieben von den Wachmannschaften, zu Fuß über den Harz. Die Anwohner in den Ortschaften wurden zu Zeugen der Todesmärsche. Die Häftlinge waren völlig unzureichend gekleidet und wurden kaum mit Lebensmitteln versorgt. Diejenigen, die erschöpft am Wegesrand zusammenbrachen oder zu fliehen versuchten, wurden von SS- oder Wehrmachtangehörigen getötet. Teilweise waren Polizei, Volkssturm, Hitler-Jugend und auch Zivilisten an den Morden beteiligt. Nach vorsichtigen Schätzungen starben bis zu 10 000 Häftlinge aus dem KZ Mittelbau während der Todesmärsche und Räumungstransporte.

Anlässlich des 35. Jahrestages der DDR ließ der Rat des Kreises zur Erinnerung an die Todesmärsche aus dem KZ Mittelbau-Dora elf Gedenkstelen in der Region Nordhausen errichten. Am 1. Juli 1984 weihte Paul Greulich, Vorsitzender des Komitees der antifaschistischen Widerstandskämpfer, die Stele an der Dr.-Robert-Koch-Straße in Nordhausen-Nord ein. Entlang der Routen der Todesmärsche findet sich in Thüringen eine Vielzahl ähnlicher Gedenkzeichen.