Для фашистских захватчиков смоленско-московское направление было ключевым и 13 июля 1941 года немецкие войска вторглись в пределы Cмоленской области, а к 16 июля их передовые части уже были в Смоленске. Бои на улицах города длились несколько недель и в итоге, 29 июля, части Советской Армии были вынуждены отступить, не выдержав напор превосходящих сил противника.
Контроль над городом советские войска вернули в 1943 году, в ходе Смоленской наступательной операции, проведенной с 7 августа по 2 октября. В результате операции, гитлеровская группировка потерпела значительное поражение, при этом был расширен общий фронт наступления Советской Армии. С 15 сентября войска Западного и Калининского фронтов провели Смоленско-Рославльскую наступательную операцию, ставшей заключительной частью Смоленской операции. В задачу входило окончательный разгром группировки немецко-фашистских войск на смоленском и рославльском направлениях, освобождение Смоленска и Рославля, а также наступление на Оршу и Могилёв. По замыслу советского командования, силы противника должны были быть расчленены рядом фронтальных ударов и уничтожены по частям при содействии Калининского фронта, который одновременно проводил Духовщинско-Демидовскую операцию.
Советские войска прорвали главную полосу обороны противника в первый же день и практически на всех направлениях. Главный удар фронт наносил в центре силами 10-й гвардейской, 21-й и 33-й армий в общем направлении на Починок, Оршу, вспомогательные удары — армиями правого крыла (31-я, 5-я и 68-я) на Смоленск и левого крыла (49-я и 10-я) на Рославль. 16 сентября прорыв был расширен до 20 км по фронту и до 10 км в глубину на главном направлении удара. Существенных успехов добились и соединения части 31-й армии, которые посредством маневрирования обходили очаги сопротивления, в результате чего сумели прорвать последний оборонительный рубеж. В этот же день войска 31-й армии овладели городом и железнодорожной станцией Ярцево, которые были важным опорным пунктом обороны немецко-фашистских войск на подступах к Смоленску.
23 сентября, когда в Рославле уже шли уличные бои и был взят город Починок, советские войска перерезали железную и шоссейную дороги Смоленск — Рославль, охватив вражескую группировку к югу от Смоленска. 25 сентября соединения 31-й и 5-й армий форсировали с ходу Днепр и освободили Смоленск. Тем временем, соединения 10-й Армии заняли Рославль. К первым числам октября советские войска вышли на рубеж Рудня, Дрибин, Славгород, где по приказу Ставки Верховного Главнокомандования наступление было прекращено.
В освобожденном Смоленске перед советскими бойцами предстала жуткая картина: весь город горел, в городском саду лежали трупы людей и лошадей, на месте довоенного льнокомбината возвышались виселицы, на каждой из которых было повешено несколько человек.