22 ноября 1951 года И. В. Сталиным было подписано Постановление об изготовлении опытного образца трубопровода нового поколения. Военному министерству СССР и Миннефтепрому было поручено провести совместные испытания трубопровода в полевых условиях.
14 января 1952 года Директивой Военного Министра (Маршала Советского Союза А. М. Василевского) на основании принятого Постановления был сформирован первый «Отдельный батальон по перекачке горючего по трубопроводу». Дата подписания Директивы считается днем рождения трубопроводных войск.
Постепенно первые подразделения трубопроводных войск превратились в регулярные войска. Серьезной проверкой боеготовности трубопроводных войск стало их участие в боевых действиях на территории Афганистана, где были развернуты полевые магистральные трубопроводы общей протяженностью более 1200 километров, по которым было подано 5,4 миллиона тонн горючего, что составило 80 процентов от общего объема подвоза.
Разнообразные возможности войск не раз подтверждались в мирное время при ликвидации последствий чрезвычайных ситуаций природного и техногенного характера: тушении больших лесных пожаров и возгораний торфяников, ликвидации последствий аварии на Чернобыльской АЭС, землетрясения в 1989 году в Армении, а также в ходе контртеррористической операции на Северном Кавказе.
К концу 80-х годов трубопроводными войсками были проведены лучшие в мире полевые сборно-разборные магистральные трубопроводы. В настоящее время трубопроводные войска входят в состав Центрального управления ракетного топлива и горючего Министерства обороны Российской Федерации, которое относится к тыловым видам вооруженных сил. Основное их «вооружение» составляют трубопроводы, трубомонтажная техника и другие средства механизации работ, а также специальные автомобили и средства связи.