Песня "На поле танки грохотали" сложена в начале Великой Отечественной войны. Она представляет собой переделку старой шахтёрской песни "Коногон", прозвучавшей в фильме "Большая жизнь" (1939 г.). Видимо, именно из него мелодия шагнула в фольклор Великой Отечественной войны. В фильме её исполняет отрицательный герой-вредитель Макар Лаготин. На фронт ушла и другая песня, специально написанная для "Большой жизни" - "Спят курганы тёмные" (муз. Н. Богословского, сл. Б. Ласкина).

Как и у всякой народной песни, у этой песни существует огромное количество вариантов не только для танкистов, но и для других военных профессий: лётчиков, десантников, матросов, партизан. Варианты отличаются не только по содержанию, но и по числу и очерёдности куплетов.