《八路军进行曲》创作于1939年,歌词作者公木,曾是一名文武双全的抗日战士。公木的真名叫张松如,原任吉林大学副校长,1910年出生于河北辛集北孟家庄一个农民家庭,在外祖父的帮助下入学念书。公木1938年8月从抗战前线去延安,在延安抗大学习。学习期间,他利用业余时间写歌词、诗歌。学习结束后,组织上留他在抗大政治部宣传科当时事政策教育干事。此时,郑律成在抗大政治部宣传科任音乐指导,给抗大学员教唱歌。在一起工作中,他和郑律成配合得很好。当时,郑律成住在他隔壁,他俩像亲兄弟一样友好,郑律成常到他的住处来玩。一天,郑律成坐在他床上翻看他的笔记本,发现他那个本上有很多诗,高兴得不得了,很快为《子夜岗兵颂》谱了曲。郑律成唱给他听,他听后非常高兴,说:"一首诗变成一支歌,那确实是一个质的飞跃。"到了1939年四五月间,郑律成提出搞个"八路军大合唱",约他写词。郑律成还说,什么叫大合唱,就是多搞几首歌嘛。此时,冼星海与光未然也提出搞"黄河大合唱"。"大合唱"这名称,就是这样来的。虽然公木住在山洞里,心胸和视野还是很开阔的。他首先写了《八路军军歌》和《八路军进行曲》,接着还写了《骑兵歌》《炮兵歌》。8月份,"八路军大合唱"的歌词全部写完。延安的条件是很艰苦的。当时抗大连风琴也没有,郑律成就哼着作曲,他唱,公木听。9月份,曲还没作完,郑律成就调到鲁艺音乐系去了。鲁艺音乐系的条件好一点,有乐器。10月份,郑律成作曲完毕,"八路军大合唱"的全部歌曲印成油印小册子,传遍全延安,传遍全军,掀起了唱歌高潮,前方后方都唱。1940年5月,《八路军军歌》和《八路军进行曲》两支歌刊登在总政主编的报刊上。总政宣传部部长萧向荣还专门请公木和郑律成去吃饭,说了很多鼓励他们的话。
公木教授曾说:"如果我不坐几次牢,不亲身参加抗战,不亲自作抗战时事研究,那是绝对写不了这样的歌词的。在'八路军大合唱'中,抗战的三个阶段,我都写上了,写成大兵团音乐形象,不是个游击队的形象。其实,1939年还没有形成大兵团,但要站在抗战形势发展的高度去写。这是我当时的一种真感情,很自然很自觉地写的。不是首长叫写的,也没有谁告诉我要这么写,也没领导提意见,更没有开什么研讨会。回想起来,那时我们二人胆子也真够大的,既没有请示也没有汇报,一写就是军歌、进行曲。这样的环境,我想只有在那个年代才有,在任何时候可能都是不行的。"
抗日战争胜利后,将《八路军进行曲》原歌词作了适当的调整,原歌词"自由的旗帜高高飘扬,改为朱德的旗帜高高飘扬",由中央军委改名为《中国人民解放军进行曲》。解放后,又改为毛泽东的旗帜高高飘扬。1988年7月25日,经党中央批准,中央军委决定将《中国人民解放军进行曲》定为中国人民解放军军歌。