Đã qua 60 năm, có lẽ đến nay ít ai biết được tường tận sự ra đời của bài hát lịch sử đó. Nhạc sĩ Hoàng Vân kể lại: Tiểu đội của ông nằm dưới sự chỉ huy của Sư đoàn 312, một trong những sư đoàn mở đường trong chiến dịch Điện Biên Phủ. Ông được phân công dẫn đường cho các nghệ sĩ văn công của Tổng cục Chính trị đến thăm các tiểu đội trong Sư đoàn. Những chuyến đi đó đã giúp ông tận mắt chứng kiến nhiều chiến công oanh liệt và sự hy sinh của các tiểu đội kéo pháo. Tinh thần quả cảm của họ lay động lòng ông. Hình ảnh của những tiểu đội pháo binh kéo những khẩu pháo lên đồi, xuống lũng trên đường hành quân cứ lặp đi lặp lại trong tâm trí ông ngày cũng như đêm. Trời đã về khuya, nằm trong hầm ông không thể nào ngủ được, ông bước ra ngoài, đi trong màn đêm, ánh trăng hôm đó mờ ảo, màn sương đêm lạnh lẽo. Bất thình lình ông nghe thấy tiếng gáy của một con gà rừng trước hầm. Tiếng gà gáy ấy không chỉ báo hiệu bình minh đang tới, mà còn biểu hiện cho khát vọng chiến thắng tha thiết của quân đội ta. Điều đó đã để lại ấn tượng mạnh mẽ trong ông. Quay trở lại hầm, ông đặt bút xuống và viết: “Gà rừng gáy trên nương rồi...”. Các giai điệu cứ thế được tuôn trào. Ông sử dụng nhịp 2/4 để diễn tả nhịp của những người lính khi kéo những khẩu pháo qua các dốc, các sườn núi cao. Những người lính ở trước và sau 2 đầu của sợi dây vừa hát vừa hò kéo pháo lên những dốc núi cao, xuyên vào màn đêm, giữa ranh giới của sự sống và cái chết trong tiếng bom pháo của địch. Có những lúc, tiếng pháo nổ ở rất gần. Một lần, sợi dây dùng để kéo những khẩu pháo có trọng lượng hàng tấn bị một mảnh pháo bất ngờ rơi vào. Sợi dây đứt, khẩu pháo lao nhanh xuống khe núi, Tô Vĩnh Diện nhào xuống, dùng chính thân mình cản lại. Hành động anh hùng đó ăn sâu vào tâm trí của ông và nó đã trở thành nốt nhạc, lời ca hòa quyện cùng nhau tuôn chảy dưới ngòi bút. Khi viết xong, trong thời gian ngừng nghỉ giữa hai trận đánh, ông đã hát cho đồng đội nghe. Tất cả mọi người đã cùng nhau hát suốt cả ngày hôm đó, đợi đến lúc xung trận cho một chiến thắng mới.
Điện Biên Phủ giải phóng, ông được sang Trung Quốc học thanh nhạc và trở thành nhạc sĩ. Ngoài sáng tác ca khúc, ông còn có nhiều tác phẩm khí nhạc mang đầy tính hiện đại nhưng cũng rất Việt Nam.
Rồi đất nước bước vào giai đoạn kháng chiến chống Mỹ ác liệt, những ca khúc nổi tiếng như: “Quảng Bình quê ta ơi”, “Hà Nội - Huế - Sài Gòn”, “Hai chị em”, “Bài ca xây dựng”, “Tôi là người thợ mỏ”... lần lượt ra đời và có sức cổ vũ toàn dân bước vào cuộc chiến đấu mới tới ngày toàn thắng của dân tộc.
Nhạc sĩ Hoàng Vân đã được Nhà nước trao tặng giải thưởng Hồ Chí Minh. Bản thân tác giả đã được Đại tướng Võ Nguyên Giáp đích thân trao tặng Huân chương Chiến công hạng Ba trong chiến dịch Điện Biên Phủ.